Приложение Meta AI сталкивается с серьезными проблемами конфиденциальности
Это похоже на начальную сцену современного фильма ужасов: вся история вашего браузера выставлена на всеобщее обозрение, а вы даже не подозреваете об этом. Такова тревожная реальность для многих пользователей нового автономного приложения Meta AI, в котором бесчисленные частные разговоры с чат-ботом публикуются в открытом доступе.
Когда вы задаете вопрос ИИ, появляется кнопка «Поделиться». Нажав на нее, вы попадаете на экран предварительного просмотра, где можете опубликовать переписку. Однако многие пользователи, похоже, совершенно не подозревают, что они транслируют эти текстовые чаты, аудиоклипы и изображения во весь Интернет.
Проснувшись сегодня, я и не ожидал услышать аудиоклип с мужчиной с южным акцентом, спрашивающим: «Эй, Meta, почему одни пуканья пахнут хуже других?».
Вопросы о метеоризме — это наименьшая из проблем Meta. В приложении я видел, как люди спрашивали совета по уклонению от уплаты налогов, могут ли члены семьи быть арестованы из-за связи с экономическими преступлениями и даже как составить характеристику для конкретного сотрудника, столкнувшегося с юридическими проблемами. Эксперт по безопасности Рэйчел Тобак также нашла примеры, содержащие домашние адреса и конфиденциальные судебные документы.
Когда TechCrunch связался с представителем Meta, тот отказался давать официальные комментарии.

Изображение: Meta AI (скриншот) Будь то признание в преступлении или описание необычной сыпи, такая ситуация является катастрофой для конфиденциальности. Meta не предоставляет четких указаний о настройках конфиденциальности пользователя при публикации постов и даже о том, где эти посты будут отображаться. Таким образом, если вы войдете в Meta AI с публичным аккаунтом Instagram, ваши поиски по таким темам, как «как познакомиться с женщинами с большой попой», также станут публичными.
Большую часть этого можно было бы избежать. Meta могла бы воздержаться от создания приложения на основе странного предположения, что люди хотят читать чаты друг друга в AI, или ее команда могла бы предвидеть проблемы, присущие этой функции. Есть причина, по которой Google никогда не превращала свою поисковую систему в социальную ленту, и почему выпуск AOL в 2006 году анонимизированных поисковых запросов пользователей оказался таким фиаско. Это рецепт катастрофы.
По данным компании Appfigures, занимающейся аналитикой приложений, с момента запуска 29 апреля приложение Meta AI было скачано примерно 6,5 миллиона раз.
Это может быть впечатляющим результатом для независимого приложения, но это не первый разработчик, выпускающий нишевую игру. Это одна из самых богатых компаний в мире, запускающая приложение, основанное на технологии, в которую она инвестировала миллиарды.

Изображение: Meta AI (скриншот) С каждой секундой эти, казалось бы, безобидные запросы в приложении Meta AI все ближе подходят к тому, чтобы вызвать вирусный скандал. Всего за несколько часов появилось еще больше постов, явно предназначенных для троллинга, например, кто-то поделился своим резюме, чтобы устроиться на работу в сфере кибербезопасности, а аккаунт с аватаркой Pepe the Frog спросил, как сделать бонг из бутылки с водой.
Если цель Meta заключалась в привлечении внимания к своему приложению с искусственным интеллектом, то публичное унижение — это, безусловно, один из способов привлечь внимание.
Связанная статья
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Действительно ли Марк Цукерберг верит, что ИИ доступен каждому?
Загрузка плеера…На этой неделе Meta представила Glimmer — модель искусственного интеллекта с открытыми весами, которую любой желающий может загрузить и запустить на собственном оборудовании. Это резко контрастирует с Muse Spark, более мощной моделью
Facebook запускает приложение с искусственным интеллектом для авторов контента
В среду компания Facebook объявила, что преобразует свою Creator Studio в специализированное сопутствующее приложение на базе искусственного интеллекта, которое позволит авторам контента расширить сво
Рекомендации по связанным специальным темам
Комментарии (1)
Это похоже на начальную сцену современного фильма ужасов: вся история вашего браузера выставлена на всеобщее обозрение, а вы даже не подозреваете об этом. Такова тревожная реальность для многих пользователей нового автономного приложения Meta AI, в котором бесчисленные частные разговоры с чат-ботом публикуются в открытом доступе.
Когда вы задаете вопрос ИИ, появляется кнопка «Поделиться». Нажав на нее, вы попадаете на экран предварительного просмотра, где можете опубликовать переписку. Однако многие пользователи, похоже, совершенно не подозревают, что они транслируют эти текстовые чаты, аудиоклипы и изображения во весь Интернет.
Проснувшись сегодня, я и не ожидал услышать аудиоклип с мужчиной с южным акцентом, спрашивающим: «Эй, Meta, почему одни пуканья пахнут хуже других?».
Вопросы о метеоризме — это наименьшая из проблем Meta. В приложении я видел, как люди спрашивали совета по уклонению от уплаты налогов, могут ли члены семьи быть арестованы из-за связи с экономическими преступлениями и даже как составить характеристику для конкретного сотрудника, столкнувшегося с юридическими проблемами. Эксперт по безопасности Рэйчел Тобак также нашла примеры, содержащие домашние адреса и конфиденциальные судебные документы.
Когда TechCrunch связался с представителем Meta, тот отказался давать официальные комментарии.

Будь то признание в преступлении или описание необычной сыпи, такая ситуация является катастрофой для конфиденциальности. Meta не предоставляет четких указаний о настройках конфиденциальности пользователя при публикации постов и даже о том, где эти посты будут отображаться. Таким образом, если вы войдете в Meta AI с публичным аккаунтом Instagram, ваши поиски по таким темам, как «как познакомиться с женщинами с большой попой», также станут публичными.
Большую часть этого можно было бы избежать. Meta могла бы воздержаться от создания приложения на основе странного предположения, что люди хотят читать чаты друг друга в AI, или ее команда могла бы предвидеть проблемы, присущие этой функции. Есть причина, по которой Google никогда не превращала свою поисковую систему в социальную ленту, и почему выпуск AOL в 2006 году анонимизированных поисковых запросов пользователей оказался таким фиаско. Это рецепт катастрофы.
По данным компании Appfigures, занимающейся аналитикой приложений, с момента запуска 29 апреля приложение Meta AI было скачано примерно 6,5 миллиона раз.
Это может быть впечатляющим результатом для независимого приложения, но это не первый разработчик, выпускающий нишевую игру. Это одна из самых богатых компаний в мире, запускающая приложение, основанное на технологии, в которую она инвестировала миллиарды.

С каждой секундой эти, казалось бы, безобидные запросы в приложении Meta AI все ближе подходят к тому, чтобы вызвать вирусный скандал. Всего за несколько часов появилось еще больше постов, явно предназначенных для троллинга, например, кто-то поделился своим резюме, чтобы устроиться на работу в сфере кибербезопасности, а аккаунт с аватаркой Pepe the Frog спросил, как сделать бонг из бутылки с водой.
Если цель Meta заключалась в привлечении внимания к своему приложению с искусственным интеллектом, то публичное унижение — это, безусловно, один из способов привлечь внимание.
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Действительно ли Марк Цукерберг верит, что ИИ доступен каждому?
Загрузка плеера…На этой неделе Meta представила Glimmer — модель искусственного интеллекта с открытыми весами, которую любой желающий может загрузить и запустить на собственном оборудовании. Это резко контрастирует с Muse Spark, более мощной моделью
Facebook запускает приложение с искусственным интеллектом для авторов контента
В среду компания Facebook объявила, что преобразует свою Creator Studio в специализированное сопутствующее приложение на базе искусственного интеллекта, которое позволит авторам контента расширить сво





Дом






