Дом
Мередит Уиттакер подчеркивает «глубокую» безопасность, риски конфиденциальности в агентском ИИ
На конференции SXSW в Остине, штат Техас, президент Signal Мередит Уиттакер выразила серьезные опасения по поводу рисков для конфиденциальности, связанных с агентным AI. Она ярко описала использование AI-агентов как "помещение вашего мозга в банку", подчеркивая тревожную природу этой новой технологии. Уиттакер отметила, что AI-агенты, которые продвигаются как инструменты для улучшения повседневной жизни путем управления задачами, такими как поиск концертов, бронирование билетов и планирование событий, создают значительные проблемы с конфиденциальностью и безопасностью.
"Так мы можем просто поместить наш мозг в банку, потому что эта штука делает все, и нам не нужно к ней прикасаться, верно?" — размышляла Уиттакер, подчеркивая подход без вмешательства, который поощряют AI-агенты. Она продолжила, подробно описывая обширный доступ, который потребуется этим агентам, включая контроль над веб-браузерами, информацией о кредитных картах, календарями и приложениями для обмена сообщениями. "Ему нужно будет управлять этим [процессом] по всей нашей системе с чем-то вроде root-доступа, получая доступ к каждой из этих баз данных — вероятно, в открытом виде, потому что нет модели для выполнения этого в зашифрованном виде", — предупредила она.
Уиттакер также коснулась вычислительной мощности, необходимой для этих AI-агентов, отметив, что такие операции, скорее всего, будут происходить на облачных серверах, а не на устройстве пользователя. "Это почти наверняка отправляется на облачный сервер, где обрабатывается и возвращается обратно. Таким образом, существует глубокая проблема с безопасностью и конфиденциальностью, которая преследует этот ажиотаж вокруг агентов, и которая в конечном итоге угрожает разрушить барьер между слоем приложений и слоем ОС, объединяя все эти отдельные сервисы [и] смешивая их данные", — заключила она.
Она выразила особую озабоченность по поводу последствий для конфиденциальности, если приложение для обмена сообщениями, такое как Signal, будет интегрировано с AI-агентами. Такая интеграция поставила бы под угрозу конфиденциальность сообщений, поскольку агенту пришлось бы получать доступ к приложению для отправки текстов и извлечения данных для их обобщения.
Замечания Уиттакер прозвучали после того, как она обсудила зависимость индустрии AI от модели наблюдения, которая включает массовый сбор данных. Она раскритиковала парадигму AI "больше — значит лучше", которая отдает приоритет накоплению данных, предупреждая о потенциальных негативных последствиях. С агентным AI, по ее словам, мы рискуем еще больше подорвать конфиденциальность и безопасность в погоне за "волшебным джинном-ботом, который позаботится о жизненных нуждах".
Связанная статья
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
Рекомендации по связанным специальным темам
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Бизнес
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Редактирование изображений
Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
Быстрый
Лучшие библиотеки подсказок для ИИ в рабочих процессах ChatGPT
2026: новейшие и лучшие библиотеки подсказок для ИИ с высоким рейтингом, предназначенные для оптимизации всех типов рабочих процессов ChatGPT. XIX.AI подготовила мощную, революционную подборку, прошедшую тщательные тесты в реальных условиях для обеспечения максимальной производительности. Вы найдёте подробные сравнения бесплатных и платных вариантов, а также рейтинги экспертов, которые помогут вам выбрать инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и раскрыть весь потенциал ИИ. Откройте для себя их прямо сейчас!
11 инструментов
xix.ai
Образование и обучение
Платформы для создания викторин с ИИ для учителей, репетиторов и программ обучения в группах
2026 Latest Best AI Quiz Builder Platforms for Teachers, Tutors, and Cohort-Based Learning Programs! XIX.AI has curated a top-rated list of powerful game-changing tools that go through real-world tests to deliver accurate rankings. These must-try platforms help boost writing efficiency, streamline content creation, and simplify quiz design across all learning scenarios. Explore now to discover your perfect tool for unlocking your AI edge in teaching!
13 инструментов
xix.ai
Комментарии (55)
![JackAllen]()
这比喻太形象了，把大脑装进罐子，听着就让人后背发凉。AI代理越强大，隐私泄露的风险确实呈指数级增长，现在的监管根本跟不上技术迭代的速度，希望开发者们能多想想后果吧 🤔
![NicholasYoung]()
AIエージェントが脳を瓶詰めにするって表現、すごく的を射てるな。でも本当にプライバシー守れるのかな？🤔 実際に使ってみたら、自分の思考まで記録されてそうで怖い…
![PaulGonzalez]()
Stimme da voll zu! Wenn KI-Agenten wirklich wie ein 'Gehirn im Glas' agieren, wer kontrolliert dann den Deckel? 🤔 Die Euphorie um autonome Assistenten ist riesig, aber die Privatsphäre scheint dabei oft nur ein Nachgedanke zu sein. Gerade bei Finanz- oder Gesundheitsdaten finde ich das beängstigend. Wann kommt endlich mehr Transparenz, welche Daten wohin fließen?
![BrianRoberts]()
Whoa, AI agents as 'your brain in a jar'? That's a creepy way to put it, but it really makes you think about how much we’re handing over to tech. 😬 Privacy’s already a mess—do we really need AI digging deeper into our lives?
![FrankKing]()
Meredith's talk on AI privacy risks really hit home! 😳 Comparing it to 'putting your brain in a jar' is wild but makes sense. Makes me wonder how much of our data is already out there, exposed. Scary stuff!
![BrianWalker]()
Meredith Whittaker's talk at SXSW was a real eye-opener! The way she described AI agents as 'putting your brain in a jar' was chilling. It really made me think twice about the privacy risks we're facing with this tech. Definitely a must-watch for anyone concerned about digital privacy! 👀
На конференции SXSW в Остине, штат Техас, президент Signal Мередит Уиттакер выразила серьезные опасения по поводу рисков для конфиденциальности, связанных с агентным AI. Она ярко описала использование AI-агентов как "помещение вашего мозга в банку", подчеркивая тревожную природу этой новой технологии. Уиттакер отметила, что AI-агенты, которые продвигаются как инструменты для улучшения повседневной жизни путем управления задачами, такими как поиск концертов, бронирование билетов и планирование событий, создают значительные проблемы с конфиденциальностью и безопасностью.
"Так мы можем просто поместить наш мозг в банку, потому что эта штука делает все, и нам не нужно к ней прикасаться, верно?" — размышляла Уиттакер, подчеркивая подход без вмешательства, который поощряют AI-агенты. Она продолжила, подробно описывая обширный доступ, который потребуется этим агентам, включая контроль над веб-браузерами, информацией о кредитных картах, календарями и приложениями для обмена сообщениями. "Ему нужно будет управлять этим [процессом] по всей нашей системе с чем-то вроде root-доступа, получая доступ к каждой из этих баз данных — вероятно, в открытом виде, потому что нет модели для выполнения этого в зашифрованном виде", — предупредила она.
Уиттакер также коснулась вычислительной мощности, необходимой для этих AI-агентов, отметив, что такие операции, скорее всего, будут происходить на облачных серверах, а не на устройстве пользователя. "Это почти наверняка отправляется на облачный сервер, где обрабатывается и возвращается обратно. Таким образом, существует глубокая проблема с безопасностью и конфиденциальностью, которая преследует этот ажиотаж вокруг агентов, и которая в конечном итоге угрожает разрушить барьер между слоем приложений и слоем ОС, объединяя все эти отдельные сервисы [и] смешивая их данные", — заключила она.
Она выразила особую озабоченность по поводу последствий для конфиденциальности, если приложение для обмена сообщениями, такое как Signal, будет интегрировано с AI-агентами. Такая интеграция поставила бы под угрозу конфиденциальность сообщений, поскольку агенту пришлось бы получать доступ к приложению для отправки текстов и извлечения данных для их обобщения.
Замечания Уиттакер прозвучали после того, как она обсудила зависимость индустрии AI от модели наблюдения, которая включает массовый сбор данных. Она раскритиковала парадигму AI "больше — значит лучше", которая отдает приоритет накоплению данных, предупреждая о потенциальных негативных последствиях. С агентным AI, по ее словам, мы рискуем еще больше подорвать конфиденциальность и безопасность в погоне за "волшебным джинном-ботом, который позаботится о жизненных нуждах".
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
2026: новейшие и лучшие библиотеки подсказок для ИИ с высоким рейтингом, предназначенные для оптимизации всех типов рабочих процессов ChatGPT. XIX.AI подготовила мощную, революционную подборку, прошедшую тщательные тесты в реальных условиях для обеспечения максимальной производительности. Вы найдёте подробные сравнения бесплатных и платных вариантов, а также рейтинги экспертов, которые помогут вам выбрать инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и раскрыть весь потенциал ИИ. Откройте для себя их прямо сейчас!
11 инструментов
xix.ai
2026 Latest Best AI Quiz Builder Platforms for Teachers, Tutors, and Cohort-Based Learning Programs! XIX.AI has curated a top-rated list of powerful game-changing tools that go through real-world tests to deliver accurate rankings. These must-try platforms help boost writing efficiency, streamline content creation, and simplify quiz design across all learning scenarios. Explore now to discover your perfect tool for unlocking your AI edge in teaching!
13 инструментов
xix.ai
这比喻太形象了，把大脑装进罐子，听着就让人后背发凉。AI代理越强大，隐私泄露的风险确实呈指数级增长，现在的监管根本跟不上技术迭代的速度，希望开发者们能多想想后果吧 🤔
AIエージェントが脳を瓶詰めにするって表現、すごく的を射てるな。でも本当にプライバシー守れるのかな？🤔 実際に使ってみたら、自分の思考まで記録されてそうで怖い…
Stimme da voll zu! Wenn KI-Agenten wirklich wie ein 'Gehirn im Glas' agieren, wer kontrolliert dann den Deckel? 🤔 Die Euphorie um autonome Assistenten ist riesig, aber die Privatsphäre scheint dabei oft nur ein Nachgedanke zu sein. Gerade bei Finanz- oder Gesundheitsdaten finde ich das beängstigend. Wann kommt endlich mehr Transparenz, welche Daten wohin fließen?
Whoa, AI agents as 'your brain in a jar'? That's a creepy way to put it, but it really makes you think about how much we’re handing over to tech. 😬 Privacy’s already a mess—do we really need AI digging deeper into our lives?
Meredith's talk on AI privacy risks really hit home! 😳 Comparing it to 'putting your brain in a jar' is wild but makes sense. Makes me wonder how much of our data is already out there, exposed. Scary stuff!
Meredith Whittaker's talk at SXSW was a real eye-opener! The way she described AI agents as 'putting your brain in a jar' was chilling. It really made me think twice about the privacy risks we're facing with this tech. Definitely a must-watch for anyone concerned about digital privacy! 👀
