Дом
ChatGPT запускает режим экстренной блокировки для предотвращения кражи данных без отключения сети
В целях предотвращения злонамеренного хищения конфиденциальных данных компания OpenAI внедрила новую дополнительную функцию безопасности под названием «Режим инцидента» для всех авторизованных пользователей. Этот параметр действует для всех типов учетных записей и рабочих пространств, и его могут включить как пользователи, так и администраторы. После активации ChatGPT ограничит свои возможности по веб-поиску в режиме реального времени, углубленному исследованию и работе агента. Цель состоит в создании барьера безопасности против атак с внедрением подсказок путем ограничения способности модели отправлять внешние сетевые запросы.

Ограничение доступа к Интернету для предотвращения утечек данных
В режиме инцидента просмотр веб-страниц ChatGPT в режиме реального времени строго ограничен только кэшированным контентом, что может привести к неполным или устаревшим результатам поиска. Кроме того, модель не может загружать файлы из Интернета для анализа данных, а код, сгенерированный Canvas, также не имеет права отправлять внешние сетевые запросы. Однако локальные функции, такие как загруженные пользователем изображения, изображения, сгенерированные с помощью инструментов, и история разговоров, не затрагиваются этим режимом.
Возвращение контроля над решениями по безопасности в руки пользователей
Атака типа «вставки подсказки» происходит, когда злоумышленники встраивают вредоносные инструкции в веб-страницы или документы, обманывая ИИ, заставляя его игнорировать существующие правила и отправлять конфиденциальную информацию пользователей на внешние серверы. OpenAI признает, что режим «Incident Mode» не может полностью исключить такие атаки, поскольку вредоносный код по-прежнему может быть скрыт в кэшированных веб-страницах или файлах, загруженных пользователями. Столкнувшись с реальностью, в которой более мощные возможности ИИ одновременно расширяют поверхность атаки, OpenAI предпочитает оставить выбор между «более широкими функциональными возможностями» и «меньшим риском утечки данных» за самими пользователями.
Связанная статья
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Slackbot становится ИИ-агентом
Slackbot, автоматизированный помощник, встроенный в корпоративную платформу обмена сообщениями Salesforce Slack, превращается в ИИ-агента. Технический директор Salesforce Паркер Харрис предполагает, что он достигнет вирусной популярности, сопоставимо
Рекомендации по связанным специальным темам
Комментарии (0)
В целях предотвращения злонамеренного хищения конфиденциальных данных компания OpenAI внедрила новую дополнительную функцию безопасности под названием «Режим инцидента» для всех авторизованных пользователей. Этот параметр действует для всех типов учетных записей и рабочих пространств, и его могут включить как пользователи, так и администраторы. После активации ChatGPT ограничит свои возможности по веб-поиску в режиме реального времени, углубленному исследованию и работе агента. Цель состоит в создании барьера безопасности против атак с внедрением подсказок путем ограничения способности модели отправлять внешние сетевые запросы.

Ограничение доступа к Интернету для предотвращения утечек данных
В режиме инцидента просмотр веб-страниц ChatGPT в режиме реального времени строго ограничен только кэшированным контентом, что может привести к неполным или устаревшим результатам поиска. Кроме того, модель не может загружать файлы из Интернета для анализа данных, а код, сгенерированный Canvas, также не имеет права отправлять внешние сетевые запросы. Однако локальные функции, такие как загруженные пользователем изображения, изображения, сгенерированные с помощью инструментов, и история разговоров, не затрагиваются этим режимом.
Возвращение контроля над решениями по безопасности в руки пользователей
Атака типа «вставки подсказки» происходит, когда злоумышленники встраивают вредоносные инструкции в веб-страницы или документы, обманывая ИИ, заставляя его игнорировать существующие правила и отправлять конфиденциальную информацию пользователей на внешние серверы. OpenAI признает, что режим «Incident Mode» не может полностью исключить такие атаки, поскольку вредоносный код по-прежнему может быть скрыт в кэшированных веб-страницах или файлах, загруженных пользователями. Столкнувшись с реальностью, в которой более мощные возможности ИИ одновременно расширяют поверхность атаки, OpenAI предпочитает оставить выбор между «более широкими функциональными возможностями» и «меньшим риском утечки данных» за самими пользователями.
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Slackbot становится ИИ-агентом
Slackbot, автоматизированный помощник, встроенный в корпоративную платформу обмена сообщениями Salesforce Slack, превращается в ИИ-агента. Технический директор Salesforce Паркер Харрис предполагает, что он достигнет вирусной популярности, сопоставимо











