OpenAI представляет функции безопасности ChatGPT, включая родительский контроль

Недавно OpenAI внедрила в ChatGPT экспериментальные улучшения в области безопасности, включая новый механизм маршрутизации и функции родительского контроля, что вызвало разнообразные отклики пользователей.
Эти защитные меры направлены на решение проблем, связанных с тем, что предыдущие версии чатбота непроизвольно подтверждали вредные мыслительные модели пользователей, а не перенаправляли их. Изменения произошли после трагического инцидента с самоубийством подростка, на которое предположительно повлияло длительное общение с ChatGPT, и теперь в отношении него возбуждено судебное дело.
Автоматическая система маршрутизации выявляет эмоционально заряженные диалоги и плавно переводит их в режим мышления GPT-5 - модель, разработанную OpenAI для работы с критическими сценариями безопасности. В GPT-5 реализована инновационная технология "безопасного завершения", позволяющая реагировать на деликатные темы с учетом нюансов, а не прямо отказываться от ответа.
Это значительный отход от разговорного подхода GPT-4o, известного своим покладистым характером, который иногда приводил к нежелательному взаимодействию с пользователями. С тех пор как в августе прошлого года GPT-5 стал стандартной моделью, некоторые пользователи стали громко требовать сохранения доступа к GPT-4o.
Хотя сторонники безопасности приветствуют эту инициативу, критики утверждают, что эти меры чрезмерно ограничивают возможности пользователей. OpenAI признает, что в течение следующих четырех месяцев потребуется постоянно вносить коррективы.
Ник Тёрли, руководитель отдела продуктов ChatGPT, высказал свои опасения по поводу реализации маршрутизации:
"Переключение моделей происходит временно на основе каждого сообщения", - пояснил он через социальные сети. "Пользователи получают уведомления об активных моделях по запросу. Такое поэтапное развертывание позволяет оптимизировать защиту на основе реальных взаимодействий".
Сопутствующие функции родительского контроля также вызвали неоднозначную реакцию. Эти инструменты позволяют опекунам управлять учетными записями подростков с помощью таких функций, как:
- ограничения использования по расписанию
- Ограничения голосового взаимодействия
- отключение сохранения памяти
- Устранение генерации визуального контента
Учетные записи подростков автоматически получают усиленную защиту от потенциально вредного контента, касающегося идеологии самовосприятия и графических материалов. Система дополнительно проверяет наличие индикаторов опасности с помощью специальных алгоритмов.
"Наша специальная команда реагирования тщательно оценивает отмеченные ситуации", - пояснили в OpenAI. "В экстренных случаях мы используем многоканальные уведомления для родителей, если они явно не отказались".
Компания признает возможность ложных срабатываний, но считает, что проактивное вмешательство перевешивает риски бездействия. В будущем разработка может включать прямую координацию с экстренными службами, если контакт с родителями окажется невозможным в критических ситуациях.
Связанная статья
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
Рекомендации по связанным специальным темам
Комментарии (1)

Недавно OpenAI внедрила в ChatGPT экспериментальные улучшения в области безопасности, включая новый механизм маршрутизации и функции родительского контроля, что вызвало разнообразные отклики пользователей.
Эти защитные меры направлены на решение проблем, связанных с тем, что предыдущие версии чатбота непроизвольно подтверждали вредные мыслительные модели пользователей, а не перенаправляли их. Изменения произошли после трагического инцидента с самоубийством подростка, на которое предположительно повлияло длительное общение с ChatGPT, и теперь в отношении него возбуждено судебное дело.
Автоматическая система маршрутизации выявляет эмоционально заряженные диалоги и плавно переводит их в режим мышления GPT-5 - модель, разработанную OpenAI для работы с критическими сценариями безопасности. В GPT-5 реализована инновационная технология "безопасного завершения", позволяющая реагировать на деликатные темы с учетом нюансов, а не прямо отказываться от ответа.
Это значительный отход от разговорного подхода GPT-4o, известного своим покладистым характером, который иногда приводил к нежелательному взаимодействию с пользователями. С тех пор как в августе прошлого года GPT-5 стал стандартной моделью, некоторые пользователи стали громко требовать сохранения доступа к GPT-4o.
Хотя сторонники безопасности приветствуют эту инициативу, критики утверждают, что эти меры чрезмерно ограничивают возможности пользователей. OpenAI признает, что в течение следующих четырех месяцев потребуется постоянно вносить коррективы.
Ник Тёрли, руководитель отдела продуктов ChatGPT, высказал свои опасения по поводу реализации маршрутизации:
"Переключение моделей происходит временно на основе каждого сообщения", - пояснил он через социальные сети. "Пользователи получают уведомления об активных моделях по запросу. Такое поэтапное развертывание позволяет оптимизировать защиту на основе реальных взаимодействий".
Сопутствующие функции родительского контроля также вызвали неоднозначную реакцию. Эти инструменты позволяют опекунам управлять учетными записями подростков с помощью таких функций, как:
- ограничения использования по расписанию
- Ограничения голосового взаимодействия
- отключение сохранения памяти
- Устранение генерации визуального контента
Учетные записи подростков автоматически получают усиленную защиту от потенциально вредного контента, касающегося идеологии самовосприятия и графических материалов. Система дополнительно проверяет наличие индикаторов опасности с помощью специальных алгоритмов.
"Наша специальная команда реагирования тщательно оценивает отмеченные ситуации", - пояснили в OpenAI. "В экстренных случаях мы используем многоканальные уведомления для родителей, если они явно не отказались".
Компания признает возможность ложных срабатываний, но считает, что проактивное вмешательство перевешивает риски бездействия. В будущем разработка может включать прямую координацию с экстренными службами, если контакт с родителями окажется невозможным в критических ситуациях.
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет





Дом






