Дом
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровьем, — компания OpenAI в понедельник представила ChatGPT for Teens. Это новое решение включает в себя усовершенствованные функции безопасности и направлено на решение обостряющейся проблемы академической нечестности, которой способствуют инструменты ИИ в школах.
С образовательной точки зрения ChatGPT for Teens вводит «Режим обучения» наряду с другими инструментами, направленными на развитие любознательности и навыков решения проблем, поощряя пользователей глубоко вникать в материал, а не искать мгновенные ответы.
Согласно сообщению в блоге OpenAI, «Режим обучения» предоставляет наводящие вопросы и пошаговую помощь, чтобы помочь подросткам осваивать сложный материал. Кроме того, платформа включает напоминания о домашних заданиях, которые срабатывают, когда система обнаруживает потенциальную попытку списывания, предлагая пользователям вместо этого переключиться в «Режим обучения».
Как сообщила компания, приложение также содержит викторины и наглядные материалы для обучения, а также настройки, позволяющие родителям или опекунам включить «Режим обучения» по умолчанию.
Однако пока остается неясным, насколько легко подростки смогут обойти эти меры безопасности, если решат их не соблюдать. Молодые пользователи часто умеют обходить родительский контроль и другие цифровые ограничения. Пока режим для подростков в ChatGPT не пройдет тщательное тестирование, практическая эффективность этих мер безопасности остается неясной.

Источник изображения:OpenAI
OpenAI заявляет, что в приложении ChatGPT для подростков по умолчанию включены средства защиты, соответствующие особенностям приложения, призванные свести к минимуму контакт с вредным или несоответствующим возрасту контентом. Эти меры безопасности основаны на «Принципах для лиц младше 18 лет» OpenAI, изложенных в спецификации модели, которые, как утверждает компания, разработаны с учетом данных наук о развитии и рекомендаций экспертов.
Родители могут использовать ранее представленные семейные инструменты и средства родительского контроля для управления настройками, получения уведомлений о безопасности и настройки «Тихих часов», а также других функций.
OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам лучше понять ИИ, в том числе его механизмы работы, способы управления им и постановки вопросов, а также методы его эффективного использования. В образовательной сфере OpenAI уже предоставляет ChatGPT for Teachers, чтобы обеспечить школам управляемый учреждением доступ к ИИ и соответствующую поддержку.
Связанная статья
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
OpenAI сокращает разрыв с Anthropic среди бизнес-пользователей, показывают новые данные
Поскольку IPO компаний OpenAI и Anthropic всё ещё отдалены, а детализированные финансовые отчёты не опубликованы, нам приходится обращаться к альтернативным индикаторам для оценки их бизнес-показателей. Платформа корпоративных кредитных карт и управл
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Рекомендации по связанным специальным темам
Комментарии (0)
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровьем, — компания OpenAI в понедельник представила ChatGPT for Teens. Это новое решение включает в себя усовершенствованные функции безопасности и направлено на решение обостряющейся проблемы академической нечестности, которой способствуют инструменты ИИ в школах.
С образовательной точки зрения ChatGPT for Teens вводит «Режим обучения» наряду с другими инструментами, направленными на развитие любознательности и навыков решения проблем, поощряя пользователей глубоко вникать в материал, а не искать мгновенные ответы.
Согласно сообщению в блоге OpenAI, «Режим обучения» предоставляет наводящие вопросы и пошаговую помощь, чтобы помочь подросткам осваивать сложный материал. Кроме того, платформа включает напоминания о домашних заданиях, которые срабатывают, когда система обнаруживает потенциальную попытку списывания, предлагая пользователям вместо этого переключиться в «Режим обучения».
Как сообщила компания, приложение также содержит викторины и наглядные материалы для обучения, а также настройки, позволяющие родителям или опекунам включить «Режим обучения» по умолчанию.
Однако пока остается неясным, насколько легко подростки смогут обойти эти меры безопасности, если решат их не соблюдать. Молодые пользователи часто умеют обходить родительский контроль и другие цифровые ограничения. Пока режим для подростков в ChatGPT не пройдет тщательное тестирование, практическая эффективность этих мер безопасности остается неясной.

Источник изображения:OpenAI
OpenAI заявляет, что в приложении ChatGPT для подростков по умолчанию включены средства защиты, соответствующие особенностям приложения, призванные свести к минимуму контакт с вредным или несоответствующим возрасту контентом. Эти меры безопасности основаны на «Принципах для лиц младше 18 лет» OpenAI, изложенных в спецификации модели, которые, как утверждает компания, разработаны с учетом данных наук о развитии и рекомендаций экспертов.
Родители могут использовать ранее представленные семейные инструменты и средства родительского контроля для управления настройками, получения уведомлений о безопасности и настройки «Тихих часов», а также других функций.
OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам лучше понять ИИ, в том числе его механизмы работы, способы управления им и постановки вопросов, а также методы его эффективного использования. В образовательной сфере OpenAI уже предоставляет ChatGPT for Teachers, чтобы обеспечить школам управляемый учреждением доступ к ИИ и соответствующую поддержку.
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
OpenAI сокращает разрыв с Anthropic среди бизнес-пользователей, показывают новые данные
Поскольку IPO компаний OpenAI и Anthropic всё ещё отдалены, а детализированные финансовые отчёты не опубликованы, нам приходится обращаться к альтернативным индикаторам для оценки их бизнес-показателей. Платформа корпоративных кредитных карт и управл
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи











