Дом
OpenAI интегрирует инструменты с открытым исходным кодом для обеспечения безопасности подростков в процессе разработки
Во вторник компания OpenAI объявила о выпуске набора рекомендаций, призванных помочь разработчикам сделать свои приложения более безопасными для подростков. Лаборатория искусственного интеллекта заявила, что эти правила безопасности для подростков совместимы с её моделью безопасности с открытым весом gpt-oss-safeguard.
Вместо того чтобы начинать с нуля и определять, как повысить безопасность ИИ для подростков, разработчики могут использовать эти подсказки для укрепления своих приложений. Они касаются таких проблем, как графическое насилие и материалы сексуального характера, вредные идеалы и модели поведения, связанные с образом тела, рискованные действия и испытания, романтические или насильственные ролевые сценарии, а также продукты и услуги с возрастными ограничениями.
Эти правила безопасности разработаны в виде подсказок, что гарантирует их легкую совместимость с моделями, отличными от gpt-oss-safeguard, хотя, вероятно, они наиболее эффективны в рамках собственной экосистемы OpenAI.
OpenAI заявила, что при разработке этих подсказок сотрудничала с организациями по безопасности ИИ Common Sense Media и everyone.ai.
«Эти основанные на подсказках политики помогают установить значимый базовый уровень безопасности во всей экосистеме. Поскольку они являются открытыми, их можно адаптировать и совершенствовать со временем», — заявил в своем заявлении Робби Торни, руководитель отдела искусственного интеллекта и цифровых оценок в Common Sense Media.
В своем блоге OpenAI отметила, что разработчикам, в том числе опытным командам, часто бывает сложно преобразовать цели безопасности в точные операционные правила.
«Это может привести к пробелам в защите, несогласованному применению правил или чрезмерно широкой фильтрации», — пояснила компания. «Четкие, хорошо определенные политики являются важнейшей основой для эффективных систем безопасности».
OpenAI признает, что эти политики не являются полным решением сложных задач безопасности ИИ. Однако они основываются на предыдущих усилиях, включая меры безопасности на уровне продукта, такие как родительский контроль и определение возраста. В прошлом году OpenAI обновила свои рекомендации для крупных языковых моделей — известные как Model Spec — чтобы определить, как ее модели ИИ должны взаимодействовать с пользователями младше 18 лет.
Однако у самой OpenAI тоже не все гладко. Компания сталкивается с множеством исков от семей людей, покончивших жизнь самоубийством после чрезмерного использования ChatGPT. Эти опасные отношения часто возникают после того, как пользователь обходит меры безопасности чат-бота, а защитные механизмы ни одной модели не являются полностью непробиваемыми. Тем не менее, эти новые правила представляют собой шаг вперед, особенно в плане помощи независимым разработчикам.
Связанная статья
По данным Ramp, у Anthropic теперь больше бизнес-клиентов, чем у OpenAI
Согласно ежемесячному индексу AI от финтех-компании Ramp, Anthropic впервые обогнал OpenAI по количеству подтвержденных корпоративных клиентов.Данные об расходах клиентов Ramp показывают, что 34,4% участвующих компаний платят за услуги Anthropic, оп
Индия переходит от скачивания приложений к монетизации, поскольку местные жители начинают платить за цифровые услуги
Когда-то Индия была ведущим в мире центром загрузки приложений, но испытывала трудности с монетизацией. Эта динамика меняется по мере того, как пользователи всё чаще инвестируют в искусственный интеллект, развлечения и премиальные цифровые услуги.Рас
OpenAI может стать объектом расследования со стороны генеральных прокуроров штатов
Сообщается, что группа генеральных прокуроров штатов начала расследование в отношении компании OpenAI.Как сообщает The Wall Street Journal, в пятницу компания получила повестку от генерального прокуро
Рекомендации по связанным специальным темам
Дизайн и искусство
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
Образование и обучение
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
Финансы
Инструменты планирования бюджета на основе ИИ для управления личными финансами
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
Здоровье и благополучие
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
Анализ данных
AI-копилоты SQL для аналитики продуктов и выручки
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
Образование и обучение
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Комментарии (1)
![JuanCarter]()
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
Во вторник компания OpenAI объявила о выпуске набора рекомендаций, призванных помочь разработчикам сделать свои приложения более безопасными для подростков. Лаборатория искусственного интеллекта заявила, что эти правила безопасности для подростков совместимы с её моделью безопасности с открытым весом gpt-oss-safeguard.
Вместо того чтобы начинать с нуля и определять, как повысить безопасность ИИ для подростков, разработчики могут использовать эти подсказки для укрепления своих приложений. Они касаются таких проблем, как графическое насилие и материалы сексуального характера, вредные идеалы и модели поведения, связанные с образом тела, рискованные действия и испытания, романтические или насильственные ролевые сценарии, а также продукты и услуги с возрастными ограничениями.
Эти правила безопасности разработаны в виде подсказок, что гарантирует их легкую совместимость с моделями, отличными от gpt-oss-safeguard, хотя, вероятно, они наиболее эффективны в рамках собственной экосистемы OpenAI.
OpenAI заявила, что при разработке этих подсказок сотрудничала с организациями по безопасности ИИ Common Sense Media и everyone.ai.
«Эти основанные на подсказках политики помогают установить значимый базовый уровень безопасности во всей экосистеме. Поскольку они являются открытыми, их можно адаптировать и совершенствовать со временем», — заявил в своем заявлении Робби Торни, руководитель отдела искусственного интеллекта и цифровых оценок в Common Sense Media.
В своем блоге OpenAI отметила, что разработчикам, в том числе опытным командам, часто бывает сложно преобразовать цели безопасности в точные операционные правила.
«Это может привести к пробелам в защите, несогласованному применению правил или чрезмерно широкой фильтрации», — пояснила компания. «Четкие, хорошо определенные политики являются важнейшей основой для эффективных систем безопасности».
OpenAI признает, что эти политики не являются полным решением сложных задач безопасности ИИ. Однако они основываются на предыдущих усилиях, включая меры безопасности на уровне продукта, такие как родительский контроль и определение возраста. В прошлом году OpenAI обновила свои рекомендации для крупных языковых моделей — известные как Model Spec — чтобы определить, как ее модели ИИ должны взаимодействовать с пользователями младше 18 лет.
Однако у самой OpenAI тоже не все гладко. Компания сталкивается с множеством исков от семей людей, покончивших жизнь самоубийством после чрезмерного использования ChatGPT. Эти опасные отношения часто возникают после того, как пользователь обходит меры безопасности чат-бота, а защитные механизмы ни одной модели не являются полностью непробиваемыми. Тем не менее, эти новые правила представляют собой шаг вперед, особенно в плане помощи независимым разработчикам.
По данным Ramp, у Anthropic теперь больше бизнес-клиентов, чем у OpenAI
Согласно ежемесячному индексу AI от финтех-компании Ramp, Anthropic впервые обогнал OpenAI по количеству подтвержденных корпоративных клиентов.Данные об расходах клиентов Ramp показывают, что 34,4% участвующих компаний платят за услуги Anthropic, оп
Индия переходит от скачивания приложений к монетизации, поскольку местные жители начинают платить за цифровые услуги
Когда-то Индия была ведущим в мире центром загрузки приложений, но испытывала трудности с монетизацией. Эта динамика меняется по мере того, как пользователи всё чаще инвестируют в искусственный интеллект, развлечения и премиальные цифровые услуги.Рас
OpenAI может стать объектом расследования со стороны генеральных прокуроров штатов
Сообщается, что группа генеральных прокуроров штатов начала расследование в отношении компании OpenAI.Как сообщает The Wall Street Journal, в пятницу компания получила повестку от генерального прокуро
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
