Скептицизм экспертов по поводу механизмов безопасности ChatGPT для подростков от OpenAI

Недавний запуск OpenAI сервиса ChatGPT для детей, включающий возрастные ограничения, вызвал резкую критику со стороны защитников безопасности детей, которые ставят под сомнение прозрачность и эффективность его мер защиты.
Эксперты по безопасности подчеркивают, что независимое тестирование необходимо до того, как платформа будет рекомендована семьям. Робби Тынъяла из Common Sense Media подчеркнул, что OpenAI должен предоставить конкретные доказательства того, что его функции безопасности действительно работают, а не полагаться на непроверенные заявления.
Джос Голин, руководитель инициативы Fairplay, выразил серьезные опасения по поводу отсутствия подотчетности. Он отметил, что прошлые ограничения OpenAI на чувствительные темы, такие как самоубийство и насилие, часто оказывались неэффективными, утверждая, что саморегуляция недостаточна без надежного надзора.
Эксперты также сомневаются в надежности системы автоматической проверки возраста. Тынъяла указал, что OpenAI не опубликовал данные о частоте ложноположительных или ложноотрицательных результатов, что ясно показывает: автоматические системы не могут идеально идентифицировать молодых пользователей. Кроме того, подростки, вероятно, найдут способы обойти эти проверки.
Скептицизм остается высоким относительно обещания OpenAI, что отмеченный контент будет проверен сотрудниками, а родители будут уведомлены в течение часа. Тынъяла поставил под сомнение надежность автоматических фильтров, а Голин потребовал точные данные о ежедневном объеме отметок, количестве сотрудников и времени проверки, отметив, что нереалистично ожидать достаточного штата для тщательной ручной проверки каждого опасного взаимодействия.
Наконец, эксперты утверждают, что требование от родителей вручную связывать учетные записи подрывает защиту. Голин предложил, что функции безопасности должны быть встроены в продукт по умолчанию, такие как автоматические ограничения времени, а не возлагать бремя сложной настройки исключительно на родителей.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (0)

Недавний запуск OpenAI сервиса ChatGPT для детей, включающий возрастные ограничения, вызвал резкую критику со стороны защитников безопасности детей, которые ставят под сомнение прозрачность и эффективность его мер защиты.
Эксперты по безопасности подчеркивают, что независимое тестирование необходимо до того, как платформа будет рекомендована семьям. Робби Тынъяла из Common Sense Media подчеркнул, что OpenAI должен предоставить конкретные доказательства того, что его функции безопасности действительно работают, а не полагаться на непроверенные заявления.
Джос Голин, руководитель инициативы Fairplay, выразил серьезные опасения по поводу отсутствия подотчетности. Он отметил, что прошлые ограничения OpenAI на чувствительные темы, такие как самоубийство и насилие, часто оказывались неэффективными, утверждая, что саморегуляция недостаточна без надежного надзора.
Эксперты также сомневаются в надежности системы автоматической проверки возраста. Тынъяла указал, что OpenAI не опубликовал данные о частоте ложноположительных или ложноотрицательных результатов, что ясно показывает: автоматические системы не могут идеально идентифицировать молодых пользователей. Кроме того, подростки, вероятно, найдут способы обойти эти проверки.
Скептицизм остается высоким относительно обещания OpenAI, что отмеченный контент будет проверен сотрудниками, а родители будут уведомлены в течение часа. Тынъяла поставил под сомнение надежность автоматических фильтров, а Голин потребовал точные данные о ежедневном объеме отметок, количестве сотрудников и времени проверки, отметив, что нереалистично ожидать достаточного штата для тщательной ручной проверки каждого опасного взаимодействия.
Наконец, эксперты утверждают, что требование от родителей вручную связывать учетные записи подрывает защиту. Голин предложил, что функции безопасности должны быть встроены в продукт по умолчанию, такие как автоматические ограничения времени, а не возлагать бремя сложной настройки исключительно на родителей.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,





Дом






