Антропический удаляет политику ИИ Байдена с веб -сайта тихо

Anthropic, компания, сосредоточенная на разработке ИИ, недавно удалила с своего сайта несколько добровольных обязательств по безопасности ИИ, которые были приняты в сотрудничестве с администрацией Байдена в 2023 году. Эти обязательства, направленные на продвижение безопасного и надежного ИИ, включали обмен информацией об управлении рисками ИИ и проведение исследований по вопросам предвзятости и дискриминации в ИИ. Группа по наблюдению за ИИ, The Midas Project, указала, что эти обязательства были удалены из центра прозрачности Anthropic на прошлой неделе. Однако обязательства, связанные с уменьшением сексуального насилия на основе изображений, созданных ИИ, всё ещё остаются в силе.

Anthropic не объявляла об этом изменении и не сразу ответила на запросы о комментариях. Компания, наряду с другими, такими как OpenAI, Google, Microsoft, Meta и Inflection, согласилась следовать определённым добровольным мерам по безопасности ИИ, предложенным администрацией Байдена в июле 2023 года. Эти меры включали внутреннее и внешнее тестирование безопасности систем ИИ перед их выпуском, инвестиции в кибербезопасность для защиты конфиденциальных данных ИИ и разработку способов водяной маркировки контента, созданного ИИ.

Стоит отметить, что Anthropic уже применяла многие из этих практик, и соглашение не было юридически обязательным. Целью администрации Байдена было подчеркнуть приоритеты своей политики в области ИИ до введения более всеобъемлющего указа об ИИ через несколько месяцев.

Администрация Трампа, с другой стороны, сигнализировала о другом подходе к управлению ИИ. В январе президент Трамп отменил указ об ИИ, который предписывал Национальному институту стандартов и технологий создать рекомендации для компаний по выявлению и устранению недостатков в моделях ИИ, включая предвзятость. Союзники Трампа критиковали указ за его строгие требования к отчётности, которые, по их мнению, вынуждали компании раскрывать свои коммерческие секреты.

Вскоре после отмены указа об ИИ Трамп издал новое распоряжение для федеральных агентств поддерживать развитие ИИ, "свободного от идеологической предвзятости", которое будет способствовать "процветанию человека, экономической конкурентоспособности и национальной безопасности". В отличие от инициативы Байдена, указ Трампа не затрагивал борьбу с дискриминацией в ИИ.

The Midas Project отметила на X, что обязательства эпохи Байдена не указывали на то, что они были временными или зависели от политической партии у власти. После выборов в ноябре несколько компаний в области ИИ подтвердили свои обязательства.

Anthropic — не единственная компания, которая скорректировала свою публичную политику после прихода к власти Трампа. OpenAI недавно заявила, что будет отстаивать "интеллектуальную свободу ... независимо от того, насколько сложной или противоречивой может быть тема", и гарантировать, что её ИИ не будет цензурировать определённые точки зрения. OpenAI также удалила со своего сайта страницу, которая ранее демонстрировала её приверженность разнообразию, равенству и инклюзии (DEI). Эти программы подверглись критике со стороны администрации Трампа, что побудило многие компании либо отказаться от своих инициатив DEI, либо существенно их изменить.

Некоторые советники Трампа по ИИ из Кремниевой долины, включая Марка Андрессена, Дэвида Сакса и Илона Маска, обвинили компании, такие как Google и OpenAI, в цензуре ИИ путём ограничения ответов их чат-ботов. Однако лаборатории, такие как OpenAI, отрицают, что корректировки их политики связаны с политическим давлением.

И OpenAI, и Anthropic в настоящее время либо имеют, либо активно ищут государственные контракты.

Спустя несколько часов после публикации этой статьи Anthropic предоставила TechCrunch следующее заявление:

"Мы остаёмся привержены добровольным обязательствам по ИИ, установленным при администрации Байдена. Этот прогресс и конкретные действия продолжают отражаться в [нашем] центре прозрачности в содержании. Чтобы избежать дальнейшей путаницы, мы добавим раздел, прямо указывающий, где наш прогресс соответствует этим обязательствам."

Обновлено в 11:25 по тихоокеанскому времени: Добавлено заявление от Anthropic.