Дом
OpenAI и Пентагон заключили соглашение с Альтманом, предусматривающее меры по обеспечению безопасности ИИ

После того как компания Anthropic зашла в тупик и была заблокирована Министерством обороны США (DoD, ранее называвшимся «Военным министерством» при администрации Трампа) из-за серьезных опасений по поводу безопасности, OpenAI действовала оперативно. Ее генеральный директор Сэм Альтман объявил в пятницу вечером, что OpenAI заключила соглашение с Пентагоном. Это соглашение разрешает использование моделей искусственного интеллекта компании в секретных сетях Министерства обороны.
Это партнерство возникает в особенно деликатный период. Ранее компания Anthropic была осуждена Трампом как «левые сумасброды» за отказ снять ограничения на «массовую внутреннюю слежку» и «полностью автономные системы вооружения», что привело к ее исключению из национальной цепочки поставок.
Принципы сотрудничества, выделенные Альтманом:
Приверженность основным ценностям: на социальной платформе X Альтман заявил, что соглашение OpenAI прямо поддерживает два важнейших принципа безопасности: запрет на использование для массовой внутренней слежки и требование, чтобы любое применение силы — включая автономное оружие — оставалось под значимым человеческим контролем и подотчетностью.
Интегрированные технические меры безопасности: OpenAI разработает специальные технические меры безопасности, чтобы гарантировать, что модель работает так, как задумано. Компания также намерена направить инженеров в Пентагон для поддержки внедрения модели и постоянного мониторинга безопасности.
Сохранение права на отказ: на внутреннем совещании Альтман сообщил, что правительство предоставило OpenAI полномочия внедрять собственный «стек безопасности». Если модель откажется выполнять запрошенную задачу, правительство не будет принуждать компанию изменять ее основную логику.
Альтман призвал Министерство обороны распространить эти же условия на все компании, занимающиеся искусственным интеллектом, выразив надежду, что рациональные соглашения смогут ослабить напряженность между правительством и технологическим сектором. Однако соглашение вызвало внутреннюю дискуссию: более 60 сотрудников OpenAI подписали на этой неделе совместное письмо, в котором поддержали более жесткую позицию Anthropic в отношении военных приложений.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (1)

После того как компания Anthropic зашла в тупик и была заблокирована Министерством обороны США (DoD, ранее называвшимся «Военным министерством» при администрации Трампа) из-за серьезных опасений по поводу безопасности, OpenAI действовала оперативно. Ее генеральный директор Сэм Альтман объявил в пятницу вечером, что OpenAI заключила соглашение с Пентагоном. Это соглашение разрешает использование моделей искусственного интеллекта компании в секретных сетях Министерства обороны.
Это партнерство возникает в особенно деликатный период. Ранее компания Anthropic была осуждена Трампом как «левые сумасброды» за отказ снять ограничения на «массовую внутреннюю слежку» и «полностью автономные системы вооружения», что привело к ее исключению из национальной цепочки поставок.
Принципы сотрудничества, выделенные Альтманом:
Приверженность основным ценностям: на социальной платформе X Альтман заявил, что соглашение OpenAI прямо поддерживает два важнейших принципа безопасности: запрет на использование для массовой внутренней слежки и требование, чтобы любое применение силы — включая автономное оружие — оставалось под значимым человеческим контролем и подотчетностью.
Интегрированные технические меры безопасности: OpenAI разработает специальные технические меры безопасности, чтобы гарантировать, что модель работает так, как задумано. Компания также намерена направить инженеров в Пентагон для поддержки внедрения модели и постоянного мониторинга безопасности.
Сохранение права на отказ: на внутреннем совещании Альтман сообщил, что правительство предоставило OpenAI полномочия внедрять собственный «стек безопасности». Если модель откажется выполнять запрошенную задачу, правительство не будет принуждать компанию изменять ее основную логику.
Альтман призвал Министерство обороны распространить эти же условия на все компании, занимающиеся искусственным интеллектом, выразив надежду, что рациональные соглашения смогут ослабить напряженность между правительством и технологическим сектором. Однако соглашение вызвало внутреннюю дискуссию: более 60 сотрудников OpenAI подписали на этой неделе совместное письмо, в котором поддержали более жесткую позицию Anthropic в отношении военных приложений.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











