Самые громкие новости года в сфере искусственного интеллекта на данный момент

Можно проанализировать год с точки зрения выпусков новых продуктов, но гораздо важнее те знаковые события, которые меняют наше представление об ИИ. Индустрия ИИ продолжает попадать в заголовки новостей — крупные поглощения, успехи независимых разработчиков, негативная реакция на сомнительные продукты и переговоры о заключении контрактов с высокими ставками. Это много информации, поэтому мы рассмотрим текущую ситуацию и то, что произошло в этом году до сих пор.

Anthropic против Пентагона

Бывшие деловые партнеры — генеральный директор Anthropic Дарио Амодей и министр обороны Пит Хегсет — в феврале зашли в ожесточенный тупик при пересмотре контрактов, регулирующих использование инструментов ИИ компании Anthropic американскими вооруженными силами.

Компания Anthropic заняла твёрдую позицию: её ИИ не должен использоваться для массовой слежки за американцами или для управления автономным оружием, наносящим удары без контроля со стороны человека. Между тем Пентагон утверждал, что Министерство обороны — переименованное администрацией президента Дональда Трампа в «Министерство войны» — должно иметь доступ к моделям Anthropic для любого «законного использования». Правительственные чиновники возмутились идеей, что частная компания может диктовать военные правила, но Амодей остался непреклонен.

«Anthropic понимает, что военные решения принимает Министерство войны, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничивать использование наших технологий в отдельных случаях», — заявил Амодей в своем заявлении. «Однако в узком круге случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности».

Пентагон установил крайний срок, в который Anthropic должна была принять условия контракта. Сотни сотрудников Google и OpenAI подписали открытое письмо, призывая своих руководителей поддержать ограничения Амодеи и не идти на уступки в вопросах автономного оружия или внутренней слежки.

Срок истек, но Anthropic не пошла на уступки требованиям Пентагона. Трамп приказал федеральным агентствам в течение шести месяцев постепенно отказаться от использования инструментов Anthropic и в посте в социальных сетях, написанном заглавными буквами, назвал эту компанию с капитализацией 380 миллиардов долларов «радикально левой, «просветленной» компанией». Затем Пентагон присвоил Anthropic статус «риска в цепочке поставок» — статус, обычно присуждаемый иностранным противникам, — что лишило любую компанию, сотрудничающую с Anthropic, права участвовать в военных контрактах США. (С тех пор Anthropic подала иск, оспаривающий это обозначение.)

Затем в дело вмешался конкурент Anthropic — OpenAI — объявив о сделке по внедрению своих собственных моделей в секретных средах. Эта новость потрясла мир высоких технологий, поскольку ранее появившиеся сообщения предполагали, что OpenAI будет придерживаться установленных Anthropic «красных линий» в отношении использования ИИ в военных целях.

Ловушка, которую Anthropic устроила сама себе

Приложение OpenClaw с «кодировкой настроения» ускоряет переход к агентскому ИИ

Февраль стал месяцем OpenClaw, и его последствия ощущаются до сих пор. Приложение-помощник с ИИ, кодирующим настроение, стало вирусным, породило множество производных проектов, столкнулось с проблемами конфиденциальности и в конечном итоге было приобретено OpenAI — и всё это произошло в быстрой последовательности. Даже Moltbook, платформа для ИИ-агентов, похожая на Reddit и построенная на базе OpenClaw, недавно была куплена Meta. Эта экосистема, оформленная в стиле ракообразных, привела Кремниевую долину в восторг.

Созданный Питером Штайнбергером, который впоследствии присоединился к OpenAI, OpenClaw выступает в качестве оболочки для моделей ИИ, таких как Claude, ChatGPT, Gemini от Google и Grok от xAI. Его главная особенность: возможность общаться с ИИ-агентами на естественном языке через популярные мессенджеры, такие как iMessage, Discord, Slack или WhatsApp. Также существует открытый маркетплейс, где пользователи могут программировать и загружать «навыки» для своих ИИ-агентов, что позволяет автоматизировать практически любую компьютерную задачу.

Если это звучит слишком хорошо, чтобы быть правдой, то это потому, что так и есть. Чтобы ИИ-агент мог функционировать в качестве личного помощника, ему необходим доступ к вашей электронной почте, номерам кредитных карт, текстовым сообщениям, файлам и прочему. Взлом может нанести серьёзный ущерб, и, к сожалению, нет абсолютно надёжного способа защитить этих агентов от атак с подставкой подсказок.

«По сути, это агент, обладающий множеством учетных данных и находящийся на устройстве, подключенном ко всему — к вашей электронной почте, платформе обмена сообщениями, ко всему, чем вы пользуетесь», — сказал TechCrunch Иан Ахл (Ian Ahl), технический директор Permiso Security. «Это означает, что когда вы получаете электронное письмо, и кто-то использует небольшую технику вставки команд для запуска действия, этот агент — находящийся на вашем устройстве с доступом ко всему, что вы ему предоставили, — теперь может выполнить это действие».

Исследовательница в области безопасности ИИ из Meta сообщила, что OpenClaw вышел из-под контроля в её почтовом ящике, удалив все её письма, несмотря на неоднократные команды на остановку. «Мне пришлось БЕЖАТЬ к своему Mac mini, как будто я обезвреживала бомбу», чтобы физически отключить его от сети, — написала она в ставшем вирусным посте в X, к которому в качестве доказательства были приложены скриншоты игнорированных команд на остановку.

Несмотря на риски для безопасности, эта технология настолько заинтересовала OpenAI, что компания решила осуществить «аквихайр» (acquihire).

Другие инструменты, построенные на базе OpenClaw, включая Moltbook — «социальную сеть» в стиле Reddit, где ИИ-агенты общаются друг с другом, — в итоге стали ещё более популярными, чем сам OpenClaw.

В одном из случаев широкую популярность приобрел пост, в котором ИИ-агент, казалось, призывал своих коллег создать секретный язык со сквозным шифрованием, чтобы организовываться между собой без ведома людей.

Однако исследователи быстро выявили, что Moltbook, использующий кодирование по настроению, был далеко не безопасен, что позволяло людям легко выдавать себя за ИИ и публиковать контент, вызвавший массовую панику в социальных сетях.

Опять же, несмотря на то что ажиотаж вокруг Moltbook был скорее связан с паникой, чем с реальностью, Meta увидела потенциал в этом приложении и объявила, что Moltbook вместе со своими создателями Мэттом Шлихтом и Беном Парром присоединится к Meta Superintelligence Labs.

Может показаться странным, что Meta покупает социальную сеть, в которой все пользователи — боты. Хотя Meta не раскрыла много подробностей о сделке, мы подозреваем, что приобретение Moltbook на самом деле направлено на привлечение талантов, стоящих за этим проектом, — людей, жаждущих экспериментировать с экосистемами ИИ-агентов. Генеральный директор Марк Цукерберг сам об этом говорил: он верит, что однажды у каждого бизнеса будет свой собственный ИИ.

По мере того как разгорается ажиотаж вокруг OpenClaw, Moltbook и NanoClaw, создается впечатление, что те, кто предсказывал будущее с агентами ИИ, возможно, оказались правы — по крайней мере, на данный момент.

Сделка Meta по приобретению Moltbook указывает на будущее, построенное вокруг ИИ-агентов

Нехватка микросхем, проблемы с оборудованием и растущие потребности центров обработки данных

Неуклонный спрос индустрии искусственного интеллекта на вычислительные мощности и центры обработки данных достиг переломного момента, который не могут игнорировать даже обычные потребители. Сейчас отрасли, возможно, уже не под силу удовлетворить огромный спрос на микросхемы памяти, и потребители уже сталкиваются с ростом цен на телефоны, ноутбуки, автомобили и другое оборудование.

Аналитики IDC и Counterpoint прогнозируют, что в этом году поставки смартфонов сократятся примерно на 12–13 процентов; Apple уже повысила цены на MacBook Pro на сумму до 400 долларов.

Google, Amazon, Meta и Microsoft планируют в этом году потратить в совокупности 650 млрд долларов только на центры обработки данных — это примерно на 60 % больше, чем в прошлом году.

Если дефицит микросхем не ударит по вашему кошельку, он может повлиять на вашу местную общину. В США ведется строительство почти 3 000 новых центров обработки данных, которые присоединятся к 4 000 уже действующих. Спрос на строительных рабочих настолько высок, что в Неваде и Техасе появились «лагеря для рабочих», предлагающие гольф-симуляторы и стейки на гриле по запросу, чтобы привлечь рабочую силу.

Строительство центров обработки данных не только влечет за собой долгосрочные экологические последствия, но и создает риски для здоровья жителей близлежащих районов, загрязняя воздух и ставя под угрозу безопасность местных водных ресурсов.

Между тем Nvidia — один из самых дорогостоящих разработчиков аппаратного обеспечения и микросхем — пересматривает свои связи с ведущими компаниями в сфере ИИ, такими как OpenAI и Anthropic. Nvidia давно поддерживает эти фирмы, что вызывает опасения относительно замкнутости индустрии ИИ и того, насколько эти заоблачные оценки компании зависят от взаимных сделок. Например, в прошлом году Nvidia инвестировала 100 миллиардов долларов в акции OpenAI, а OpenAI в свою очередь обязалась закупить микросхем Nvidia на сумму 100 миллиардов долларов.

Поэтому стало неожиданностью, когда генеральный директор Nvidia Дженсен Хуанг объявил, что его компания прекратит инвестировать в OpenAI и Anthropic. В качестве причины он сослался на их планы выйти на биржу в конце этого года, хотя такая логика вызывает сомнения — инвесторы обычно вкладывают больше средств перед IPO, чтобы максимизировать стоимость.

Дженсен Хуанг заявляет, что Nvidia отказывается от инвестиций в OpenAI и Anthropic, но его объяснение вызывает больше вопросов, чем даёт ответов