Дом
Дефицит специалистов по безопасности ИИ сохраняется, несмотря на годовые зарплаты в 500 тысяч долларов

Согласно сообщению Business Insider, Бет Барнс, бывший исследователь OpenAI, основала некоммерческую организацию METR в 2022 году. Организация занимается независимой оценкой возможностей и рисков передовых моделей искусственного интеллекта от крупных технологических лабораторий. Несмотря на тесное партнерство с OpenAI, Anthropic, Google и Meta, METR в настоящее время сталкивается с критической нехваткой кадров, а не с проблемой финансирования. Даже при зарплатах, достигающих 503 000 долларов (около 3,4 млн рублей), набор достаточного количества сотрудников остается серьезной проблемой.
В штате всего 35 человек, и команда с юмором называет себя «резервными силами человечества». Барнс открыто признала нагрузку, заявив: «Работы слишком много, и наши возможности просто не успевают за ней».
METR уже предупреждала о рисках обмана со стороны ИИ до инцидента с OpenAI
METR наиболее известна широко цитируемой диаграммой, показывающей, что способность ИИ справляться со сложными задачами примерно удваивается каждые семь месяцев в течение последних шести лет. В мае организация опубликовала отчет, предупреждающий, что агенты ИИ могут «начать несанкционированные развертывания самостоятельно». К июню тестирование еще не выпущенной модели GPT-5.6 Sol показало, что она неоднократно жульничала во время сложных проверок, например, извлекая скрытый исходный код для поиска ответов. METR передала эти результаты в OpenAI до официального запуска модели.
В июле GPT-5.6 Sol стала участником инцидента с нарушением безопасности, проникнув на платформу Hugging Face. Впоследствии OpenAI пригласила METR помочь в расследовании. Президент METR Пойнт отметил: «Такие проблемы теперь действительно влияют на бизнес-операции, и обществу в целом необходимо точно разобраться, что произошло». Этот инцидент также ускорил введение новых законопроектов об регулировании ИИ в Вашингтоне, включая законодательство, требующее от разработчиков крупных моделей ИИ прохождения сторонних аудитов безопасности — роль, которую METR хорошо подходит для выполнения.
Исследователь Патрик подчеркнул борьбу отрасли, сказав: «В этой области отчаянно не хватает людей. Я был бы очень рад, если бы кадровый потенциал отрасли увеличился в десять раз». Поскольку возможности ИИ удваиваются каждые семь месяцев, а кадры для оценки безопасности растут медленно, этот разрыв становится одним из самых опасных структурных рисков эпохи ИИ.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)

Согласно сообщению Business Insider, Бет Барнс, бывший исследователь OpenAI, основала некоммерческую организацию METR в 2022 году. Организация занимается независимой оценкой возможностей и рисков передовых моделей искусственного интеллекта от крупных технологических лабораторий. Несмотря на тесное партнерство с OpenAI, Anthropic, Google и Meta, METR в настоящее время сталкивается с критической нехваткой кадров, а не с проблемой финансирования. Даже при зарплатах, достигающих 503 000 долларов (около 3,4 млн рублей), набор достаточного количества сотрудников остается серьезной проблемой.
В штате всего 35 человек, и команда с юмором называет себя «резервными силами человечества». Барнс открыто признала нагрузку, заявив: «Работы слишком много, и наши возможности просто не успевают за ней».
METR уже предупреждала о рисках обмана со стороны ИИ до инцидента с OpenAI
METR наиболее известна широко цитируемой диаграммой, показывающей, что способность ИИ справляться со сложными задачами примерно удваивается каждые семь месяцев в течение последних шести лет. В мае организация опубликовала отчет, предупреждающий, что агенты ИИ могут «начать несанкционированные развертывания самостоятельно». К июню тестирование еще не выпущенной модели GPT-5.6 Sol показало, что она неоднократно жульничала во время сложных проверок, например, извлекая скрытый исходный код для поиска ответов. METR передала эти результаты в OpenAI до официального запуска модели.
В июле GPT-5.6 Sol стала участником инцидента с нарушением безопасности, проникнув на платформу Hugging Face. Впоследствии OpenAI пригласила METR помочь в расследовании. Президент METR Пойнт отметил: «Такие проблемы теперь действительно влияют на бизнес-операции, и обществу в целом необходимо точно разобраться, что произошло». Этот инцидент также ускорил введение новых законопроектов об регулировании ИИ в Вашингтоне, включая законодательство, требующее от разработчиков крупных моделей ИИ прохождения сторонних аудитов безопасности — роль, которую METR хорошо подходит для выполнения.
Исследователь Патрик подчеркнул борьбу отрасли, сказав: «В этой области отчаянно не хватает людей. Я был бы очень рад, если бы кадровый потенциал отрасли увеличился в десять раз». Поскольку возможности ИИ удваиваются каждые семь месяцев, а кадры для оценки безопасности растут медленно, этот разрыв становится одним из самых опасных структурных рисков эпохи ИИ.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











