Почему ушла с должности руководитель отдела по вопросам этики OpenAI Хлоя Бакалар

Хлоя Бакалар, бывший руководитель отдела по вопросам этики в OpenAI. Источник: CITP Princeton/YouTube

Руководитель отдела по вопросам этики OpenAI Хлоя Бакалар покинула ведущую компанию в сфере искусственного интеллекта в бурный период, связанный с вопросами безопасности ИИ, после инцидента с взломом OpenAI

Руководитель отдела по вопросам этики OpenAI Хлоя Бакалар покинула компанию. Об этом впервые сообщила газета Financial Times; уход состоялся в прошлом месяце, менее чем через год после того, как она присоединилась к калифорнийской компании, занимающейся искусственным интеллектом.

Недавно компанию также покинул Йоханнес Хайдеке, руководитель отдела систем безопасности OpenAI, а также главный футурист OpenAI Джошуа Ачиам.

По данным Business Insider, с момента запуска ChatGPT в 2022 году OpenAI неоднократно реорганизовывала свои команды по безопасности, продуктам и исследованиям; после этого компания быстро превратилась из небольшой исследовательской лаборатории в крупную технологическую корпорацию.

«Люди, стоявшие у истоков этого проекта, и представить себе не могли, что он взорвёт рынок с такой силой», — рассказала Хлоя в марте изданию IE Insights, каналу испанского университета IE в социальных сетях.

«Все должны участвовать в дискуссиях; не должно быть так, что один человек, владеющий компанией стоимостью в несколько миллиардов долларов, диктует, что именно это правильно для всех людей, особенно когда речь идет о глобальных технологиях, которые работают по всему миру и затрагивают миллиарды людей».

Клоэ Бакалар покидает OpenAI

В OpenAI основное внимание Хлои было сосредоточено на этических подходах к разработке моделей, на том, как люди взаимодействуют с ИИ, и на дискуссиях о машинном сознании, сообщил FT один из знакомых с её ролью источников.

Этот источник сообщил газете, что она была единственным специалистом по этике в компании и ее никто не заменит.

«Мы благодарны Хлое за её вклад», — заявил FT представитель OpenAI. «Этика ИИ в OpenAI не зависит от одного человека или одной команды, а этические соображения глубоко интегрированы в процесс построения моделей, которым занимаются различные исследовательские команды».

До начала работы в OpenAI, куда она пришла в августе прошлого года, она занимала должность главного специалиста по этике в Meta с ноября 2021 года по август 2025 года.

В настоящее время Клоэ также является членом консультативного совета Принстонского центра технологической политики и старшим научным сотрудником Университетского колледжа Лондона.

Она занимала различные академические должности в Темплском университете, Принстоне и Пенсильванском университете, где защитила докторскую диссертацию по политологии и государственному управлению. Её диссертация называлась «Small Talk: The Socialities of Speech in Liberal Democratic Life» («Незначительные разговоры: социальные аспекты речи в либерально-демократической жизни»).

Вопросы, которые поднимает этика ИИ, — это те же самые вопросы, которые люди задают себе на протяжении веков

. — Хлоя Бакалар, бывший руководитель отдела этики ИИ в OpenAI

«Я мыслю, следовательно, меня наняли»

Назначение Хлои в OpenAI стало частью тенденции, когда некоторые из крупнейших в мире лабораторий ИИ нанимают философов из академических кругов для анализа потенциальных последствий развития этой технологии.

В июньской статье журнала «The Economist» отмечается, что многие сотрудники философских факультетов — от студентов до профессоров — быстро находят работу в компаниях, занимающихся ИИ. Студенты получают предложения о работе ещё до окончания учёбы, рассказал еженедельнику Лучано Флориди, философ из Йельского университета.

Может показаться странным, что эти компании, в которых преобладают разработчики и программисты, нанимают философов, но, как отмечает Хлоя: «Вопросы, которые поднимает этика ИИ, — это те же самые вопросы, которые люди задают уже на протяжении веков», — сказала она в интервью IE Insights.

«Что значит быть человеком? Что значит нести ответственность перед другими? Какую ответственность мы несем за то, что создаем?»

Руководитель отдела этики OpenAI Хлоя Бакалар. Фото: Хлоя Бакалар/LinkedIn

Этические и bezpečnostные проблемы, связанные с передовыми моделями

Быстрое развитие передовых моделей ИИ вызывает множество опасений, связанных с безопасностью и этикой. Институт Алана Тьюринга отмечает, что перспектива того, что прогресс в области ИИ может помочь правительствам справиться с некоторыми из самых насущных вызовов, вызывает воодушевление — однако существует множество обоснованных опасений.

В нём подчеркивается, что из-за крутого кривого обучения неизбежны ошибки и просчёты, а также возникнут как непредвиденные, так и пагубные последствия.

Это особенно актуально после того, как в последние недели модели ИИ от OpenAI, Anthropic, а теперь и Moonshot вышли за пределы учебных сред.

Один из способов, которым некоторые компании, занимающиеся ИИ, решают проблемы несоответствия моделей, — это наличие устава. Американская компания Anthropic, занимающаяся ИИ, подчеркивает в своем уставе: «Наша главная цель — сделать Клода по-настоящему добрым, мудрым и добродетельным агентом. То есть, в первом приближении, мы хотим, чтобы Клод поступал так, как поступил бы глубоко и умело этичный человек на месте Клода».

Журнал «The Economist» отмечает, что в «конституции» моделей Claude от Anthropic использованы материалы из самых разных источников — от немецкого философа Иммануила Канта до условий предоставления услуг Apple и Всеобщей декларации прав человека.