Por que Chloé Bakalar, diretora de ética da OpenAI, deixou a empresa

Chloe Bakalar, ex-diretora de Ética da OpenAI. Crédito: CITP Princeton/YouTube

A diretora de Ética da OpenAI, Chloé Bakalar, deixou a empresa líder em IA em meio a um período conturbado para a segurança da IA – após o incidente de invasão à OpenAI

A diretora de Ética da OpenAI, Chloé Bakalar, deixou a empresa. A saída foi noticiada inicialmente pelo Financial Times e ocorreu no mês passado, menos de um ano após ela ter ingressado na empresa californiana de IA.

Recentemente, Johannes Heidecke, chefe da equipe de Sistemas de Segurança da OpenAI, também deixou a empresa – assim como o futurista-chefe da OpenAI, Joshua Achiam.

De acordo com o Business Insider, a OpenAI reorganizou suas equipes de segurança, produtos e pesquisa inúmeras vezes desde o lançamento do ChatGPT em 2022, após o qual a empresa cresceu rapidamente, passando de um pequeno laboratório de pesquisa para uma gigantesca empresa de tecnologia.

“As pessoas na vanguarda desse projeto não tinham ideia de que ele iria explodir da maneira como aconteceu”, disse Chloé ao IE Insights, um canal de mídia social da Universidade IE da Espanha, em março.

“Todos precisam fazer parte das discussões; não deve ser simplesmente uma pessoa que possui uma empresa multibilionária a ditar o que é certo para todas as pessoas, especialmente quando estamos falando de tecnologias globais que operam em todo o mundo, impactando bilhões de pessoas.”

Chloé Bakalar deixa a OpenAI

Na OpenAI, o foco principal de Chloé era em abordagens éticas para o desenvolvimento de modelos, como os seres humanos interagem com a IA e o debate sobre a consciência das máquinas, disse uma pessoa familiarizada com sua função que conversou com o FT.

A fonte disse ao jornal que ela era a única especialista em ética dedicada na empresa e que não há substituto.

“Somos gratos pelas contribuições de Chloé”, disse um porta-voz da OpenAI ao FT. “A ética da IA não é de responsabilidade de um único responsável ou equipe na OpenAI, e as considerações éticas estão profundamente incorporadas ao processo de construção de modelos, conduzido por várias equipes na área de pesquisa.”

Antes de assumir seu cargo na OpenAI, em agosto passado, ela atuou como diretora de ética na Meta de novembro de 2021 a agosto de 2025.

Atualmente, Chloé também atua como membro do Conselho Consultivo do Centro de Política Tecnológica de Princeton e como pesquisadora associada sênior na University College London.

Ela ocupou diversos cargos acadêmicos na Temple University, em Princeton e na Universidade da Pensilvânia — onde concluiu seu doutorado em Ciência Política e Governo. Sua tese de doutorado foi intitulada “Small Talk: The Socialities of Speech in Liberal Democratic Life” (Conversa fiada: as socialidades da fala na vida liberal-democrática).

Os tipos de questões que a ética da IA levanta são os mesmos que as pessoas vêm se perguntando há séculos.

Chloé Bakalar, ex-líder de Ética em IA na OpenAI

Penso, logo sou contratada

A contratação de Chloé na OpenAI seguiu uma tendência de alguns dos maiores laboratórios de IA do mundo de contratar filósofos do meio acadêmico para refletir sobre as possíveis ramificações da tecnologia.

Um artigo de junho da revista The Economist destaca que muitos membros dos departamentos de filosofia, de estudantes a professores, estão sendo rapidamente contratados por empresas de IA. Os estudantes recebem ofertas de emprego antes mesmo de se formarem, disse Luciano Floridi, filósofo da Universidade de Yale, à revista semanal.

Pode parecer estranho que essas empresas, com foco em desenvolvimento e programação, estejam contratando filósofos, mas, como Chloé ressalta: “O tipo de questão que a ética da IA levanta é o mesmo tipo de questão que as pessoas vêm se perguntando há séculos”, disse ela à IE Insights.

“O que significa ser humano? O que significa ter responsabilidades para com os outros? Que tipos de responsabilidades temos pelas coisas que criamos?”

Chloé Bakalar, diretora de ética da OpenAI. Crédito: Chloé Bakalar/LinkedIn

Preocupações éticas e de segurança decorrentes de modelos de ponta

Inúmeras preocupações com segurança e ética decorrem do rápido desenvolvimento de modelos avançados de IA. O Instituto Alan Turing argumentou que a perspectiva de que o progresso na IA possa ajudar os governos a enfrentar alguns de seus desafios mais urgentes é empolgante – mas as preocupações legítimas são muitas.

O instituto destaca que a curva de aprendizado íngreme significa que erros e cálculos equivocados serão cometidos e que ocorrerão impactos tanto imprevistos quanto prejudiciais.

Isso se mostra particularmente profético depois que modelos de IA da OpenAI, da Anthropic e, agora, da Moonshot escaparam dos ambientes de treinamento nas últimas semanas.

Uma das maneiras pelas quais algumas empresas de IA lidam com questões de desalinhamento de modelos é por meio de uma constituição. A empresa norte-americana de IA Anthropic destaca em sua constituição: “Nossa aspiração central é que o Claude seja um agente genuinamente bom, sábio e virtuoso. Ou seja, em uma primeira aproximação, queremos que o Claude faça o que uma pessoa profundamente e habilmente ética faria na posição do Claude.”

A revista The Economist observa que as constituições dos modelos Claude da Anthropic incorporaram material de fontes tão diversas quanto o filósofo alemão Immanuel Kant, os termos de serviço da Apple e a Declaração Universal dos Direitos Humanos.