CEO da Microsoft critica laboratórios de IA por causa da destilação

Satya Nadella, CEO da Microsoft, critica laboratórios de IA por hipocrisia em relação às críticas à destilação de modelos, uma observação amplamente interpretada como dirigida à Anthropic. Crédito: Getty Images

O CEO da Microsoft, Satya Nadella, questiona os desenvolvedores de IA por limitarem a destilação de modelos enquanto, ao mesmo tempo, utilizam dados públicos e de clientes para treinar seus próprios sistemas.

Satya Nadella, da Microsoft, criticou publicamente laboratórios de IA não identificados do setor de tecnologia por sua postura contraditória em relação à destilação de IA, uma técnica na qual um modelo menor é treinado usando os resultados de um sistema maior e mais potente.

Em uma postagem no X, Nadella argumenta que os criadores de modelos que reclamam da destilação estão sendo hipócritas em relação ao processo mais amplo de treinamento de IA.

Ele reconhece que “é necessária a grande inovação que surge quando os fornecedores de modelos têm direitos de uso justo para treinar com dados públicos”, mas considera “irônico” que o consenso do setor imponha “termos restritivos” à destilação.

Isso ocorre mesmo quando essas empresas se reservam o direito de aprender a partir dos dados de uso e interação dos próprios clientes.

“Se o aprendizado flui em apenas uma direção, o valor econômico converge para os proprietários da infraestrutura de aprendizado, em vez de para os criadores do próprio conhecimento”, observa Nadella.

Ataques à Anthropic destacam crescente polêmica sobre a origem dos dados

A Anthropic, a OpenAI e o Google DeepMind dependem de conteúdo de terceiros para treinar seus modelos de IA. O ChatGPT, o Claude e o Gemini obtêm informações a partir de textos, imagens e dados disponíveis publicamente.

Muitos têm levantado preocupações éticas e relacionadas aos direitos autorais sobre esse método de treinamento, levando a ações judiciais por parte de grandes criadores de conteúdo.

Por exemplo, a BBC News informou que a BBC está processando a Anthropic por obtenção de dados sem consentimento.

Embora Nadella não tenha citado a Anthropic diretamente, as evidências sugerem que a postagem foi fortemente direcionada à empresa de IA. Sua crítica segue uma postagem anterior da Anthropic sobre “detecção e prevenção de ataques de destilação”.

Em uma carta enviada em junho ao senador Tim Scott, da Carolina do Sul, e à senadora Elizabeth Warren, de Massachusetts, a Anthropic alegou que a Alibaba executou recentemente o “maior ataque de destilação já conhecido” contra seus dados.

A declaração argumentou que os concorrentes poderiam usar a destilação para adquirir “capacidades poderosas de outros laboratórios em uma fração do tempo e por uma fração do custo que seria necessário para desenvolvê-las de forma independente”. O Alibaba ainda não respondeu a essas acusações.

Empresas como a BBC e o Reddit entraram com ação contra a Anthropic, acusando-a de usar seus dados para treinar seu modelo Claude sem consentimento (Crédito: Anthropic)

A terceirização de modelos traz riscos críticos para os negócios

Na mesma postagem no X, Nadella alerta que as empresas que dependem de grandes modelos de IA estão concedendo às empresas de IA acesso aos seus dados proprietários.

Ele enfatiza que as empresas devem ser donas de sua própria infraestrutura de IA e de seu conhecimento do setor, em vez de depender de um único fornecedor de modelos.

Nadella aconselha que as empresas realizem suas próprias avaliações e um “ciclo de aprendizado” para garantir que sua tecnologia de IA se desenvolva e melhore ao longo do tempo.

As empresas precisam de parâmetros de segurança rigorosos para proteger seus desenvolvimentos proprietários. Nadella afirma que as empresas precisam de um limite de confiança real para que seu capital humano e simbólico se valorizem.

Ele acrescenta que essa barreira não deve ser ultrapassada por ninguém nem por nada, “nem mesmo pelos resíduos de inteligência, sem consentimento”.

Da mesma forma, Elon Musk criticou publicamente as práticas de coleta de dados da Anthropic para treinar seus modelos de IA.

Em uma postagem de fevereiro no X, Musk acusou a Anthropic de “roubar dados de treinamento em grande escala”, prevendo que a empresa enfrentaria “acordos de bilhões de dólares” por roubo.

“Isso é simplesmente um fato”, acrescenta ele.