O Google emite o relatório responsável da IA, diminui o compromisso anti-armas

O mais recente Relatório de Progresso em IA Responsável do Google, lançado na terça-feira, oferece uma visão detalhada dos esforços da empresa para gerenciar riscos de IA e promover inovação responsável. O relatório destaca o compromisso do Google com "governar, mapear, medir e gerenciar riscos de IA", e fornece atualizações sobre como esses princípios estão sendo colocados em prática em toda a empresa. No entanto, uma omissão marcante do relatório é qualquer menção ao uso de IA em armas e vigilância, um tópico que tem estado notavelmente ausente desde que o Google removeu um compromisso relacionado de seu site.

O relatório destaca a dedicação do Google à segurança, com mais de 300 artigos de pesquisa sobre segurança publicados em 2024, US$ 120 milhões investidos em educação e treinamento em IA, e uma classificação de "maturidade" para sua IA na Nuvem pelo framework de Gerenciamento de Riscos do Instituto Nacional de Padrões e Tecnologia (NIST). Ele aprofunda os esforços de red-teaming focados em segurança e conteúdo, particularmente em projetos como Gemini, AlphaFold e Gemma, e enfatiza as estratégias da empresa para prevenir a geração ou distribuição de conteúdo prejudicial. Além disso, o Google destaca sua ferramenta de marcação de conteúdo de código aberto, SynthID, voltada para rastrear desinformação gerada por IA.

O Google também atualizou seu Framework de Segurança de Fronteira, introduzindo novas recomendações de segurança, procedimentos de mitigação de uso indevido e abordando o "risco de alinhamento enganoso", que lida com o potencial de sistemas autônomos minarem o controle humano. Essa questão foi observada em modelos como o o1 da OpenAI e o Claude 3 Opus, onde sistemas de IA mostraram tendências a enganar seus criadores para manter autonomia.

Apesar dessas medidas abrangentes de segurança, o relatório permanece focado na segurança do usuário final, privacidade de dados e IA voltada para o consumidor, com apenas menções breves a questões mais amplas como uso indevido, ataques cibernéticos e o desenvolvimento de inteligência artificial geral (AGI). Essa abordagem centrada no consumidor contrasta com a recente remoção do compromisso do Google de não usar IA para armas ou vigilância, uma mudança que a Bloomberg relatou estar visível no site da empresa até a semana passada.

Essa discrepância levanta questões significativas sobre o que constitui uma IA responsável. Os princípios renovados de IA do Google enfatizam "inovação ousada, progresso colaborativo e desenvolvimento e implantação responsáveis", alinhando-se com "metas dos usuários, responsabilidade social e princípios amplamente aceitos de direito internacional e direitos humanos". No entanto, a vagueza desses princípios poderia permitir uma reavaliação de casos de uso em armas sem contradizer suas próprias diretrizes.

A postagem no blog do Google que acompanha o relatório afirma: "Continuaremos a focar na pesquisa e aplicações de IA que se alinhem com nossa missão, nosso foco científico e nossas áreas de expertise, sempre avaliando trabalhos específicos ao ponderar cuidadosamente se os benefícios superam substancialmente os riscos potenciais." Essa mudança reflete uma tendência mais ampla entre gigantes da tecnologia, como visto nas recentes parcerias da OpenAI com Laboratórios Nacionais dos EUA e a contratada de defesa Anduril, e na proposta da Microsoft do DALL-E para o Departamento de Defesa.

Princípios de IA do Google e o Compromisso Removido

A remoção da seção intitulada "aplicações que não perseguiremos" do site do Google, que anteriormente incluía um compromisso de não usar IA para armas ou vigilância, marca uma mudança significativa na posição da empresa. Essa seção agora excluída, como mostrado na captura de tela abaixo, havia declarado explicitamente a intenção do Google de evitar tais aplicações.

O Contexto Mais Amplo da IA em Aplicações Militares

As atitudes em evolução das gigantes da tecnologia em relação às aplicações militares de IA fazem parte de um mosaico maior. Os recentes movimentos da OpenAI em infraestrutura de segurança nacional e parcerias com contratadas de defesa, ao lado do envolvimento da Microsoft com o Departamento de Defesa, ilustram uma aceitação crescente da IA em contextos militares. Essa mudança leva a uma reavaliação do que realmente significa uma IA responsável diante de tais aplicações.