Os bastidores da criptoanálise da Anthropic e dos vazamentos do Claude Chat

Uma pesquisa no Google revelou mais de 25 páginas de resultados com mais de 200 conversas do Claude, algumas contendo informações pessoais ou relacionadas ao trabalho. Crédito: Anthropic

Conversas vazadas do Claude destacam os riscos comerciais da IA paralela, enquanto o Mythos Preview revela vulnerabilidades em algoritmos de criptografia aprovados pelo NIST.

Duas importantes notícias sobre a Anthropic ganharam destaque recentemente, mostrando tanto as capacidades quanto os desafios reais dos sistemas de IA de ponta.

A empresa de IA utilizou o Claude Mythos Preview para identificar maneiras novas e aprimoradas de atacar algoritmos criptográficos — a base matemática da comunicação privada na internet.

O segundo acontecimento, menos favorável, foi o aparecimento de centenas de conversas de usuários com o Claude nos resultados de busca públicos, levantando sérias questões sobre como as organizações gerenciam a implantação de suas ferramentas de IA.

Como os links de bate-papo se tornaram pesquisáveis

Tudo começou quando usuários do Reddit perceberam que as conversas com o Claude podiam ser encontradas por meio da busca do Google. A descoberta revelou mais de 200 conversas espalhadas por 25 páginas de resultados.

Algumas conversas continham informações pessoais, enquanto outras incluíam detalhes sobre projetos de trabalho.

Spencer Starkey, vice-presidente executivo da SonicWall para a região EMEA

Um porta-voz da Anthropic disse à BBC News que compartilhar um link de chat torna o conteúdo acessível ao público. Embora o Claude avise os usuários de que qualquer pessoa com o link pode visualizar a conversa, ele não especifica que os mecanismos de busca podem indexar o conteúdo compartilhado.

Esse vazamento ressalta uma importante questão empresarial: a IA oculta. De acordo com um estudo da Vanta Security, 70% das empresas têm funcionários que utilizam ferramentas de IA não autorizadas.

Spencer Starkey, vice-presidente executivo da SonicWall para a região EMEA, coloca as implicações da IA paralela em perspectiva.

“Os funcionários estão usando plataformas públicas de LLM/IA todos os dias — inserindo dados de clientes, documentos internos e correspondência confidencial — sem que haja qualquer estrutura de políticas em vigor”, observa Spencer.

“A capacidade de bloquear protocolos de IA não autorizados no nível do firewall já existe, mas será que as empresas estão optando por usá-la? Bem, agora está mais claro do que nunca que elas realmente deveriam.

“Enquanto as organizações não tratarem a IA paralela com a mesma seriedade com que tratariam um aplicativo de terceiros não autorizado, elas estarão deixando um risco significativo e amplamente invisível de vazamento de dados completamente sem controle — em que dados potencialmente confidenciais poderiam simplesmente aparecer em uma busca no Google.”

De acordo com a BBC News, a Anthropic tomou medidas para impedir que os principais mecanismos de busca indexem links compartilhados de bate-papos.

Análise criptográfica com o Mythos Preview

O Claude Mythos Preview demonstrou sua capacidade de identificar vulnerabilidades ocultas em softwares. A nova pesquisa da Anthropic descobriu que essa capacidade se estende à análise criptográfica.

Enquanto as organizações não tratarem a IA paralela com a mesma seriedade com que tratariam um aplicativo de terceiros não autorizado, elas estarão deixando um risco significativo e amplamente invisível de vazamento de dados completamente sem controle

Spencer Starkey, vice-presidente executivo da SonicWall para a região EMEA

Essas cifras criptográficas são algoritmos matemáticos que protegem o tráfego da internet. Elas protegem serviços bancários online, e-mails e outras comunicações por meio da criptografia.

Os pesquisadores da Mythos descobriram um ataque contra o HAWK, um esquema de assinatura digital que estava sendo considerado pelo Instituto Nacional de Padrões e Tecnologia (NIST) dos EUA para criptografia pós-quântica.

A IA modificou o ataque mais conhecido contra o HAWK em menos de 60 horas, reduzindo pela metade a resistência da chave do algoritmo.

A pesquisa também examinou o Padrão Avançado de Criptografia (AES). De acordo com a Anthropic, o AES passou por mais análises do que qualquer outro algoritmo de criptografia desde que o NIST o adotou em 2001.

Principais fatos

• 70% das empresas têm funcionários que utilizam ferramentas de IA não autorizadas, de acordo com a Vanta Security
• O ataque mais conhecido ao HAWK foi modificado pelo Mythos em menos de 60 horas, reduzindo pela metade a resistência da chave do algoritmo
• A Mythos conseguiu quebrar uma versão mais fraca da criptografia AES a uma velocidade de 200 a 800 vezes maior do que os melhores ataques anteriores

O Mythos quebrou uma versão mais fraca dessa criptografia de 200 a 800 vezes mais rápido do que os ataques anteriores. A empresa afirma que os sistemas atuais não sofrem impacto imediato, pois o HAWK ainda não foi implantado e a cifra AES original não foi quebrada.

A Anthropic considera esses resultados como avanços na pesquisa criptográfica. A empresa está em parceria com acadêmicos da ETH Zurich, da Universidade de Tel Aviv e da TU Berlin para desenvolver o CryptanalysisBench.

Essa plataforma de testes agrupa cifras criptográficas para avaliar as capacidades dos LLMs em criptoanálise. A Anthropic compartilhou sua pesquisa com o governo dos EUA e parceiros do setor.

A Anthropic também observa que forneceu detalhes da pesquisa sobre o HAWK aos autores do algoritmo em junho. O Dr. Adam Everspaugh, consultor de criptografia da Keeper Security, destaca que o ritmo é o que mais importa.

Adam Everspaugh, consultor de criptografia da Keeper Security. Crédito: Station70

“Esse ataque teria levado cerca de 60 horas de pesquisa assistida por IA para encontrar algo que dois anos de análise por especialistas humanos não conseguiram descobrir. Isso por si só já deveria forçar as organizações a repensar sua abordagem em relação à preparação para a era quântica”, diz Adam.

Construindo sistemas cripto-ágeis

Adam destaca que a escolha do algoritmo, por si só, não determina a resiliência do sistema. “A criptoagilidade é tão fundamental quanto a própria escolha do algoritmo”, observa ele.

“Sistemas criados para trocar ou corrigir primitivas criptográficas sem uma reestruturação completa absorvem descobertas como essa com muito mais facilidade do que aqueles presos a um único esquema.

Na prática, isso significa manter um inventário atualizado de onde e como os algoritmos criptográficos são utilizados em todo o seu ambiente e garantir que existam caminhos de atualização antes que uma migração forçada se torne necessária.”