Meta corrige bug que expôs dados de IA dos usuários

A Meta resolveu uma vulnerabilidade de segurança que permitia que os usuários de seu chatbot de IA acessassem e visualizassem os prompts privados e gerassem respostas de outros usuários.
Sandeep Hodkasia, fundador da empresa de testes de segurança AppSecure, informou com exclusividade ao TechCrunch que a Meta concedeu a ele uma recompensa de US$ 10.000 por bugs por ter relatado o problema de forma privada, que ele registrou em 26 de dezembro de 2024.
De acordo com Hodkasia, o Meta implementou uma correção em 24 de janeiro de 2025 e não encontrou nenhuma indicação de que a vulnerabilidade tenha sido explorada de forma maliciosa.
Hodkasia explicou ao TechCrunch que descobriu o bug enquanto explorava como o Meta AI permite que os usuários conectados editem seus prompts para regenerar texto e imagens. Ele percebeu que, quando um usuário edita um prompt, os servidores de back-end do Meta atribuem a ele e à resposta gerada pela IA um identificador numérico exclusivo. Ao monitorar o tráfego de rede de seu navegador durante uma edição, Hodkasia descobriu que poderia alterar esse identificador, fazendo com que os servidores retornassem o prompt e a resposta de um usuário completamente diferente.
Essa falha significava que os servidores do Meta não conseguiam verificar adequadamente se um usuário estava autorizado a visualizar um prompt específico e sua resposta. Hodkasia afirmou que os identificadores de prompt gerados pelos servidores do Meta eram "facilmente adivinháveis", o que poderia ter permitido que um agente mal-intencionado extraísse os prompts originais dos usuários, passando rapidamente pelos números com ferramentas automatizadas.
Quando contatada pelo TechCrunch, a Meta confirmou que a correção foi implementada em janeiro. "Não encontramos nenhuma evidência de abuso e recompensamos o pesquisador", declarou Ryan Daniels, porta-voz da Meta.
Esse problema de segurança surge no momento em que as principais empresas de tecnologia correm para lançar e aprimorar seus produtos de IA, muitos dos quais apresentam riscos significativos à segurança e à privacidade.
O aplicativo autônomo da Meta AI, lançado no início deste ano para competir com rivais como o ChatGPT, teve um lançamento turbulento depois que alguns usuários compartilharam acidentalmente conversas que acreditavam ser privadas.
Evento da TechcrunchAO VIVO AGORA! TechCrunch All Stage
Crie de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.
Economize US$ 450 em seu passe para o TechCrunch All Stage
Construa de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.
Boston, MA | 15 de julho INSCREVA-SE AGORA
Artigo relacionado
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
O Mark Zuckerberg realmente acredita que a IA é para todos?
Carregando o player…A Meta apresentou o Glimmer esta semana, um modelo de IA de pesos abertos que qualquer pessoa pode baixar e executar em hardware pessoal — um contraste acentuado com o Muse Spark, o modelo mais poderoso da empresa, que permanece
O Facebook lança um aplicativo complementar de IA para criadores de conteúdo
O Facebook revelou nesta quarta-feira que está transformando seu Creator Studio em um aplicativo complementar dedicado à IA, permitindo que os criadores ampliem seu alcance na plataforma.Ao disponibil
Recomendações de tópicos especiais relacionados
Comentários (1)
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡

A Meta resolveu uma vulnerabilidade de segurança que permitia que os usuários de seu chatbot de IA acessassem e visualizassem os prompts privados e gerassem respostas de outros usuários.
Sandeep Hodkasia, fundador da empresa de testes de segurança AppSecure, informou com exclusividade ao TechCrunch que a Meta concedeu a ele uma recompensa de US$ 10.000 por bugs por ter relatado o problema de forma privada, que ele registrou em 26 de dezembro de 2024.
De acordo com Hodkasia, o Meta implementou uma correção em 24 de janeiro de 2025 e não encontrou nenhuma indicação de que a vulnerabilidade tenha sido explorada de forma maliciosa.
Hodkasia explicou ao TechCrunch que descobriu o bug enquanto explorava como o Meta AI permite que os usuários conectados editem seus prompts para regenerar texto e imagens. Ele percebeu que, quando um usuário edita um prompt, os servidores de back-end do Meta atribuem a ele e à resposta gerada pela IA um identificador numérico exclusivo. Ao monitorar o tráfego de rede de seu navegador durante uma edição, Hodkasia descobriu que poderia alterar esse identificador, fazendo com que os servidores retornassem o prompt e a resposta de um usuário completamente diferente.
Essa falha significava que os servidores do Meta não conseguiam verificar adequadamente se um usuário estava autorizado a visualizar um prompt específico e sua resposta. Hodkasia afirmou que os identificadores de prompt gerados pelos servidores do Meta eram "facilmente adivinháveis", o que poderia ter permitido que um agente mal-intencionado extraísse os prompts originais dos usuários, passando rapidamente pelos números com ferramentas automatizadas.
Quando contatada pelo TechCrunch, a Meta confirmou que a correção foi implementada em janeiro. "Não encontramos nenhuma evidência de abuso e recompensamos o pesquisador", declarou Ryan Daniels, porta-voz da Meta.
Esse problema de segurança surge no momento em que as principais empresas de tecnologia correm para lançar e aprimorar seus produtos de IA, muitos dos quais apresentam riscos significativos à segurança e à privacidade.
O aplicativo autônomo da Meta AI, lançado no início deste ano para competir com rivais como o ChatGPT, teve um lançamento turbulento depois que alguns usuários compartilharam acidentalmente conversas que acreditavam ser privadas.
Evento da TechcrunchAO VIVO AGORA! TechCrunch All Stage
Crie de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.
Economize US$ 450 em seu passe para o TechCrunch All Stage
Construa de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.
Boston, MA | 15 de julho INSCREVA-SE AGORA
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
O Mark Zuckerberg realmente acredita que a IA é para todos?
Carregando o player…A Meta apresentou o Glimmer esta semana, um modelo de IA de pesos abertos que qualquer pessoa pode baixar e executar em hardware pessoal — um contraste acentuado com o Muse Spark, o modelo mais poderoso da empresa, que permanece
O Facebook lança um aplicativo complementar de IA para criadores de conteúdo
O Facebook revelou nesta quarta-feira que está transformando seu Creator Studio em um aplicativo complementar dedicado à IA, permitindo que os criadores ampliem seu alcance na plataforma.Ao disponibil
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡





Lar






