A OpenAI reforça a segurança do ChatGPT contra a injeção de comandos
A OpenAI introduziu dois novos recursos avançados de segurança para o ChatGPT a fim de combater a crescente ameaça de ataques de injeção de prompts, que ocorrem quando sistemas de IA interagem com sites e aplicativos externos. Esses ataques podem permitir que agentes mal-intencionados manipulem a IA para que ela execute ações prejudiciais ou exponha dados confidenciais. Ambos os novos recursos reforçam as defesas existentes da plataforma, incluindo seu ambiente sandbox, a prevenção de vazamento de dados de URL e outros protocolos de segurança em várias camadas.

O primeiro recurso é o Modo de Bloqueio, uma configuração opcional e avançada projetada para usuários com requisitos de segurança rigorosos, em vez do usuário comum. Ele reduz significativamente o risco de vazamentos de dados ao impor controles rígidos sobre como o ChatGPT se comunica com sistemas externos. Esse modo desativa ou restringe proativamente ferramentas que são vetores de ataque em potencial. Por exemplo, o recurso de navegação na web acessará apenas conteúdo armazenado em cache, e funcionalidades sem garantias de segurança robustas serão desativadas completamente.
Atualmente, esse modo está disponível para as edições ChatGPT Enterprise, Education, Healthcare e Teacher. Os administradores podem ativá-lo criando funções específicas nas configurações do painel, onde também podem definir com precisão quais aplicativos externos e ações são permitidos enquanto o Modo de Bloqueio estiver ativo. A OpenAI planeja disponibilizar esse modo para usuários comuns nos próximos meses. Além disso, a Plataforma de Logs da API de Conformidade auxilia os administradores na realização de auditorias regulatórias sobre o uso de aplicativos e práticas de compartilhamento de dados.
A segunda medida envolve marcar consistentemente as funções de maior risco no ChatGPT, ChatGPT Atlas e Codex com um rótulo de **"Risco Elevado"**, padronizando a forma como as ameaças potenciais são comunicadas aos usuários.
A OpenAI explicou que certos recursos conectados à internet, embora aumentem a utilidade da IA, ainda apresentam riscos não totalmente mitigados pelas salvaguardas atuais do setor. Essa etiqueta oferece visibilidade clara desses riscos, capacitando os usuários a tomar decisões informadas sobre o uso dos recursos, especialmente em situações envolvendo informações confidenciais. Por exemplo, quando os desenvolvedores habilitarem o acesso à internet para o Codex, a etiqueta aparecerá na interface, detalhando as mudanças que isso traz, os perigos potenciais, os casos de uso apropriados e as recomendações para reduzir o risco.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)
A OpenAI introduziu dois novos recursos avançados de segurança para o ChatGPT a fim de combater a crescente ameaça de ataques de injeção de prompts, que ocorrem quando sistemas de IA interagem com sites e aplicativos externos. Esses ataques podem permitir que agentes mal-intencionados manipulem a IA para que ela execute ações prejudiciais ou exponha dados confidenciais. Ambos os novos recursos reforçam as defesas existentes da plataforma, incluindo seu ambiente sandbox, a prevenção de vazamento de dados de URL e outros protocolos de segurança em várias camadas.

O primeiro recurso é o Modo de Bloqueio, uma configuração opcional e avançada projetada para usuários com requisitos de segurança rigorosos, em vez do usuário comum. Ele reduz significativamente o risco de vazamentos de dados ao impor controles rígidos sobre como o ChatGPT se comunica com sistemas externos. Esse modo desativa ou restringe proativamente ferramentas que são vetores de ataque em potencial. Por exemplo, o recurso de navegação na web acessará apenas conteúdo armazenado em cache, e funcionalidades sem garantias de segurança robustas serão desativadas completamente.
Atualmente, esse modo está disponível para as edições ChatGPT Enterprise, Education, Healthcare e Teacher. Os administradores podem ativá-lo criando funções específicas nas configurações do painel, onde também podem definir com precisão quais aplicativos externos e ações são permitidos enquanto o Modo de Bloqueio estiver ativo. A OpenAI planeja disponibilizar esse modo para usuários comuns nos próximos meses. Além disso, a Plataforma de Logs da API de Conformidade auxilia os administradores na realização de auditorias regulatórias sobre o uso de aplicativos e práticas de compartilhamento de dados.
A segunda medida envolve marcar consistentemente as funções de maior risco no ChatGPT, ChatGPT Atlas e Codex com um rótulo de **"Risco Elevado"**, padronizando a forma como as ameaças potenciais são comunicadas aos usuários.
A OpenAI explicou que certos recursos conectados à internet, embora aumentem a utilidade da IA, ainda apresentam riscos não totalmente mitigados pelas salvaguardas atuais do setor. Essa etiqueta oferece visibilidade clara desses riscos, capacitando os usuários a tomar decisões informadas sobre o uso dos recursos, especialmente em situações envolvendo informações confidenciais. Por exemplo, quando os desenvolvedores habilitarem o acesso à internet para o Codex, a etiqueta aparecerá na interface, detalhando as mudanças que isso traz, os perigos potenciais, os casos de uso apropriados e as recomendações para reduzir o risco.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr





Lar






