OpeniAI atrasa a integração da API de pesquisa profunda
Atualizado às 16:11, horário do leste: A OpenAI esclareceu que seu whitepaper foi redigido de forma equivocada, sugerindo que sua pesquisa sobre persuasão estava vinculada à decisão de liberar o modelo de pesquisa profunda por meio de sua API. A empresa desde então atualizou o whitepaper para esclarecer que seu trabalho de persuasão é separado dos planos de liberar o modelo de pesquisa profunda. A história original continua abaixo:
A OpenAI decidiu adiar a integração do modelo de IA por trás de sua ferramenta de pesquisa profunda em sua API para desenvolvedores. Eles estão tomando essa medida para entender melhor os riscos associados à capacidade da IA de influenciar as ações e crenças das pessoas.
Em um whitepaper publicado na quarta-feira, a OpenAI mencionou que está atualizando seus métodos para avaliar modelos quanto aos "riscos de persuasão no mundo real", como o potencial de espalhar informações enganosas em grande escala.
A empresa destacou que o modelo de pesquisa profunda não é adequado para campanhas de desinformação ou misinformation em massa devido aos seus altos custos computacionais e menor velocidade de processamento. No entanto, a OpenAI planeja investigar como a IA pode personalizar conteúdo persuasivo prejudicial antes de decidir incluir o modelo de pesquisa profunda em sua API.
"Enquanto trabalhamos para reconsiderar nossa abordagem à persuasão, estamos implementando este modelo apenas no ChatGPT, e não na API," afirmou a OpenAI.
Há uma preocupação crescente de que a IA possa ser usada para espalhar informações falsas ou enganosas com intenções malévolas. Por exemplo, no último ano, houve uma rápida disseminação de deepfakes políticos em todo o mundo. No dia da eleição em Taiwan, um grupo ligado ao Partido Comunista Chinês lançou áudio gerado por IA, enganoso, de um político endossando um candidato pró-China.
A IA também está sendo cada vez mais usada em ataques de engenharia social. Consumidores estão caindo em deepfakes de celebridades promovendo esquemas de investimento fraudulentos, enquanto corporações estão perdendo milhões para impersonadores de deepfake.
Em seu whitepaper, a OpenAI compartilhou os resultados de vários testes sobre a capacidade de persuasão do modelo de pesquisa profunda. Este modelo é uma versão especializada do modelo o3 de "raciocínio" recentemente anunciado pela OpenAI, otimizado para navegação na web e análise de dados.
Em um teste, o modelo de pesquisa profunda foi encarregado de criar argumentos persuasivos e superou todos os outros modelos da OpenAI lançados até o momento, embora não tenha superado a baseline humana. Em outro teste, no qual o modelo tentou persuadir outro modelo (o GPT-4o da OpenAI) a fazer um pagamento, ele novamente se saiu melhor do que os outros modelos disponíveis da OpenAI.

Pontuação do modelo de pesquisa profunda no MakeMePay, um benchmark que testa a capacidade de um modelo de persuadir outro modelo por dinheiro. Créditos da imagem: OpenAI No entanto, o modelo de pesquisa profunda não se destacou em todos os testes de persuasão. De acordo com o whitepaper, ele foi menos eficaz em persuadir o GPT-4o a revelar uma palavra-código em comparação com o próprio GPT-4o.A OpenAI sugeriu que os resultados dos testes podem representar os "limites inferiores" das capacidades do modelo de pesquisa profunda. "Estruturas adicionais ou elicitação de capacidades aprimorada poderiam aumentar substancialmente o desempenho observado," observou a empresa.
Entramos em contato com a OpenAI para mais detalhes e atualizaremos este post se recebermos uma resposta.
Enquanto isso, pelo menos um dos concorrentes da OpenAI não está se contendo. A Perplexity anunciou o lançamento do Deep Research em sua API para desenvolvedores Sonar, alimentada por uma versão personalizada do modelo R1 do laboratório de IA chinês DeepSeek.
Artigo relacionado
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
A cabeça de robótica da OpenAI, Caitlin Kalinowski, renuncia devido à parceria com o Pentágono
O líder de robótica da OpenAI, Caitlin Kalinowski, renunciou após a polêmica parceria da empresa com o Departamento de Defesa.“Esta não foi uma decisão fácil”, explicou Kalinowski em uma declaração nas redes sociais. “Embora a IA desempenhe um papel
Recomendações de tópicos especiais relacionados
Comentários (41)
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
Atualizado às 16:11, horário do leste: A OpenAI esclareceu que seu whitepaper foi redigido de forma equivocada, sugerindo que sua pesquisa sobre persuasão estava vinculada à decisão de liberar o modelo de pesquisa profunda por meio de sua API. A empresa desde então atualizou o whitepaper para esclarecer que seu trabalho de persuasão é separado dos planos de liberar o modelo de pesquisa profunda. A história original continua abaixo:
A OpenAI decidiu adiar a integração do modelo de IA por trás de sua ferramenta de pesquisa profunda em sua API para desenvolvedores. Eles estão tomando essa medida para entender melhor os riscos associados à capacidade da IA de influenciar as ações e crenças das pessoas.
Em um whitepaper publicado na quarta-feira, a OpenAI mencionou que está atualizando seus métodos para avaliar modelos quanto aos "riscos de persuasão no mundo real", como o potencial de espalhar informações enganosas em grande escala.
A empresa destacou que o modelo de pesquisa profunda não é adequado para campanhas de desinformação ou misinformation em massa devido aos seus altos custos computacionais e menor velocidade de processamento. No entanto, a OpenAI planeja investigar como a IA pode personalizar conteúdo persuasivo prejudicial antes de decidir incluir o modelo de pesquisa profunda em sua API.
"Enquanto trabalhamos para reconsiderar nossa abordagem à persuasão, estamos implementando este modelo apenas no ChatGPT, e não na API," afirmou a OpenAI.
Há uma preocupação crescente de que a IA possa ser usada para espalhar informações falsas ou enganosas com intenções malévolas. Por exemplo, no último ano, houve uma rápida disseminação de deepfakes políticos em todo o mundo. No dia da eleição em Taiwan, um grupo ligado ao Partido Comunista Chinês lançou áudio gerado por IA, enganoso, de um político endossando um candidato pró-China.
A IA também está sendo cada vez mais usada em ataques de engenharia social. Consumidores estão caindo em deepfakes de celebridades promovendo esquemas de investimento fraudulentos, enquanto corporações estão perdendo milhões para impersonadores de deepfake.
Em seu whitepaper, a OpenAI compartilhou os resultados de vários testes sobre a capacidade de persuasão do modelo de pesquisa profunda. Este modelo é uma versão especializada do modelo o3 de "raciocínio" recentemente anunciado pela OpenAI, otimizado para navegação na web e análise de dados.
Em um teste, o modelo de pesquisa profunda foi encarregado de criar argumentos persuasivos e superou todos os outros modelos da OpenAI lançados até o momento, embora não tenha superado a baseline humana. Em outro teste, no qual o modelo tentou persuadir outro modelo (o GPT-4o da OpenAI) a fazer um pagamento, ele novamente se saiu melhor do que os outros modelos disponíveis da OpenAI.

A OpenAI sugeriu que os resultados dos testes podem representar os "limites inferiores" das capacidades do modelo de pesquisa profunda. "Estruturas adicionais ou elicitação de capacidades aprimorada poderiam aumentar substancialmente o desempenho observado," observou a empresa.
Entramos em contato com a OpenAI para mais detalhes e atualizaremos este post se recebermos uma resposta.
Enquanto isso, pelo menos um dos concorrentes da OpenAI não está se contendo. A Perplexity anunciou o lançamento do Deep Research em sua API para desenvolvedores Sonar, alimentada por uma versão personalizada do modelo R1 do laboratório de IA chinês DeepSeek.
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
A cabeça de robótica da OpenAI, Caitlin Kalinowski, renuncia devido à parceria com o Pentágono
O líder de robótica da OpenAI, Caitlin Kalinowski, renunciou após a polêmica parceria da empresa com o Departamento de Defesa.“Esta não foi uma decisão fácil”, explicou Kalinowski em uma declaração nas redes sociais. “Embora a IA desempenhe um papel
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.





Lar






