OpenAI délaçait l'intégration de l'API de recherche profonde
Mis à jour à 16h11, heure de l'Est : OpenAI a précisé que son livre blanc était mal formulé, suggérant que ses recherches sur la persuasion étaient liées à sa décision de publier le modèle de recherche approfondie via son API. L'entreprise a depuis mis à jour le livre blanc pour clarifier que ses travaux sur la persuasion sont distincts de ses plans de publication du modèle de recherche approfondie. L'histoire originale se poursuit ci-dessous :
OpenAI a décidé de retarder l'intégration du modèle d'IA derrière son outil de recherche approfondie dans son API pour développeurs. Ils prennent cette mesure pour mieux comprendre les risques associés à la capacité de l'IA à influencer les actions et les croyances des gens.
Dans un livre blanc publié mercredi, OpenAI a mentionné qu'ils mettent actuellement à jour leurs méthodes d'évaluation des modèles pour les "risques de persuasion dans le monde réel", tels que le potentiel de diffusion d'informations trompeuses à grande échelle.
L'entreprise a souligné que le modèle de recherche approfondie n'est pas bien adapté aux campagnes de désinformation ou de mésinformation de masse en raison de ses coûts de calcul élevés et de sa vitesse de traitement plus lente. Cependant, OpenAI prévoit d'étudier comment l'IA pourrait adapter du contenu persuasif nuisible avant de décider d'inclure le modèle de recherche approfondie dans son API.
"Pendant que nous réexaminons notre approche de la persuasion, nous déployons ce modèle uniquement dans ChatGPT, et non dans l'API", a déclaré OpenAI.
Il y a une préoccupation croissante que l'IA puisse être utilisée pour diffuser des informations fausses ou trompeuses avec des intentions nuisibles. Par exemple, l'année dernière, on a assisté à la propagation rapide de deepfakes politiques à travers le monde. Le jour des élections à Taïwan, un groupe lié au Parti communiste chinois a diffusé un audio généré par IA, trompeur, d'un homme politique soutenant un candidat pro-chinois.
L'IA est également de plus en plus utilisée dans les attaques d'ingénierie sociale. Les consommateurs tombent dans le piège de deepfakes de célébrités promouvant des escroqueries d'investissement frauduleuses, tandis que les entreprises perdent des millions à cause d'imposteurs utilisant des deepfakes.
Dans son livre blanc, OpenAI a partagé les résultats de plusieurs tests sur la capacité de persuasion du modèle de recherche approfondie. Ce modèle est une version spécialisée du modèle de "raisonnement" o3 récemment annoncé par OpenAI, optimisé pour la navigation web et l'analyse de données.
Dans un test, le modèle de recherche approfondie a été chargé de rédiger des arguments persuasifs et a surpassé tous les autres modèles d'OpenAI publiés à ce jour, bien qu'il n'ait pas dépassé la référence humaine. Dans un autre test, où le modèle a tenté de persuader un autre modèle (GPT-4o d'OpenAI) d'effectuer un paiement, il a de nouveau fait mieux que les autres modèles disponibles d'OpenAI.

Score du modèle de recherche approfondie sur MakeMePay, un benchmark qui teste la capacité d'un modèle à persuader un autre modèle pour de l'argent. Crédits image : OpenAI Cependant, le modèle de recherche approfondie n'a pas excellé dans tous les tests de persuasion. Selon le livre blanc, il était moins efficace pour persuader GPT-4o de révéler un mot de code par rapport à GPT-4o lui-même.OpenAI a suggéré que les résultats des tests pourraient représenter les "limites inférieures" des capacités du modèle de recherche approfondie. "Un échafaudage supplémentaire ou une meilleure elicitation des capacités pourrait augmenter considérablement les performances observées", a noté l'entreprise.
Nous avons contacté OpenAI pour plus de détails et mettrons à jour cet article si nous recevons une réponse.
Entre-temps, au moins un des concurrents d'OpenAI ne se retient pas. Perplexity a annoncé le lancement de Deep Research dans son API pour développeurs Sonar, alimenté par une version personnalisée du modèle R1 du laboratoire chinois d'IA DeepSeek.
Article connexe
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
Recommandations de sujets spéciaux liés
commentaires (41)
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
Mis à jour à 16h11, heure de l'Est : OpenAI a précisé que son livre blanc était mal formulé, suggérant que ses recherches sur la persuasion étaient liées à sa décision de publier le modèle de recherche approfondie via son API. L'entreprise a depuis mis à jour le livre blanc pour clarifier que ses travaux sur la persuasion sont distincts de ses plans de publication du modèle de recherche approfondie. L'histoire originale se poursuit ci-dessous :
OpenAI a décidé de retarder l'intégration du modèle d'IA derrière son outil de recherche approfondie dans son API pour développeurs. Ils prennent cette mesure pour mieux comprendre les risques associés à la capacité de l'IA à influencer les actions et les croyances des gens.
Dans un livre blanc publié mercredi, OpenAI a mentionné qu'ils mettent actuellement à jour leurs méthodes d'évaluation des modèles pour les "risques de persuasion dans le monde réel", tels que le potentiel de diffusion d'informations trompeuses à grande échelle.
L'entreprise a souligné que le modèle de recherche approfondie n'est pas bien adapté aux campagnes de désinformation ou de mésinformation de masse en raison de ses coûts de calcul élevés et de sa vitesse de traitement plus lente. Cependant, OpenAI prévoit d'étudier comment l'IA pourrait adapter du contenu persuasif nuisible avant de décider d'inclure le modèle de recherche approfondie dans son API.
"Pendant que nous réexaminons notre approche de la persuasion, nous déployons ce modèle uniquement dans ChatGPT, et non dans l'API", a déclaré OpenAI.
Il y a une préoccupation croissante que l'IA puisse être utilisée pour diffuser des informations fausses ou trompeuses avec des intentions nuisibles. Par exemple, l'année dernière, on a assisté à la propagation rapide de deepfakes politiques à travers le monde. Le jour des élections à Taïwan, un groupe lié au Parti communiste chinois a diffusé un audio généré par IA, trompeur, d'un homme politique soutenant un candidat pro-chinois.
L'IA est également de plus en plus utilisée dans les attaques d'ingénierie sociale. Les consommateurs tombent dans le piège de deepfakes de célébrités promouvant des escroqueries d'investissement frauduleuses, tandis que les entreprises perdent des millions à cause d'imposteurs utilisant des deepfakes.
Dans son livre blanc, OpenAI a partagé les résultats de plusieurs tests sur la capacité de persuasion du modèle de recherche approfondie. Ce modèle est une version spécialisée du modèle de "raisonnement" o3 récemment annoncé par OpenAI, optimisé pour la navigation web et l'analyse de données.
Dans un test, le modèle de recherche approfondie a été chargé de rédiger des arguments persuasifs et a surpassé tous les autres modèles d'OpenAI publiés à ce jour, bien qu'il n'ait pas dépassé la référence humaine. Dans un autre test, où le modèle a tenté de persuader un autre modèle (GPT-4o d'OpenAI) d'effectuer un paiement, il a de nouveau fait mieux que les autres modèles disponibles d'OpenAI.

OpenAI a suggéré que les résultats des tests pourraient représenter les "limites inférieures" des capacités du modèle de recherche approfondie. "Un échafaudage supplémentaire ou une meilleure elicitation des capacités pourrait augmenter considérablement les performances observées", a noté l'entreprise.
Nous avons contacté OpenAI pour plus de détails et mettrons à jour cet article si nous recevons une réponse.
Entre-temps, au moins un des concurrents d'OpenAI ne se retient pas. Perplexity a annoncé le lancement de Deep Research dans son API pour développeurs Sonar, alimenté par une version personnalisée du modèle R1 du laboratoire chinois d'IA DeepSeek.
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.





Maison






