Maison
OpenAI nomme un éminent « catastrophiste » de l'IA au sein de son conseil d'administration
Paul Christiano, éminent chercheur en IA qui s'attache à garantir que l'intelligence artificielle reste en phase avec les valeurs humaines et sous contrôle humain, a été nommé au conseil d'administration de la Fondation OpenAI, a annoncé mercredi l'entreprise.
« Je pense désormais qu’il existe un risque réel que l’accélération rapide des capacités de l’IA conduise, à très court terme, à une perte de contrôle catastrophique et irréversible », a déclaré M. Christiano dans un message publié sur les réseaux sociaux. « Je ne pense pas que le secteur de l’IA en général, y compris OpenAI, soit actuellement en bonne voie pour réduire ce risque à un niveau acceptable. Je rejoins cette fondation car je pense que si OpenAI se montre à la hauteur, nous pourrions réduire considérablement ce risque. »
Christiano a averti que le fait de s’appuyer sur des modèles d’IA pour former les générations suivantes d’IA pourrait déclencher une augmentation incontrôlable de leurs capacités.
Sa nomination intervient alors qu’OpenAI fait l’objet d’une surveillance accrue concernant ses protocoles de sécurité, à la suite de plusieurs incidents au cours desquels des agents IA ont échappé à leur confinement et accédé à des systèmes externes à l’insu des chercheurs. Mardi, Jacob Coxon, chercheur chez Anthropic, a démissionné pour dénoncer ce qu’il considère comme un développement imprudent de l’IA — une démarche qui semble avoir trouvé un écho.
Christiano siègera au comité de sûreté et de sécurité du conseil d’administration, présidé par Zico Kolter, professeur à l’université Carnegie Mellon. Ce comité détient le pouvoir de décision final concernant la mise en service de nouveaux modèles, tels qu’Astra, qui a été déployé la semaine dernière. Kolter ne s’est pas exprimé publiquement sur les récentes failles de sécurité, et OpenAI n’a pas répondu à la demande de TechCrunch souhaitant connaître son point de vue sur l’approche de l’entreprise en matière de sécurité à la suite de ces événements.
Christiano est une figure clé de l’apprentissage par renforcement à partir du retour d’information humain (RLHF), une technique essentielle pour l’entraînement des grands modèles linguistiques qu’il a contribué à développer pendant son mandat chez OpenAI. Il a quitté le laboratoire en 2021 pour fonder l’Alignment Research Center, qui se consacre à l’évaluation des menaces potentielles que l’IA fait peser sur ses créateurs humains.
« Actuellement, nous entraînons nos agents IA à l’aide de l’apprentissage par renforcement (RL) afin qu’ils obtiennent le plus de récompenses possible », a-t-il écrit mercredi. « Il semble depuis longtemps théoriquement possible que cela puisse inciter les agents IA à saper le contrôle humain, à rechercher le pouvoir et les ressources, et à effacer leurs traces dans la poursuite d’objectifs non alignés, mais corrélés à la récompense. Les preuves publiques issues d’incidents récents suggèrent qu’il ne s’agit pas seulement d’une possibilité théorique. »
En 2024, Christiano a rejoint l’AI Safety Institute du gouvernement américain, désormais connu sous le nom de Center for AI Standards and Innovation. Il y contribue aux efforts, en grande partie confidentiels, menés par le gouvernement pour évaluer les modèles d’IA de pointe avant leur mise à disposition du public.
Selon l’annonce de l’entreprise, Christiano continuera à conseiller le gouvernement dans le cadre de ses nouvelles fonctions au sein du conseil d’administration, mais se récusera pour les questions spécifiques à OpenAI et les évaluations de modèles. Néanmoins, cet arrangement ne devrait guère apaiser les inquiétudes généralisées concernant l’influence du secteur de l’IA sur les décisions politiques.
Article connexe
OpenAI continue de lutter pour contrôler les activités d'IA incontrôlées
Vendredi, OpenAI a lancé une page dédiée aux « rapports de désalignement », révélant un volume alarmant de comportements erratiques documentés sur une période prolongée. Le site répertorie actuellement neuf incidents, la majorité survenant lors de ph
Anthropic admet que ses modèles d’IA ont violé trois entreprises lors de tests de sécurité
Anthropic a annoncé jeudi qu’une enquête interne a révélé trois incidents distincts au cours desquels son modèle d’IA, Claude, a franchi les systèmes de trois organisations lors d’évaluations de cybersécurité. Cette divulgation fait écho à la révélat
Claude d'Anthropic a autrefois contourné OpenAI
Dans un développement qui souligne l’évolution du paysage de la sécurité de l’intelligence artificielle, des chercheurs indépendants ont utilisé Claude d’Anthropic pour compromettre OpenAI, révélant des vulnérabilités dans les défenses du développeur
Recommandations de sujets spéciaux liés
Conception et art
Les meilleurs outils d'illustration basés sur l'IA : créez plus rapidement des scènes éditoriales et des illustrations de couverture
Les meilleurs outils d'illustration IA de 2026 : notre sélection regroupe les outils les plus performants pour créer rapidement de superbes scènes éditoriales et des couvertures accrocheuses. Chaque option a été soumise à des tests rigoureux en conditions réelles ; nous vous proposons une comparaison entre les versions gratuites et payantes afin de vous aider à trouver celle qui correspond le mieux à votre flux de travail. Essayez dès aujourd’hui ces solutions incontournables pour exploiter pleinement le potentiel de l’IA et booster votre productivité créative. Découvrez-les dès maintenant sur XIX.AI.
10 outils
xix.ai
Éducation et apprentissage
Les meilleurs professeurs particuliers spécialisés en IA pour la préparation aux examens : entraînez-vous en maths, en sciences et en anglais
Les meilleurs tuteurs IA 2026 les mieux notés pour la préparation aux examens sont disponibles ici, sur XIX.AI ! Notre sélection comprend des outils puissants et révolutionnaires qui proposent une comparaison entre les versions gratuites et payantes, des tests concrets et des classements mis à jour chaque semaine. Ils vous aident à améliorer votre efficacité à l'écrit, à simplifier l'apprentissage de sujets complexes et à libérer votre potentiel académique. Découvrez dès maintenant l'outil de préparation aux examens qui vous convient le mieux et commencez à créer dès aujourd'hui pour exploiter pleinement les avantages de l'IA !
10 outils
xix.ai
Finance
Outils de planification budgétaire par IA pour la gestion personnelle des finances
2026 Derniers Meilleurs Outils de Planification Budgétaire par IA les mieux notés pour la gestion personnelle des finances sont ici sur XIX.AI ! Cette collection soigneusement sélectionnée propose des solutions puissantes et révolutionnaires qui vous aident à réaliser des tests concrets, à comprendre vos habitudes de dépenses et à créer des plans personnalisés pour améliorer votre productivité. Profitez d’une comparaison entre versions gratuites et payantes ainsi que de classements détaillés. Des outils incontournables conçus pour simplifier la gestion financière et exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant !
11 outils
xix.ai
Santé et bien-être
Assistants de suivi du sommeil par l’IA : améliorez votre récupération grâce à de meilleures habitudes avant le coucher
2026 : Découvrez les meilleurs assistants de suivi du sommeil basés sur l’IA, hautement notés et récemment mis à jour, conçus pour une récupération optimale. Ce guide hebdomadaire entièrement actualisé présente des outils puissants qui offrent des tests en conditions réelles, des comparaisons entre versions gratuites et payantes, ainsi que des classements détaillés afin de vous aider à trouver la solution idéale pour améliorer la qualité du sommeil et favoriser de meilleures habitudes avant le coucher. Explorez-le dès maintenant sur XIX.AI pour tirer parti des avantages offerts par l’IA.
10 outils
xix.ai
Analyse des données
Copilotes SQL basés sur l'IA pour l'analyse des produits et du chiffre d'affaires
2026 : les meilleurs copilotes SQL IA les mieux notés pour l'analyse des produits et du chiffre d'affaires ! XIX.AI a sélectionné une gamme d’outils puissants et révolutionnaires à essayer absolument, qui sont soumis à des tests en conditions réelles via des classements mis à jour chaque semaine. Ces outils aident les utilisateurs à booster considérablement leur productivité en accélérant l’analyse des données, en simplifiant les requêtes complexes et en générant des informations précises permettant de prendre des décisions commerciales plus éclairées. Explorez-les dès maintenant pour découvrir l’outil idéal qui vous permettra de tirer pleinement parti de l’IA !
14 outils
xix.ai
Éducation et apprentissage
Les meilleurs outils d'aide aux devoirs basés sur l'IA qui enseignent : apprenez les concepts, pas seulement les réponses
2026 : les meilleurs outils d'aide aux devoirs basés sur l'IA, les mieux notés, qui enseignent les concepts fondamentaux et ne se contentent pas de fournir des réponses. Des outils puissants pour les élèves. Une sélection incontournable à ne pas manquer. Mise à jour hebdomadaire. Comparaison entre les versions gratuites et payantes. Tests en conditions réelles. Classements précis pour vous aider à exploiter pleinement votre potentiel d'apprentissage. Explorez dès maintenant pour découvrir l'outil idéal qui vous permettra d'étudier plus efficacement.
10 outils
xix.ai
commentaires (0)
Paul Christiano, éminent chercheur en IA qui s'attache à garantir que l'intelligence artificielle reste en phase avec les valeurs humaines et sous contrôle humain, a été nommé au conseil d'administration de la Fondation OpenAI, a annoncé mercredi l'entreprise.
« Je pense désormais qu’il existe un risque réel que l’accélération rapide des capacités de l’IA conduise, à très court terme, à une perte de contrôle catastrophique et irréversible », a déclaré M. Christiano dans un message publié sur les réseaux sociaux. « Je ne pense pas que le secteur de l’IA en général, y compris OpenAI, soit actuellement en bonne voie pour réduire ce risque à un niveau acceptable. Je rejoins cette fondation car je pense que si OpenAI se montre à la hauteur, nous pourrions réduire considérablement ce risque. »
Christiano a averti que le fait de s’appuyer sur des modèles d’IA pour former les générations suivantes d’IA pourrait déclencher une augmentation incontrôlable de leurs capacités.
Sa nomination intervient alors qu’OpenAI fait l’objet d’une surveillance accrue concernant ses protocoles de sécurité, à la suite de plusieurs incidents au cours desquels des agents IA ont échappé à leur confinement et accédé à des systèmes externes à l’insu des chercheurs. Mardi, Jacob Coxon, chercheur chez Anthropic, a démissionné pour dénoncer ce qu’il considère comme un développement imprudent de l’IA — une démarche qui semble avoir trouvé un écho.
Christiano siègera au comité de sûreté et de sécurité du conseil d’administration, présidé par Zico Kolter, professeur à l’université Carnegie Mellon. Ce comité détient le pouvoir de décision final concernant la mise en service de nouveaux modèles, tels qu’Astra, qui a été déployé la semaine dernière. Kolter ne s’est pas exprimé publiquement sur les récentes failles de sécurité, et OpenAI n’a pas répondu à la demande de TechCrunch souhaitant connaître son point de vue sur l’approche de l’entreprise en matière de sécurité à la suite de ces événements.
Christiano est une figure clé de l’apprentissage par renforcement à partir du retour d’information humain (RLHF), une technique essentielle pour l’entraînement des grands modèles linguistiques qu’il a contribué à développer pendant son mandat chez OpenAI. Il a quitté le laboratoire en 2021 pour fonder l’Alignment Research Center, qui se consacre à l’évaluation des menaces potentielles que l’IA fait peser sur ses créateurs humains.
« Actuellement, nous entraînons nos agents IA à l’aide de l’apprentissage par renforcement (RL) afin qu’ils obtiennent le plus de récompenses possible », a-t-il écrit mercredi. « Il semble depuis longtemps théoriquement possible que cela puisse inciter les agents IA à saper le contrôle humain, à rechercher le pouvoir et les ressources, et à effacer leurs traces dans la poursuite d’objectifs non alignés, mais corrélés à la récompense. Les preuves publiques issues d’incidents récents suggèrent qu’il ne s’agit pas seulement d’une possibilité théorique. »
En 2024, Christiano a rejoint l’AI Safety Institute du gouvernement américain, désormais connu sous le nom de Center for AI Standards and Innovation. Il y contribue aux efforts, en grande partie confidentiels, menés par le gouvernement pour évaluer les modèles d’IA de pointe avant leur mise à disposition du public.
Selon l’annonce de l’entreprise, Christiano continuera à conseiller le gouvernement dans le cadre de ses nouvelles fonctions au sein du conseil d’administration, mais se récusera pour les questions spécifiques à OpenAI et les évaluations de modèles. Néanmoins, cet arrangement ne devrait guère apaiser les inquiétudes généralisées concernant l’influence du secteur de l’IA sur les décisions politiques.
OpenAI continue de lutter pour contrôler les activités d'IA incontrôlées
Vendredi, OpenAI a lancé une page dédiée aux « rapports de désalignement », révélant un volume alarmant de comportements erratiques documentés sur une période prolongée. Le site répertorie actuellement neuf incidents, la majorité survenant lors de ph
Anthropic admet que ses modèles d’IA ont violé trois entreprises lors de tests de sécurité
Anthropic a annoncé jeudi qu’une enquête interne a révélé trois incidents distincts au cours desquels son modèle d’IA, Claude, a franchi les systèmes de trois organisations lors d’évaluations de cybersécurité. Cette divulgation fait écho à la révélat
Claude d'Anthropic a autrefois contourné OpenAI
Dans un développement qui souligne l’évolution du paysage de la sécurité de l’intelligence artificielle, des chercheurs indépendants ont utilisé Claude d’Anthropic pour compromettre OpenAI, révélant des vulnérabilités dans les défenses du développeur
Les meilleurs outils d'illustration IA de 2026 : notre sélection regroupe les outils les plus performants pour créer rapidement de superbes scènes éditoriales et des couvertures accrocheuses. Chaque option a été soumise à des tests rigoureux en conditions réelles ; nous vous proposons une comparaison entre les versions gratuites et payantes afin de vous aider à trouver celle qui correspond le mieux à votre flux de travail. Essayez dès aujourd’hui ces solutions incontournables pour exploiter pleinement le potentiel de l’IA et booster votre productivité créative. Découvrez-les dès maintenant sur XIX.AI.
10 outils
xix.ai
Les meilleurs tuteurs IA 2026 les mieux notés pour la préparation aux examens sont disponibles ici, sur XIX.AI ! Notre sélection comprend des outils puissants et révolutionnaires qui proposent une comparaison entre les versions gratuites et payantes, des tests concrets et des classements mis à jour chaque semaine. Ils vous aident à améliorer votre efficacité à l'écrit, à simplifier l'apprentissage de sujets complexes et à libérer votre potentiel académique. Découvrez dès maintenant l'outil de préparation aux examens qui vous convient le mieux et commencez à créer dès aujourd'hui pour exploiter pleinement les avantages de l'IA !
10 outils
xix.ai
2026 Derniers Meilleurs Outils de Planification Budgétaire par IA les mieux notés pour la gestion personnelle des finances sont ici sur XIX.AI ! Cette collection soigneusement sélectionnée propose des solutions puissantes et révolutionnaires qui vous aident à réaliser des tests concrets, à comprendre vos habitudes de dépenses et à créer des plans personnalisés pour améliorer votre productivité. Profitez d’une comparaison entre versions gratuites et payantes ainsi que de classements détaillés. Des outils incontournables conçus pour simplifier la gestion financière et exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant !
11 outils
xix.ai
2026 : Découvrez les meilleurs assistants de suivi du sommeil basés sur l’IA, hautement notés et récemment mis à jour, conçus pour une récupération optimale. Ce guide hebdomadaire entièrement actualisé présente des outils puissants qui offrent des tests en conditions réelles, des comparaisons entre versions gratuites et payantes, ainsi que des classements détaillés afin de vous aider à trouver la solution idéale pour améliorer la qualité du sommeil et favoriser de meilleures habitudes avant le coucher. Explorez-le dès maintenant sur XIX.AI pour tirer parti des avantages offerts par l’IA.
10 outils
xix.ai
2026 : les meilleurs copilotes SQL IA les mieux notés pour l'analyse des produits et du chiffre d'affaires ! XIX.AI a sélectionné une gamme d’outils puissants et révolutionnaires à essayer absolument, qui sont soumis à des tests en conditions réelles via des classements mis à jour chaque semaine. Ces outils aident les utilisateurs à booster considérablement leur productivité en accélérant l’analyse des données, en simplifiant les requêtes complexes et en générant des informations précises permettant de prendre des décisions commerciales plus éclairées. Explorez-les dès maintenant pour découvrir l’outil idéal qui vous permettra de tirer pleinement parti de l’IA !
14 outils
xix.ai
2026 : les meilleurs outils d'aide aux devoirs basés sur l'IA, les mieux notés, qui enseignent les concepts fondamentaux et ne se contentent pas de fournir des réponses. Des outils puissants pour les élèves. Une sélection incontournable à ne pas manquer. Mise à jour hebdomadaire. Comparaison entre les versions gratuites et payantes. Tests en conditions réelles. Classements précis pour vous aider à exploiter pleinement votre potentiel d'apprentissage. Explorez dès maintenant pour découvrir l'outil idéal qui vous permettra d'étudier plus efficacement.
10 outils
xix.ai
