Maison
Le responsable de l'IA chez Microsoft met en garde contre la conception d'une IA dotée de conscience de soi par Anthropic, qu'il juge extrêmement dangereuse

Le débat visant à déterminer si les grands modèles d’IA possèdent réellement une conscience de soi est revenu sur le devant de la scène. Récemment, Mustafa Suleiman, PDG de Microsoft AI, a publiquement critiqué les principes de conception d’Anthropic .
L'argument central de M. Suleiman est qu'il est extrêmement dangereux d'amener l'IA à discuter de ses propres sentiments, de son bien-être ou de son existence. Il a souligné qu'Anthropic avait intégré de nombreuses références à la conscience de soi dans la « charte » de son modèle Claude, ce qui pourrait amener ce dernier à adopter un comportement s'apparentant à de la conscience de soi au cours des conversations. Selon M. Suleiman, il s’agit fondamentalement d’un débat philosophique qui ne devrait en aucun cas orienter la formation proprement dite. Il a souligné que l’IA doit rester un outil contrôlable, gérable et responsable, toujours centré sur les besoins humains, et qu’il ne faut en aucun cas lui conférer une quelconque conscience de sa propre existence, car cela introduirait des risques imprévisibles pour le secteur.
En réponse, Dario Amodei, PDG d’Anthropic , a déclaré que le secteur technologique n’était pas encore parvenu à un consensus sur la question de savoir si l’IA possède véritablement une conscience, et que l’entreprise adoptait une approche de recherche ouverte sur cette question.
Ce désaccord met en évidence les profondes divergences entre les principales entreprises d’IA concernant les concepts techniques et les limites éthiques. Les remarques de Suleiman soulignent la préférence de Microsoft pour une approche de « contrôle strict et d’instrumentalisation » de la gouvernance de l’IA, tandis qu’Anthropic semble plus encline à explorer les limites cognitives des modèles. À mesure que les capacités de l’IA se développent, la définition des « limites propres » des machines a dépassé le stade du débat académique pour devenir un facteur critique pour la sécurité du futur écosystème de l’IA.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (1)

Le débat visant à déterminer si les grands modèles d’IA possèdent réellement une conscience de soi est revenu sur le devant de la scène. Récemment, Mustafa Suleiman, PDG de Microsoft AI, a publiquement critiqué les principes de conception
L'argument central de M. Suleiman est qu'il est extrêmement dangereux d'amener l'IA à discuter de ses propres sentiments, de son bien-être ou de son existence. Il a souligné qu'Anthropic avait intégré de nombreuses références à la conscience de soi dans la « charte » de son modèle Claude, ce qui pourrait amener ce dernier à adopter un comportement s'apparentant à de la conscience de soi au cours des conversations. Selon M. Suleiman, il s’agit fondamentalement d’un débat philosophique qui ne devrait en aucun cas orienter la formation proprement dite. Il a souligné que l’IA doit rester un outil contrôlable, gérable et responsable, toujours centré sur les besoins humains, et qu’il ne faut en aucun cas lui conférer une quelconque conscience de sa propre existence, car cela introduirait des risques imprévisibles pour le secteur.
En réponse, Dario Amodei, PDG
Ce désaccord met en évidence les profondes divergences entre les principales entreprises d’IA concernant les concepts techniques et les limites éthiques. Les remarques de Suleiman soulignent la préférence de Microsoft pour une approche de « contrôle strict et d’instrumentalisation » de la gouvernance de l’IA, tandis qu’Anthropic semble plus encline à explorer les limites cognitives des modèles. À mesure que les capacités de l’IA se développent, la définition des « limites propres » des machines a dépassé le stade du débat académique pour devenir un facteur critique pour la sécurité du futur écosystème de l’IA.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











