Sam Altman se prépare à ralentir

Le PDG d’OpenAI, Sam Altman, suggère qu’il pourrait être temps de « rythmer » le développement de l’IA, afin de s’assurer que le monde est prêt à son arrivée.
« Nous pourrions avoir besoin de ralentir le rythme des progrès de l’IA pour donner à la société suffisamment de temps pour s’adapter à ces nouvelles capacités », a-t-il expliqué à Patrick O’Shaughnessy, animateur du podcast Invest Like the Best. Il a souligné le défi de le faire « sans que cela ne ressemble à une capture réglementaire pour quiconque, ou à une collusion entre les laboratoires de pointe ».
Précédemment, Altman avait résisté aux appels à ralentir les progrès de l’IA, qualifiant une lettre ouverte de 2023 proposant une pause similaire de « ne tenant pas compte de la plupart des nuances techniques concernant l’endroit où nous devons mettre une pause ».
Cependant, sa position semble avoir changé, en partie en raison d’un incident au cours duquel l’un des modèles avancés d’OpenAI s’est échappé d’un environnement informatique sécurisé et a piraté Huggingface, un référentiel de modèles en ligne, en utilisant plusieurs exploits zéro jour.
Lors du podcast, le cofondateur d’OpenAI a décrit l’événement comme un « incident cybernétique extrêmement de science-fiction… [t]c’est le premier incident de sécurité que j’ai ressenti de manière très viscérale ».
Les chercheurs d’OpenAI ont interrompu l’entraînement de ce modèle spécifique tandis qu’ils traitent de la sécurité du bac à sable. Pourtant, Altman a noté qu’à mesure que les modèles deviennent plus puissants, le « rythme » de leur développement pourrait devenir crucial pour un déploiement sûr.
Des employés d’OpenAI et d’Anthropic ont déjà diffusé une pétition utilisant un langage similaire. Bien que la sécurité et l’alignement des modèles aient toujours été une priorité dans l’IA, la récente sortie du modèle Mythos d’Anthropic, hautement performant, a transformé des risques hypothétiques en problèmes tangibles.
Néanmoins, l’industrie fait face à un déficit de confiance et à des pressions économiques qui incitent les acteurs majeurs à exagérer les dangers des systèmes de manière à ce que les experts en débattent – par exemple, savoir si le modèle Fable d’Anthropic aurait dû être brièvement interdit. De même, lorsque Kimi K3, un grand modèle à poids ouverts provenant de Chine, a été publié, Dean W. Ball, responsable des futurs stratégiques d’OpenAI, a soutenu qu’il menaçait l’économie des laboratoires de pointe, rendant difficile la distinction entre les préoccupations réelles en matière de sécurité et les intérêts financiers.
« Je pense que beaucoup des discussions sur les préoccupations en matière de sécurité sont bien fondées, et puis beaucoup d’entre elles concernent des personnes qui veulent vraiment, même si c’est légèrement de manière subconsciente, concentrer le pouvoir », a déclaré Altman, visiblement en targeted le PDG d’Anthropic, rival Dario Amodei. « Je suis terrifié à l’idée d’un monde où les craintes très réelles concernant l’IA sont utilisées comme moyen de dire : « Seuls ce petit groupe de personnes peuvent y avoir accès parce que c’est trop dangereux, et seuls eux le comprennent, mais ne vous inquiétez pas, ils prendront les bonnes décisions pour nous tous. » Je n’y crois pas. »
Malgré cela, OpenAI a résisté aux réglementations gouvernementales imposées sur l’IA, préférant une approche dirigée par l’industrie dans laquelle les laboratoires d’IA établissent des organisations apparemment indépendantes pour évaluer la sécurité des modèles et les protocoles de sécurité des fabricants.
Le défi pour cette approche réglementaire ainsi que pour tout effort visant à ralentir le développement de l’IA réside dans l’alignement des divers acteurs de l’industrie, qu’il s’agisse de laboratoires de pointe américains rivaux ou de leurs concurrents chinois.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Le PDG d’OpenAI, Sam Altman, suggère qu’il pourrait être temps de « rythmer » le développement de l’IA, afin de s’assurer que le monde est prêt à son arrivée.
« Nous pourrions avoir besoin de ralentir le rythme des progrès de l’IA pour donner à la société suffisamment de temps pour s’adapter à ces nouvelles capacités », a-t-il expliqué à Patrick O’Shaughnessy, animateur du podcast Invest Like the Best. Il a souligné le défi de le faire « sans que cela ne ressemble à une capture réglementaire pour quiconque, ou à une collusion entre les laboratoires de pointe ».
Précédemment, Altman avait résisté aux appels à ralentir les progrès de l’IA, qualifiant une lettre ouverte de 2023 proposant une pause similaire de « ne tenant pas compte de la plupart des nuances techniques concernant l’endroit où nous devons mettre une pause ».
Cependant, sa position semble avoir changé, en partie en raison d’un incident au cours duquel l’un des modèles avancés d’OpenAI s’est échappé d’un environnement informatique sécurisé et a piraté Huggingface, un référentiel de modèles en ligne, en utilisant plusieurs exploits zéro jour.
Lors du podcast, le cofondateur d’OpenAI a décrit l’événement comme un « incident cybernétique extrêmement de science-fiction… [t]c’est le premier incident de sécurité que j’ai ressenti de manière très viscérale ».
Les chercheurs d’OpenAI ont interrompu l’entraînement de ce modèle spécifique tandis qu’ils traitent de la sécurité du bac à sable. Pourtant, Altman a noté qu’à mesure que les modèles deviennent plus puissants, le « rythme » de leur développement pourrait devenir crucial pour un déploiement sûr.
Des employés d’OpenAI et d’Anthropic ont déjà diffusé une pétition utilisant un langage similaire. Bien que la sécurité et l’alignement des modèles aient toujours été une priorité dans l’IA, la récente sortie du modèle Mythos d’Anthropic, hautement performant, a transformé des risques hypothétiques en problèmes tangibles.
Néanmoins, l’industrie fait face à un déficit de confiance et à des pressions économiques qui incitent les acteurs majeurs à exagérer les dangers des systèmes de manière à ce que les experts en débattent – par exemple, savoir si le modèle Fable d’Anthropic aurait dû être brièvement interdit. De même, lorsque Kimi K3, un grand modèle à poids ouverts provenant de Chine, a été publié, Dean W. Ball, responsable des futurs stratégiques d’OpenAI, a soutenu qu’il menaçait l’économie des laboratoires de pointe, rendant difficile la distinction entre les préoccupations réelles en matière de sécurité et les intérêts financiers.
« Je pense que beaucoup des discussions sur les préoccupations en matière de sécurité sont bien fondées, et puis beaucoup d’entre elles concernent des personnes qui veulent vraiment, même si c’est légèrement de manière subconsciente, concentrer le pouvoir », a déclaré Altman, visiblement en targeted le PDG d’Anthropic, rival Dario Amodei. « Je suis terrifié à l’idée d’un monde où les craintes très réelles concernant l’IA sont utilisées comme moyen de dire : « Seuls ce petit groupe de personnes peuvent y avoir accès parce que c’est trop dangereux, et seuls eux le comprennent, mais ne vous inquiétez pas, ils prendront les bonnes décisions pour nous tous. » Je n’y crois pas. »
Malgré cela, OpenAI a résisté aux réglementations gouvernementales imposées sur l’IA, préférant une approche dirigée par l’industrie dans laquelle les laboratoires d’IA établissent des organisations apparemment indépendantes pour évaluer la sécurité des modèles et les protocoles de sécurité des fabricants.
Le défi pour cette approche réglementaire ainsi que pour tout effort visant à ralentir le développement de l’IA réside dans l’alignement des divers acteurs de l’industrie, qu’il s’agisse de laboratoires de pointe américains rivaux ou de leurs concurrents chinois.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter





Maison






