Maison
Le seul témoin de Musk lors du procès d’OpenAI met en garde contre une course aux armements imminente en matière d’IA générale

Quand devons-nous prendre au sérieux les alarmistes sur l’IA ?
Cette question se trouve au cœur de l’effort d’Elon Musk visant à restreindre les activités commerciales à but lucratif d’OpenAI en matière d’intelligence artificielle. Son équipe juridique soutient que l’organisation a été initialement créée en tant qu’organisme de bienfaisance dédié à la sécurité de l’IA, mais s’est éloignée de sa mission en poursuivant le profit. Pour étayer cette affirmation, ils ont fait référence à des e-mails et déclarations précoces des fondateurs, qui soulignaient la nécessité d’un contrepoids d’intérêt public face à Google DeepMind.
Aujourd’hui, la défense a présenté son seul témoin expert : Peter Russell, professeur d’informatique à l’Université de Californie à Berkeley, avec des décennies d’expérience dans la recherche en IA. Son rôle était de fournir un contexte sur l’IA et de démontrer que la technologie présente des risques importants dignes d’inquiétude.
Russell figurait parmi les signataires d’une lettre ouverte en mars 2023 appelant à une pause de six mois dans la recherche sur l’IA. En une contradiction notable, Musk a également signé cette même lettre tout en lançant simultanément xAI, son propre laboratoire d’IA à but lucratif.
Russell a témoigné devant le jury et la juge Yvonne Gonzalez Rodgers que le développement de l’IA comporte divers risques, y compris des menaces en cybersécurité, des problèmes d’alignement et les dynamiques « le gagnant emporte tout » de l’Intelligence Artificielle Générale (AGI). Il a conclu qu’il existe une tension inhérente entre la poursuite de l’AGI et la garantie de la sécurité.
Les préoccupations plus larges de Russell concernant les menaces existentielles posées par une IA non réglementée n’ont pas été entièrement présentées en audience publique après que les avocats d’OpenAI se sont opposés, conduisant le juge à limiter son témoignage. Cependant, Russell critique depuis longtemps la course aux armements concurrentielle entre les laboratoires de pointe mondiaux qui s’affrontent pour atteindre en premier l’AGI, plaidant pour une réglementation gouvernementale plus stricte du domaine.
L’équipe juridique d’OpenAI a utilisé son contre-interrogatoire pour établir que Russell n’évaluait pas directement la structure corporative de l’organisation ou des protocoles de sécurité spécifiques.
Néanmoins, ce journaliste, ainsi que le juge et les jurés, doivent déterminer le poids à accorder à la relation entre les motivations lucratives des entreprises et les préoccupations en matière de sécurité de l’IA. Presque tous les fondateurs d’OpenAI ont fortement mis en garde contre les risques de l’IA tout en soulignant simultanément ses avantages, s’efforçant de développer l’IA aussi rapidement que possible et élaborant des plans pour des entreprises d’IA à but lucratif qu’ils contrôleraient.
D’un point de vue externe, un problème clair émerge : les fondateurs d’OpenAI ont réalisé après sa création que l’organisation nécessitait beaucoup plus de puissance de calcul pour réussir. Ce financement ne pouvait provenir que d’investisseurs à but lucratif. La peur de l’équipe fondatrice de voir l’AGI tomber entre les mains d’une seule entité les a poussés à chercher des capitaux, ce qui a finalement fracturé l’équipe, créé le paysage concurrentiel actuel et conduit à ce procès.
Cette même dynamique se déroule au niveau national : la proposition du sénateur Bernie Sanders d’une loi imposant un moratoire sur la construction de centres de données cite les craintes exprimées par Musk, Sam Altman, Geoffrey Hinton et autres. Hoden Omar, qui travaille au Center for Data Innovation, une organisation commerciale, s’est opposé au fait que Sanders cite ces craintes sans reconnaître leurs espoirs, déclarant à TechCrunch que « il n’est pas clair pourquoi le public devrait ignorer tout ce que disent les milliardaires de la technologie, sauf lorsque leurs paroles peuvent être mobilisées pour combler les lacunes d’un argument précaire. »
Maintenant, les deux parties du cas demandent au tribunal de faire exactement cela : prendre au sérieux certaines parties des arguments d’Altman et de Musk, tout en ignorant les parties moins utiles à leurs positions juridiques.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Quand devons-nous prendre au sérieux les alarmistes sur l’IA ?
Cette question se trouve au cœur de l’effort d’Elon Musk visant à restreindre les activités commerciales à but lucratif d’OpenAI en matière d’intelligence artificielle. Son équipe juridique soutient que l’organisation a été initialement créée en tant qu’organisme de bienfaisance dédié à la sécurité de l’IA, mais s’est éloignée de sa mission en poursuivant le profit. Pour étayer cette affirmation, ils ont fait référence à des e-mails et déclarations précoces des fondateurs, qui soulignaient la nécessité d’un contrepoids d’intérêt public face à Google DeepMind.
Aujourd’hui, la défense a présenté son seul témoin expert : Peter Russell, professeur d’informatique à l’Université de Californie à Berkeley, avec des décennies d’expérience dans la recherche en IA. Son rôle était de fournir un contexte sur l’IA et de démontrer que la technologie présente des risques importants dignes d’inquiétude.
Russell figurait parmi les signataires d’une lettre ouverte en mars 2023 appelant à une pause de six mois dans la recherche sur l’IA. En une contradiction notable, Musk a également signé cette même lettre tout en lançant simultanément xAI, son propre laboratoire d’IA à but lucratif.
Russell a témoigné devant le jury et la juge Yvonne Gonzalez Rodgers que le développement de l’IA comporte divers risques, y compris des menaces en cybersécurité, des problèmes d’alignement et les dynamiques « le gagnant emporte tout » de l’Intelligence Artificielle Générale (AGI). Il a conclu qu’il existe une tension inhérente entre la poursuite de l’AGI et la garantie de la sécurité.
Les préoccupations plus larges de Russell concernant les menaces existentielles posées par une IA non réglementée n’ont pas été entièrement présentées en audience publique après que les avocats d’OpenAI se sont opposés, conduisant le juge à limiter son témoignage. Cependant, Russell critique depuis longtemps la course aux armements concurrentielle entre les laboratoires de pointe mondiaux qui s’affrontent pour atteindre en premier l’AGI, plaidant pour une réglementation gouvernementale plus stricte du domaine.
L’équipe juridique d’OpenAI a utilisé son contre-interrogatoire pour établir que Russell n’évaluait pas directement la structure corporative de l’organisation ou des protocoles de sécurité spécifiques.
Néanmoins, ce journaliste, ainsi que le juge et les jurés, doivent déterminer le poids à accorder à la relation entre les motivations lucratives des entreprises et les préoccupations en matière de sécurité de l’IA. Presque tous les fondateurs d’OpenAI ont fortement mis en garde contre les risques de l’IA tout en soulignant simultanément ses avantages, s’efforçant de développer l’IA aussi rapidement que possible et élaborant des plans pour des entreprises d’IA à but lucratif qu’ils contrôleraient.
D’un point de vue externe, un problème clair émerge : les fondateurs d’OpenAI ont réalisé après sa création que l’organisation nécessitait beaucoup plus de puissance de calcul pour réussir. Ce financement ne pouvait provenir que d’investisseurs à but lucratif. La peur de l’équipe fondatrice de voir l’AGI tomber entre les mains d’une seule entité les a poussés à chercher des capitaux, ce qui a finalement fracturé l’équipe, créé le paysage concurrentiel actuel et conduit à ce procès.
Cette même dynamique se déroule au niveau national : la proposition du sénateur Bernie Sanders d’une loi imposant un moratoire sur la construction de centres de données cite les craintes exprimées par Musk, Sam Altman, Geoffrey Hinton et autres. Hoden Omar, qui travaille au Center for Data Innovation, une organisation commerciale, s’est opposé au fait que Sanders cite ces craintes sans reconnaître leurs espoirs, déclarant à TechCrunch que « il n’est pas clair pourquoi le public devrait ignorer tout ce que disent les milliardaires de la technologie, sauf lorsque leurs paroles peuvent être mobilisées pour combler les lacunes d’un argument précaire. »
Maintenant, les deux parties du cas demandent au tribunal de faire exactement cela : prendre au sérieux certaines parties des arguments d’Altman et de Musk, tout en ignorant les parties moins utiles à leurs positions juridiques.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











