L'intelligence surhumaine arrive : allons-nous la laisser entrer ?

Chargement du lecteur…
Les entreprises d’intelligence artificielle parlent de l’IA superintelligente comme si elle était inévitable, mais des récents incidents de sécurité, tels que la violation de Hugging Face par OpenAI, démontrent les dangers potentiels du déploiement de systèmes d’IA plus performants que les humains. Alors, que se passe-t-il lorsque nous ne pouvons pas contrôler de manière fiable ce que ces systèmes font ?
Dans cet épisode du podcast Equity de TechCrunch, Rebecca Bellan est rejointe par Connor Leahy, chercheur en IA, entrepreneur et désormais directeur exécutif américain de l’organisation à but non lucratif ControlAI, qui milite pour une approche beaucoup plus radicale de la sécurité de l’IA : empêcher les entreprises de développer une superintelligence. Leahy explique pourquoi il estime que les risques sont devenus trop importants pour être gérés uniquement par l’alignement et le confinement, et comment ce qui semblait invraisemblable il y a six mois est désormais soutenu par une vague de nouvelles législations.
Abonnez-vous à Equity sur YouTube, Apple Podcasts, Overcast, Spotify et tous les autres services de podcasts. Vous pouvez également suivre Equity sur X et Threads, à @EquityPod.
Article connexe
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
Hugging Face en discussions pour une acquisition de 13 milliards de dollars
Business Insider a rapporté ce week-end que Hugging Face a été sollicité pour être vendu à une valorisation de 13 milliards de dollars ou plus.La plateforme et la communauté open source de la startup sont des espaces où les développeurs et les cherc
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Recommandations de sujets spéciaux liés
commentaires (0)

Chargement du lecteur…
Les entreprises d’intelligence artificielle parlent de l’IA superintelligente comme si elle était inévitable, mais des récents incidents de sécurité, tels que la violation de Hugging Face par OpenAI, démontrent les dangers potentiels du déploiement de systèmes d’IA plus performants que les humains. Alors, que se passe-t-il lorsque nous ne pouvons pas contrôler de manière fiable ce que ces systèmes font ?
Dans cet épisode du podcast Equity de TechCrunch, Rebecca Bellan est rejointe par Connor Leahy, chercheur en IA, entrepreneur et désormais directeur exécutif américain de l’organisation à but non lucratif ControlAI, qui milite pour une approche beaucoup plus radicale de la sécurité de l’IA : empêcher les entreprises de développer une superintelligence. Leahy explique pourquoi il estime que les risques sont devenus trop importants pour être gérés uniquement par l’alignement et le confinement, et comment ce qui semblait invraisemblable il y a six mois est désormais soutenu par une vague de nouvelles législations.
Abonnez-vous à Equity sur YouTube, Apple Podcasts, Overcast, Spotify et tous les autres services de podcasts. Vous pouvez également suivre Equity sur X et Threads, à @EquityPod.
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
Hugging Face en discussions pour une acquisition de 13 milliards de dollars
Business Insider a rapporté ce week-end que Hugging Face a été sollicité pour être vendu à une valorisation de 13 milliards de dollars ou plus.La plateforme et la communauté open source de la startup sont des espaces où les développeurs et les cherc
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr





Maison






