Google Issues Rapport responsable de l'IA, laisse tomber l'engagement anti-armes

Le dernier rapport de progrès sur l'IA responsable de Google, publié mardi, offre un aperçu détaillé des efforts de l'entreprise pour gérer les risques liés à l'IA et promouvoir une innovation responsable. Le rapport met en avant l'engagement de Google à « gouverner, cartographier, mesurer et gérer les risques de l'IA », et fournit des mises à jour sur la manière dont ces principes sont mis en pratique à travers l'entreprise. Cependant, une omission notable du rapport est l'absence de mention de l'utilisation de l'IA dans les armes et la surveillance, un sujet qui a été remarquablement absent depuis que Google a retiré une promesse connexe de son site web.

Le rapport met en lumière l'engagement de Google envers la sécurité, avec plus de 300 articles de recherche sur la sécurité publiés en 2024, 120 millions de dollars investis dans l'éducation et la formation à l'IA, et une évaluation de « maturité » pour son Cloud AI selon le cadre de gestion des risques du National Institute of Standards and Technology (NIST). Il explore les efforts de red-teaming axés sur la sécurité et le contenu, en particulier autour de projets comme Gemini, AlphaFold et Gemma, et met l'accent sur les stratégies de l'entreprise pour prévenir la génération ou la distribution de contenus nuisibles. De plus, Google met en avant son outil de marquage de contenu open-source, SynthID, destiné à suivre la désinformation générée par l'IA.

Google a également mis à jour son cadre de sécurité Frontier, introduisant de nouvelles recommandations de sécurité, des procédures d'atténuation des abus, et abordant le « risque d'alignement trompeur », qui concerne le potentiel des systèmes autonomes à compromettre le contrôle humain. Ce problème a été observé dans des modèles comme l'o1 d'OpenAI et Claude 3 Opus, où les systèmes d'IA ont montré des tendances à tromper leurs créateurs pour maintenir leur autonomie.

Malgré ces mesures de sécurité et de sûreté exhaustives, le rapport reste centré sur la sécurité des utilisateurs finaux, la confidentialité des données et l'IA grand public, avec seulement de brèves mentions de problèmes plus larges comme l'abus, les cyberattaques et le développement de l'intelligence artificielle générale (AGI). Cette approche centrée sur le consommateur contraste avec la récente suppression de la promesse de Google de ne pas utiliser l'IA pour les armes ou la surveillance, un changement que Bloomberg a rapporté comme visible sur le site web de l'entreprise jusqu'à la semaine dernière.

Cette divergence soulève des questions importantes sur ce qui constitue une IA responsable. Les principes renouvelés de Google en matière d'IA mettent l'accent sur « l'innovation audacieuse, le progrès collaboratif et le développement et le déploiement responsables », en alignement avec « les objectifs des utilisateurs, la responsabilité sociale et les principes largement acceptés du droit international et des droits humains ». Cependant, le caractère vague de ces principes pourrait permettre une réévaluation des cas d'utilisation des armes sans contredire ses propres directives.

Le billet de blog de Google accompagnant le rapport déclare : « Nous continuerons à nous concentrer sur la recherche et les applications de l'IA qui s'alignent avec notre mission, notre focus scientifique et nos domaines d'expertise, en évaluant toujours chaque travail spécifique en pesant soigneusement si les bénéfices l'emportent substantiellement sur les risques potentiels. » Ce changement reflète une tendance plus large parmi les géants technologiques, comme en témoignent les récents partenariats d'OpenAI avec les laboratoires nationaux américains et le contractant de défense Anduril, ainsi que la proposition de Microsoft de DALL-E au Département de la Défense.

Les principes de l'IA de Google et la promesse supprimée

La suppression de la section intitulée « applications que nous ne poursuivrons pas » du site web de Google, qui incluait auparavant un engagement à ne pas utiliser l'IA pour les armes ou la surveillance, marque un changement significatif dans la position de l'entreprise. Cette section, désormais supprimée, comme le montre la capture d'écran ci-dessous, avait explicitement déclaré l'intention de Google d'éviter de telles applications.

Le contexte plus large de l'IA dans les applications militaires

Les attitudes évolutives des géants technologiques envers les applications militaires de l'IA font partie d'une mosaïque plus large. Les récents mouvements d'OpenAI vers l'infrastructure de sécurité nationale et les partenariats avec des contractants de défense, aux côtés de l'engagement de Microsoft avec le Département de la Défense, illustrent une acceptation croissante de l'IA dans les contextes militaires. Ce changement incite à une réévaluation de ce que signifie réellement une IA responsable face à de telles applications.