Les outils d'IA accélèrent les retours d'information du gouvernement, mais les experts mettent en garde contre les risques

Un outil d'IA est conçu pour passer au crible de vastes quantités de réponses aux consultations gouvernementales et interpréter avec précision l'opinion publique.

Le secrétaire britannique à la Technologie, Peter Kyle, a déclaré : « Personne ne devrait perdre de temps à accomplir des tâches que l'IA peut traiter plus rapidement et plus efficacement, ni dépenser des millions de fonds publics pour externaliser ce travail à des prestataires externes.

Cet outil numérique, judicieusement baptisé « Consult », a passé avec succès son premier test majeur auprès du gouvernement écossais.

Le gouvernement écossais a confié à Consult une première tâche difficile : analyser les commentaires du public sur la réglementation des procédures cosmétiques non chirurgicales telles que les injections dans les lèvres et l'épilation au laser. Les conclusions de l'IA correspondaient étroitement à l'analyse compilée par les fonctionnaires.

Le gouvernement prévoit désormais de déployer cette technologie dans différents départements. Le processus manuel actuel est coûteux et lent, et des millions de livres sterling sont souvent versées à des prestataires externes uniquement pour analyser l'opinion publique.

Consult s'inscrit dans le cadre d'une initiative plus large visant à créer un gouvernement britannique plus efficace et plus réactif, capable de mettre en œuvre son « Plan pour le changement » sans coûts ni retards excessifs.

Alors, quels ont été les résultats en Écosse ? Consult a traité plus de 2 000 réponses. À l'aide d'une IA générative, il a identifié les thèmes et les préoccupations clés qui ressortaient des commentaires sur six questions centrales.

Bien sûr, Consult n'a pas fonctionné de manière entièrement autonome. Les experts du gouvernement écossais ont examiné et affiné ces thèmes initiaux. L'IA a ensuite classé les réponses individuelles en conséquence, ce qui a permis aux fonctionnaires de se concentrer sur l'interprétation des résultats et leurs implications politiques.

Comme il s'agissait du premier déploiement en direct de Consult, le gouvernement écossais a également examiné manuellement chaque réponse à des fins de vérification. L'interprétation des commentaires écrits et leur catégorisation peuvent être subjectives ; même les analystes humains ne sont pas toujours d'accord.

En comparant le travail de Consult à l'analyse humaine, l'IA s'est avérée correcte dans la grande majorité des cas. Les légères divergences n'ont pas modifié la compréhension globale des principales préoccupations du public.

Consult fait partie d'une suite d'IA plus large appelée « Humphrey », un ensemble d'outils numériques conçus pour réduire la charge administrative des fonctionnaires et les coûts liés aux sous-traitants. Cette initiative s'inscrit dans une vision plus large visant à utiliser la technologie pour rationaliser les services publics, avec pour objectif une économie de 45 milliards de livres sterling en termes de productivité afin de rendre le gouvernement plus agile.

« Après avoir démontré des résultats aussi prometteurs, Humphrey nous aidera à réduire les coûts de gouvernance et à améliorer notre capacité à recueillir et à examiner de manière approfondie les contributions des experts et du public sur des questions cruciales », a ajouté Kyle.

« Le gouvernement écossais a fait un premier pas audacieux. Très bientôt, j'utiliserai Consult dans Humphrey dans mon propre département, et d'autres départements de Whitehall suivront, ce qui accélérera notre travail pour mettre en œuvre le Plan for Change. »

En Écosse, la ministre de la Santé publique, Jenni Minto, a déclaré : « Cet outil a été très utile pour aider le gouvernement écossais à comprendre plus rapidement ce que les gens voulaient communiquer et l'éventail de leurs opinions.

L'utilisation de cet outil nous a permis de nous concentrer plus rapidement sur les questions politiques et d'approfondir les détails des preuves, tout en restant convaincus d'avoir bien saisi les opinions fermes exprimées par les répondants. »

Comme pour de nombreux projets gouvernementaux liés à l'IA, il s'agit bien sûr d'une phase préliminaire, et Consult reste en phase d'essai officiel. D'autres analyses et tests sont prévus afin de garantir sa fiabilité avant toute décision concernant son déploiement à grande échelle.

Son potentiel est toutefois considérable. Le gouvernement menant environ 500 consultations par an, Consult pourrait permettre d'économiser environ 75 000 jours de travail d'analyse par an s'il s'avère efficace.

Quelle a été la réaction des fonctionnaires qui l'ont utilisé ? Ils auraient été « agréablement surpris », trouvant l'analyse initiale de l'IA « utile comme point de départ ». D'autres l'ont loué pour le « gain de temps considérable » qu'il leur a permis de réaliser et pour leur avoir permis « d'aboutir à l'analyse et de déterminer les prochaines étapes » beaucoup plus rapidement.

Il est intéressant de noter que certains fonctionnaires ont estimé que Consult apportait un nouveau niveau d'impartialité. L'un d'eux a fait remarquer que son utilisation « réduit les biais et augmente la cohérence », empêchant les analystes individuels de laisser leurs « propres préjugés » influencer les résultats.

Certaines consultations reçoivent des dizaines, voire des centaines de milliers de réponses. Compte tenu des performances prometteuses de Consult à ses débuts, son application à ces exercices à grande échelle pourrait ne pas être loin.

Il est important de noter que la supervision humaine reste indispensable. Consult est conçu pour que les experts restent impliqués à chaque étape. Les responsables examineront toujours les thèmes et les catégorisations suggérés par l'IA, en utilisant un tableau de bord interactif pour filtrer et rechercher des informations spécifiques. L'objectif est que l'IA se charge des tâches fastidieuses, permettant ainsi aux humains de se concentrer sur la réflexion stratégique.

Les experts appellent à la prudence concernant l'utilisation de l'IA dans le secteur public

Cette évolution vers l'IA dans le secteur public est suivie de près par les experts.

Stuart Harvey, PDG de Datactics, a déclaré : « L'utilisation de l'IA pour accélérer les consultations publiques est un excellent exemple de technologie permettant de gagner en efficacité et de réaliser des économies. Cependant, la fiabilité de l'IA dépend de celle des données sur lesquelles elle s'appuie. Pour que ces outils fonctionnent correctement et de manière équitable, les services gouvernementaux doivent s'assurer que leurs données sont exactes, à jour et correctement gérées.

« La confiance du public dans les décisions fondées sur l'IA est essentielle. Cela nécessite des processus transparents, bien gérés et éthiques. Une mauvaise qualité ou une mauvaise gestion des données peut conduire à des résultats biaisés ou peu fiables.

« À mesure que le gouvernement étend l'utilisation de l'IA dans les services publics, il est essentiel d'investir dans des pratiques solides en matière de données. Cela implique notamment de mettre en place des systèmes de données clairs, de veiller à ce que les données soient accessibles pour examen et de maintenir l'implication humaine dans les décisions clés, en particulier lorsqu'il s'agit d'évaluer l'opinion publique. »

Les universitaires partagent ce point de vue. Le professeur Michael Rovatsos de l'université d'Édimbourg reconnaît les avantages de l'IA, mais met également en garde contre les risques tels que les biais et les manipulations potentielles. Il préconise des garanties solides et des investissements continus pour s'assurer que tout outil d'IA utilisé par le gouvernement reste fiable et équitable.

Stuart Munton, directeur des opérations du groupe AND Digital, ajoute : « L'utilisation de l'IA par le gouvernement pour accélérer les consultations publiques est une initiative positive vers des services plus intelligents et plus efficaces. Cependant, à mesure que l'adoption de l'IA se développe, nous devons veiller à ce que les personnes, et pas seulement la technologie, restent au cœur de cette transformation.

« Des outils comme celui-ci ne pourront atteindre leur plein potentiel que si nous investissons dans la formation et l'acquisition des compétences nécessaires par les équipes du secteur public. Donner à une main-d'œuvre diversifiée les moyens d'utiliser l'IA améliorera les performances de l'outil et garantira que l'innovation réponde aux besoins réels. »

S'ils sont mis en œuvre correctement en tenant compte de ces considérations d'experts, les outils d'IA tels que Consult pourraient améliorer fondamentalement la manière dont les gouvernements écoutent, apprennent et formulent leurs politiques en fonction des contributions du public. Le gouvernement britannique agit rapidement et prévoit d'intégrer Consult dans différents départements d'ici la fin de 2025.

Voir aussi : Les États-Unis suspendent la règle sur la diffusion de l'IA et renforcent les contrôles à l'exportation des puces électroniques

Vous souhaitez en savoir plus sur l'IA et le big data auprès des leaders du secteur ? Découvrez le salon AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet se déroule en parallèle d'autres événements majeurs, notamment l'Intelligent Automation Conference, BlockX, la Digital Transformation Week et le Cyber Security & Cloud Expo.

Découvrez ici d'autres événements et webinaires sur les technologies d'entreprise organisés par TechForge.