Trois pionniers de l'intelligence artificielle plaident pour le maintien des grands modèles ouverts alors que les inquiétudes en matière de sécurité s'intensifient

Initiatives comme Pacing the Frontier visent à garantir la sécurité de l’IA en partenariat avec les principaux laboratoires, mais les modèles open source restent une question controversée au sein de l’industrie. En raison de leur distribution gratuite et de l’absence de contrôle d’utilisation, les modèles à poids ouverts sont difficiles à réglementer, ce qui amène certaines organisations à les considérer avec une appréhension importante.

Cependant, lors de la conférence Ai4 qui s’est tenue la semaine dernière à Las Vegas, trois experts en IA de premier plan – le lauréat du prix Nobel Geoffrey Hinton, la PDG et cofondatrice de World Labs Fei-Fei Li, et le cofondateur de Coursera Andrew Ng – ont abordé cette question. Bien qu’ils diffèrent sur les stratégies spécifiques, les trois ont fermement plaidé en faveur du maintien d’un écosystème d’IA ouvert.

Pour ces intervenants, la principale préoccupation était d’empêcher un petit groupe de grandes entreprises d’IA de contrôler le progrès technologique. Lorsque quelques entreprises dominent l’accès à une technologie, à l’image d’Apple et de Google qui contrôlent les systèmes d’exploitation mobiles, l’innovation peut stagner, et les contrôleurs de plateforme peuvent dicter ce qui est développé.

Andrew Ng a exprimé son inquiétude face à une dynamique similaire émergeant dans le domaine de l’IA. « Je ne veux pas qu’il y ait des gardiens », a déclaré Ng. « Cela limite la manière dont nous tous pouvons accéder à l’IA. »

Les entreprises sont incitées à protéger leurs avantages concurrentiels, y compris en façonnant les réglementations de l’industrie. Cela pourrait créer un scénario où seules les plus grandes entreprises, les mieux financées et disposant des ressources nécessaires pour construire des systèmes d’IA avancés, survivent.

La solution de Ng consistait à maintenir plusieurs fournisseurs, garantissant ainsi que les modèles et les entreprises entrent en concurrence plutôt que de permettre à quelques acteurs de dominer. « Si je devais formuler une seule recommandation, ce serait de promouvoir l’ouverture », a déclaré Ng, « car l’IA est une technologie incroyable et je veux qu’elle soit entre les mains de tous. »

Tout le monde n’était pas d’accord pour dire que les modèles à poids ouverts préserveraient cet équilibre concurrentiel. Hinton, en particulier, a fait la distinction entre les logiciels open source, qui rendent le code source disponible pour inspection et modification, et les modèles à poids ouverts, qui publient les paramètres d’un modèle d’IA entraîné au public.

« L’open source est formidable. Vous montrez le code aux gens, et beaucoup de gens examinent les lignes de code et disent : ‘Oh, il y a un bug.’ Les poids ouverts signifient que vous entraînez un grand modèle, puis vous donnez les poids aux gens. C’est très différent », a expliqué Hinton. « Je m’opposais aux poids [ouverts] parce que cela rend si facile pour les gens de prendre ces grands modèles de base, qui sont très coûteux à entraîner, et de les entraîner pour beaucoup moins d’argent à faire de mauvaises choses comme des cyberattaques. »

Malgré ses réserves, Hinton a reconnu que les modèles à poids ouverts sont désormais une caractéristique permanente de l’IA. « Je pense que cette bataille est perdue. Nous avons désormais des modèles à poids ouverts, de sorte que la barrière qui empêchait beaucoup de personnes d’accéder à ces grands modèles, à savoir le coût d’entraînement des modèles de base, a disparu. Il est trop tard. »

Pourtant, accepter la réalité ne signifiait pas ignorer les risques. La position de Hinton était claire : l’IA continuerait d’avancer, et il estimait que cela était largement bénéfique. Il a noté qu’elle stimulerait la productivité et améliorerait l’éducation et les soins de santé. « S’inquiéter des effets possibles néfastes de l’IA et des choses que les êtres intelligents pourraient faire lorsqu’ils sont plus intelligents que nous. Je ne pense pas que ce soit injuste. Je pense qu’il est injuste de qualifier quiconque ayant cette pensée de rabâcheur de peurs », a ajouté Hinton.

Ng a offert une perspective différente. Il a soutenu que la question n’était pas de savoir si les modèles ouverts étaient risqués, mais qui contrôlait l’accès et qui remporterait le marché. L’entité qui construit le modèle le moins cher obtient l’avantage. Si les modèles à poids ouverts de la Chine gagnaient une adoption généralisée en Asie, en Afrique et/ou dans le monde en développement, a-t-il mis en garde, ils pourraient influencer la manière dont des milliards de personnes rencontrent des idées sur la démocratie, la liberté et les droits humains.

« Une chose que j’espère que nous ferons est d’encourager la compétitivité américaine et l’IA open source. Il s’avère que l’IA est une source considérable de pouvoir mou. Vous pouvez voir la manière dont le modèle chinois a obtenu d’énormes succès en Afrique, par exemple », a déclaré Ng. « Mais mon inquiétude est due à tout le lobbying aux États-Unis et au rabâchage de peurs : construire une IA open source aux États-Unis peine à rivaliser avec les modèles à poids ouverts provenant de Chine, et mon inquiétude est que si la Chine trouve un moyen fondamentalement plus rentable de construire l’IA, alors les choses plus rentables ont un avantage commercial fondamental. »

Li a contesté ce cadre. « Il est très dangereux de faire de cela une dichotomie entre une ouverture totale et une fermeture totale », a-t-elle déclaré. « Dans les systèmes logiciels complexes ainsi que dans les systèmes scientifiques, c’est beaucoup plus nuancé. »

Li a utilisé la physique nucléaire comme exemple : les articles scientifiques sont publiés ouvertement, mais l’uranium est réglementé, tandis que le travail en laboratoire se situe quelque part entre les deux. La leçon, a-t-elle expliqué, est que l’ouverture n’a pas à être un choix tout ou rien. Différentes couches de l’écosystème peuvent fonctionner à des niveaux d’ouverture variables.

Elle a également mis en évidence les collaborations entre institutions publiques et privées, telles que le Projet Génome Humain. Les connaissances résultantes sont devenues une plateforme sur laquelle d’autres pouvaient s’appuyer, a-t-elle dit, permettant aux entreprises pharmaceutiques de réaliser des profits, aux scientifiques de faire avancer leurs travaux et à la société d’en bénéficier.

« Donc, je pense que nous devons utiliser [l’IA] comme ce type d’infrastructure », a déclaré Li. « Nous avons besoin de certains niveaux d’ouverture, tant dans la découverte scientifique, dans l’éducation, dans les partenariats mondiaux, que dans des modèles commerciaux lucratifs pour les entrepreneurs. Mais nous accepterons également les systèmes à code source fermé. Ce débat, surtout au niveau général de ‘nous ne pouvons tolérer qu’une seule option’, est un faux débat. Nous devons atteindre un niveau de nuance. »

Cependant, tout le monde a convenu qu’un certain niveau de réglementation serait nécessaire pour maintenir l’IA sur la bonne voie. « Ce que nous voulons faire, c’est développer l’IA dans une direction qui aide les gens, et la réglementation nous aidera à le faire », a déclaré Hinton. « Vous ne pouvez pas laisser des personnes comme Elon Musk et Mark Zuckerberg décider comment l’IA devrait être faite. »