Satya Nadella adresse un avertissement sévère aux entreprises qui utilisent l'IA

Parmi les nombreux débats concernant les inconvénients potentiels de l’IA, une crainte préoccupe particulièrement les passionnés d’IA de la Silicon Valley : celle que les grands laboratoires d’IA vendant des modèles propriétaires puissent fonctionner comme des chevaux de Troie.

La crainte est que, à mesure que les start-ups et les entreprises adoptent les modèles d’IA proposés par des laboratoires tels qu’OpenAI et Anthropic, ces derniers acquièrent un accès de plus en plus étendu aux données commerciales les plus sensibles de ces entreprises. Les créateurs de modèles pourraient alors utiliser ces informations à leur propre avantage, devenant ainsi potentiellement des concurrents de leurs propres clients. Des mises en garde concernant ce risque émanent de personnalités allant de l’investisseur en capital-risque Jason Calacanis au PDG de Palantir, Alex Karp.

Or, dans un billet de blog surprenant publié lundi, le PDG de Microsoft, Satya Nadella, s’est joint à ces voix. Nadella met en garde les utilisateurs de l’IA — qu’il qualifie d’« acheteurs » — contre le fait qu’ils paient deux fois. Ils paient sciemment pour l’utilisation de jetons d’IA, mais ils cèdent également, à leur insu, des données précieuses au cours du processus.

« En substance, vous payez deux fois pour l’intelligence : une fois avec de l’argent, et une seconde fois avec quelque chose d’encore plus précieux : les connaissances propriétaires que vous devez révéler pour rendre cette intelligence utile. Plus vous souhaitez que le modèle soit performant, plus vous devez lui fournir de ces connaissances ! », écrit-il.

Le plus dangereux, selon lui, c’est que les entreprises enseignent en substance aux modèles les subtilités de leur propre activité.

« Les modèles apprennent à partir des “données d’entrée”, des invites rédigées par les utilisateurs, des outils utilisés par les agents, et surtout des corrections apportées lorsque le modèle se trompe. Chaque correction est distillée en savoir-faire institutionnel », écrit-il.

Il s’agit là « du genre de savoir qu’un concurrent ne pourrait jamais acheter », et pourtant les entreprises le cèdent gratuitement.

Nadella fait valoir que si les entreprises spécialisées dans l’IA sont autorisées à explorer librement Internet pour entraîner leurs modèles, il est tout à fait juste que les entreprises puissent, en contrepartie, étudier — ou « distiller » — ces modèles. La « distillation » consiste à utiliser les résultats d’un modèle pour comprendre son fonctionnement et entraîner un nouveau modèle, souvent moins coûteux, à partir de ces informations. En février, Anthropic a accusé des modèles open source chinois d’avoir envoyé des millions de prompts à Claude afin d’améliorer leurs propres modèles, exhortant le gouvernement américain à renforcer les contrôles à l’exportation.

L’argument de Nadella est que les créateurs de modèles ne peuvent pas jouer sur les deux tableaux. Il est hypocrite de leur part de s’entraîner librement sur les données du monde entier tout en empêchant les autres de faire de même avec leurs modèles.

« Si l’innovation majeure qui découle du fait que les fournisseurs de modèles disposent de droits d’utilisation équitables pour entraîner leurs modèles sur des données publiques est nécessaire, je trouve ironique que le statu quo consiste ensuite à faire volte-face et à imposer des conditions restrictives en matière de distillation », écrit le PDG de Microsoft.

Nadella s’inquiète particulièrement lorsque les créateurs de modèles « se réservent le droit de tirer des enseignements des données d’utilisation et d’interaction des clients ».

La solution proposée par Nadella est typique de ce que suggérerait le PDG d’un géant du cloud. Il souhaite que les entreprises « conservent la propriété » de leurs données, y compris les invites, les retours d’expérience et bien plus encore. Il les exhorte donc à créer leurs propres « environnements d’apprentissage propriétaires » sur le cloud — là où leurs données se trouvent probablement déjà de toute façon, et, comme par hasard, cela pourrait bien désigner le cloud de Microsoft, Azure. Il recommande également aux entreprises de mettre en place ce qu’il appelle des « couches d’orchestration » — essentiellement un moyen de basculer facilement entre les modèles d’IA de différents fournisseurs plutôt que d’être prisonnier d’un seul. Des outils tels que les « passerelles » d’IA, qui permettent précisément cela, sont de plus en plus populaires.

Bien que Nadella n’utilise jamais le terme « open source » pour désigner la méthode permettant de conserver la propriété, c’est là un sous-entendu évident. Mais il existe également un autre sous-entendu.

Les grandes entreprises, dont beaucoup exploitent encore leurs propres centres de données en plus d’utiliser le cloud, s’orientent déjà vers des modèles open source installés sur leurs propres sites (« on-prem » dans le jargon du secteur). Idit Levine, fondatrice et PDG de Solo.io — qui développe des logiciels de réseau et de sécurité pour aider les entreprises à gérer leurs systèmes d’IA — affirme observer précisément cette évolution chez ses propres clients. Après avoir testé des créateurs de modèles propriétaires, elles commencent à se demander : « Puis-je prendre un modèle open source et l’exécuter sur site ? Il fera près de 90 % de ce que fait le grand acteur du marché. Et cela coûtera bien moins cher », explique-t-elle à TechCrunch. « Elles comprennent cela, et elles peuvent le contrôler. »

La technologie de Solo.io a été choisie l’année dernière pour équiper le projet Agentgateway de la Linux Foundation. Son entreprise compte parmi ses clients des sociétés telles que T-Mobile, ADP et SAP. Elle constate que les entreprises installent de plus en plus de modèles open source sur site et y voit la prochaine grande vague dans l’utilisation de l’IA en entreprise.

Elle n’est pas la seule. Vercel — surtout connu comme plateforme de création et d’hébergement de sites web, qui a récemment ajouté des outils de basculement entre modèles d’IA — et OpenRouter, une entreprise qui aide les développeurs à acheminer les requêtes vers différents modèles d’IA, constatent tous deux une forte augmentation du trafic vers les modèles open source. En effet, les modèles ouverts ont représenté 29 % de l’ensemble du trafic acheminé via la passerelle de Vercel le mois dernier.

Alors que le PDG de Microsoft, une entreprise qui a investi à la fois dans OpenAI et Anthropic, exhorte désormais ouvertement les entreprises à faire preuve de prudence dans l’utilisation des modèles propriétaires, nous nous attendons à ce que cette tendance continue de s’amplifier. « En consommant de l’intelligence, vous créez de l’intelligence. Et ce que vous créez devrait vous appartenir », écrit Nadella.