Les documents Microsoft, non censurés, révèlent que les dirigeants de l’entreprise qualifient l’extraction des données par l’IA de « plus grand vol de travail de l’histoire »

Les documents déclassifiés du procès en contrefaçon de trois ans intenté par The New York Times contre OpenAI et Microsoft révèlent une admission selon laquelle le grattage d’informations par l’intelligence artificielle constitue un vol et pose une menace grave pour les médias.

Selon le procès, un dirigeant de haut niveau de Microsoft a qualifié en privé les méthodes d’entraînement des entreprises d’« vol », tandis que la direction d’OpenAI a reconnu que ses modèles créaient une « menace existentielle » pour les éditeurs et journalistes dont le contenu les avait entraînés.

Les nouveaux documents déclassifiés détaillent également comment les entreprises auraient accès et utilisé ce contenu en contournant les paywalls sans être détectées, en construisant des ensembles de données d’entraînement par un grattage massif et en retirant intentionnellement les mentions de droits d’auteur des données.

Il est important de noter que la plupart de ces nouvelles informations proviennent des propres conclusions juridiques du Times plutôt que des pièces sous scellé, qui restent confidentielles. Les citations ci-dessous sont présentées sans leur contexte original.

Ce dépôt non censuré marque la dernière escalade dans le procès de trois ans, où The New York Times a initialement affirmé que les entreprises avaient violé la loi sur le droit d’auteur en entraînant des modèles d’IA générative sur son contenu.

Il n’existe pas de réponse juridique claire quant à la légalité pour les entreprises d’IA d’utiliser du matériel protégé par le droit d’auteur à des fins d’entraînement, bien que les juges aient généralement favorisé l’argument des entreprises d’IA selon lequel un tel entraînement relève de l’« usage loyal ». Cette doctrine juridique permet l’utilisation d’œuvres protégées sans autorisation dans des cas spécifiques, tels que la parodie, le reportage d’actualités ou la critique. Plus tôt ce mois-ci, l’administration Trump a déposé des conclusions soutenant l’utilisation non licenciée par OpenAI de matériel protégé par le droit d’auteur pour entraîner ses grands modèles de langage.

Cependant, plusieurs de ces nouvelles admissions contredisent la défense de l’usage loyal d’OpenAI, en particulier l’exigence selon laquelle une telle utilisation ne se substitue pas à l’œuvre originale et ne nuit pas à son marché.

Par exemple, les propres données de Microsoft indiquent que son « moteur de réponses » Copilot a fait chuter les taux de clic vers le domaine du New York Times jusqu’à 93 % par rapport aux recherches traditionnelles sur Bing. Une présentation interne de Microsoft rédigée par Brent Hecht, directeur de la science appliquée de Microsoft, en janvier 2024, décrit cette baisse comme une « boucle infernale » qui nuirait simultanément « aux performances de nos modèles et à l’ensemble du web ».

« Il est très inhabituel qu’un produit final menace les fondements économiques de ses fournisseurs essentiels, mais c’est la situation que nous avons créée pour notre entreprise de grands modèles de langage par rapport à sa « chaîne d’approvisionnement en contenu », déclare le document Microsoft, tel que cité dans le dépôt.

Le PDG de Microsoft, Satya Nadella, a également témoigné lors d’une déposition plus tôt cette année que « tout ce qui est soumis à un paywall devrait être licencié par quiconque souhaite l’utiliser… pour l’ancrage ou l’entraînement », et a précisé qu’il aurait « invoqué [le droit de Microsoft d’exiger] qu’OpenAI réentraîne ses modèles » s’il avait « été informé qu’OpenAI avait gratté et entraîné des informations derrière un paywall ».

D’autres admissions sapent différents aspects du test de l’usage loyal : le responsable de ChatGPT d’OpenAI, Nick Turley, a écrit dans des communications internes que les éditeurs font face à une « menace existentielle » de la part de produits comme le chatbot, qui sont « largement substituables » et « deviendront de plus en plus substituables à mesure qu’ils s’amélioreront ».

Le président d’OpenAI, Greg Brockman, a décrit les modèles comme « excellents pour les actualités ». Nadella a convenu sous serment plus tôt cette année que l’interaction avec les chatbots « a substitué … vous donnant l’information directement sur le site web de la plateforme d’IA plutôt que d’avoir à aller à la source sous-jacente ».

Un tel langage met en évidence comment la technologie pourrait concurrencer directement, plutôt que de transformer, l’œuvre originale.

Un document Microsoft indique qu’il existe un « risque réel » que l’IA générative puisse « perturber de manière significative l’emploi des personnes mêmes qui ont généré les données sur lesquelles le modèle de base a été entraîné ».

L’ampleur purement numérique du copiage est frappante. Les documents révèlent pour la première fois que les ensembles de données d’entraînement intermédiaires d’OpenAI contiennent à eux seuls plus de 91 692 copies d’œuvres publiées par le NYT, le Daily News et le Center for Investigative Reporting. Un ensemble de données dérivé de Common Crawl comprenait plus de 2 millions de documents provenant uniquement de nytimes.com.

Dans une note interne de janvier 2023, Hecht l’a qualifié d’« un vol stupéfiant de proportions sans précédent » et « du plus grand vol de travail de l’histoire humaine ».

Le dépôt fournit de nouveaux détails sur la manière dont OpenAI et Microsoft ont acquis le contenu des plaignants, y compris en le grattant à partir de l’Index Bing.

« OpenAI a transmis l’intégralité de l’ensemble de données d’entraînement de GPT-3 à Microsoft, que Microsoft a utilisé pour évaluer comment implémenter les modèles d’OpenAI dans ses propres produits commerciaux », indique le dépôt. « Microsoft a également fourni des données d’entraînement à OpenAI par le biais d’initiatives appelées Project Taxi et Project Mango. »

Les entreprises auraient assemblé les données de Project Mango en un ensemble de données d’entraînement contenant des copies d’au moins 160 903 œuvres uniques provenant d’éditeurs de presse.

Pour maximiser l’efficacité de leur grattage, les employés d’OpenAI auraient conçu un plan pour contourner les paywalls sans être détectés. Les dépôts montrent que lorsque le chercheur d’OpenAI, Nick Ryder, a informé Brockman d’un « hack pour contourner le paywall du New York Times », Brockman a répondu : « ah nice ».

Les employés d’OpenAI auraient également construit des ensembles de données d’entraînement comme WebText et WebText2 qui s’appuyaient de manière disproportionnée sur du contenu journalistique gratté. Ils auraient également extrait des millions d’articles de Common Crawl, un dépôt gratuit et ouvert de données de crawl web. Les résultats décrivent également des efforts délibérés pour retirer les mentions de droits d’auteur des données d’entraînement avant qu’elles n’atteignent le modèle, car les chercheurs « ne voudraient pas que le modèle produise » des « mentions de droits d’auteur » aux utilisateurs.

OpenAI et Microsoft n’ont pas répondu aux demandes de commentaire.