Satya Nadella lanza una severa advertencia a las empresas que utilizan la inteligencia artificial

Entre los numerosos debates que giran en torno a los posibles inconvenientes de la IA, hay una cuestión que preocupa especialmente a los entusiastas de la IA de Silicon Valley: que los principales laboratorios de IA que comercializan modelos propios puedan estar actuando como «caballos de Troya».

El temor es que, a medida que las startups y las empresas adopten modelos de IA de laboratorios como OpenAI y Anthropic, dichos laboratorios obtengan un acceso cada vez mayor a los datos empresariales más sensibles de las compañías. Los creadores de los modelos podrían entonces utilizar ese conocimiento en su propio beneficio, convirtiéndose potencialmente en competidores de sus propios clientes. Las advertencias sobre este riesgo provienen de voces que van desde el inversor de capital riesgo Jason Calacanis hasta el director ejecutivo de Palantir, Alex Karp.

Ahora, en una sorprendente entrada de blog publicada el lunes, el director ejecutivo de Microsoft, Satya Nadella, se ha sumado a estas voces. Nadella advierte de que los usuarios de IA —a quienes denomina «compradores»— están pagando dos veces. Pagan a sabiendas por el uso de tokens de IA, pero también, sin saberlo, ceden datos valiosos en el proceso.

«Básicamente, pagas por la inteligencia dos veces: una con dinero y otra con algo aún más valioso: el conocimiento propio que debes revelar para que esa inteligencia resulte útil. Cuanto mejor quieras que rinda el modelo, ¡más de ese conocimiento tendrás que proporcionarle!», escribe.

Lo más peligroso, argumenta, es que las empresas están, en esencia, enseñando a los modelos los matices de sus propios negocios.

«Los modelos aprenden de los “datos de entrada”, de las indicaciones que escriben las personas, de las herramientas que utilizan los agentes y, sobre todo, de las correcciones que hacen las personas cuando el modelo se equivoca. Cada corrección se destila en conocimientos técnicos de la empresa», escribe.

Este es «el tipo de conocimiento que un competidor nunca podría comprar», y, sin embargo, las empresas lo están regalando.

Nadella sostiene que, si se permite a las empresas de IA rastrear libremente Internet para entrenar sus modelos, es justo que las empresas puedan estudiar —o «destilar»— esos modelos a cambio. La «destilación» se refiere al uso de los propios resultados de un modelo para comprender cómo funciona y entrenar un nuevo modelo, a menudo más barato, basándose en esos conocimientos. En febrero, Anthropic acusó a los modelos chinos de código abierto de enviar millones de indicaciones a Claude para mejorar sus propios modelos, instando al Gobierno de EE. UU. a endurecer los controles de exportación.

Lo que Nadella quiere decir es que los creadores de modelos no pueden tenerlo todo. Es hipócrita que ellos entrenen libremente con los datos del mundo mientras impiden que otros hagan lo mismo con sus modelos.

«Aunque es necesaria la gran innovación que surge de que los proveedores de modelos tengan derechos de uso legítimo para entrenar modelos con datos públicos, me parece irónico que la situación actual consista en dar un giro de 180 grados e imponer condiciones restrictivas a la destilación», escribe el director ejecutivo de Microsoft.

A Nadella le preocupa especialmente que los creadores de modelos «se reserven el derecho a aprender a partir de los datos de uso e interacción de los clientes».

La solución de Nadella es el tipo de propuesta que cabría esperar del director ejecutivo de un gran proveedor de servicios en la nube. Quiere que las empresas «conserven la propiedad» de sus datos, incluidas las indicaciones, los comentarios y demás. Por eso les insta a crear sus propios «entornos de aprendizaje propios» en la nube —donde probablemente ya se encuentren sus datos de todos modos y, convenientemente, eso podría significar la nube de Microsoft, Azure—. También recomienda a las empresas que implementen lo que él denomina «capas de orquestación», que son, en esencia, una forma de cambiar fácilmente entre modelos de IA de distintos proveedores en lugar de quedarse atados a uno solo. Herramientas como las «pasarelas» de IA, que permiten precisamente esto, se han vuelto cada vez más populares.

Aunque Nadella nunca utiliza la expresión «código abierto» como método para conservar la propiedad, ese es un subtexto evidente. Sin embargo, también hay otro subtexto.

Las grandes empresas, muchas de las cuales siguen gestionando sus propios centros de datos además de utilizar la nube, ya están avanzando hacia modelos de código abierto instalados en sus propias instalaciones («on-prem», en la jerga del sector). Idit Levine, fundadora y directora ejecutiva de Solo.io —que desarrolla software de redes y seguridad para ayudar a las empresas a gestionar sistemas de IA— afirma que está observando precisamente este cambio entre sus propios clientes. Tras probar con creadores de modelos propietarios, empiezan a preguntar: «¿Puedo tomar un modelo de código abierto y ejecutarlo on-prem? Hará casi el 90 % de lo que hace el de las grandes empresas. Y costará mucho menos», explica a TechCrunch. «Lo entienden y pueden controlarlo».

La tecnología de Solo.io fue seleccionada el año pasado como la base tecnológica del proyecto Agentgateway de la Fundación Linux. Su empresa cuenta entre sus clientes con empresas como T-Mobile, ADP y SAP. Observa que las empresas instalan cada vez más modelos de código abierto en sus propias instalaciones y considera que esta es la próxima gran ola en el uso de la IA empresarial.

No es la única. Vercel —más conocida como plataforma para crear y alojar sitios web, que recientemente ha incorporado herramientas para cambiar de modelo de IA— y OpenRouter, una empresa que ayuda a los desarrolladores a redirigir las solicitudes entre diferentes modelos de IA, están experimentando un aumento del tráfico hacia los modelos de código abierto. De hecho, los modelos abiertos representaron el 29 % de todo el tráfico enrutado a través de la pasarela de Vercel el mes pasado.

Ahora que el director ejecutivo de Microsoft —una empresa que ha invertido tanto en OpenAI como en Anthropic— insta abiertamente a las empresas a actuar con cautela a la hora de utilizar modelos propietarios, esperamos que esta tendencia siga creciendo. «Al consumir inteligencia, estás creando inteligencia. Y lo que creas debería pertenecerte», escribe Nadella.