El director ejecutivo de Microsoft critica a AI Labs por el proceso de destilación

Satya Nadella, director ejecutivo de Microsoft, critica a los laboratorios de IA por su hipocresía ante las críticas sobre la destilación de modelos, un comentario que se ha interpretado ampliamente como dirigido a Anthropic. Crédito: Getty Images

El director ejecutivo de Microsoft, Satya Nadella, critica a los desarrolladores de IA por limitar la destilación de modelos mientras, al mismo tiempo, aprovechan los datos públicos y de los clientes para entrenar sus propios sistemas.

Satya Nadella, de Microsoft, ha criticado públicamente a varios laboratorios de IA no identificados del sector tecnológico por su postura contradictoria respecto a la «destilación» de la IA, una técnica mediante la cual se entrena un modelo más pequeño utilizando los resultados de un sistema más grande y potente.

En una publicación en X, Nadella sostiene que los creadores de modelos que se quejan de la destilación están siendo hipócritas en lo que respecta al proceso más amplio de entrenamiento de la IA.

Reconoce que «es necesaria la gran innovación que surge de que los proveedores de modelos tengan derechos de uso justo para entrenar con datos públicos», pero considera «irónico» que el consenso del sector imponga «condiciones restrictivas» a la destilación.

Esto ocurre a pesar de que estas mismas empresas se reservan el derecho a aprender a partir de los datos de uso e interacción de los clientes.

«Si el aprendizaje fluye en una sola dirección, el valor económico converge hacia los propietarios de la infraestructura de aprendizaje en lugar de hacia los creadores del conocimiento en sí», señala Nadella.

Los ataques a Anthropic ponen de relieve la creciente polémica sobre las fuentes de datos

Anthropic, OpenAI y Google DeepMind se basan en contenidos de terceros para entrenar sus modelos de IA. ChatGPT, Claude y Gemini obtienen información de textos, imágenes y datos disponibles públicamente.

Muchos han planteado preocupaciones éticas y relacionadas con los derechos de autor sobre este método de entrenamiento, lo que ha dado lugar a acciones legales por parte de los principales creadores de contenido.

Por ejemplo, BBC News informó de que la BBC ha demandado a Anthropic por la obtención de datos sin consentimiento.

Aunque Nadella no mencionó directamente a Anthropic, las pruebas sugieren que la publicación estaba claramente dirigida a la empresa de IA. Su crítica se produce tras una publicación anterior de Anthropic sobre «la detección y prevención de ataques de destilación».

En una carta enviada en junio al senador de Carolina del Sur Tim Scott y a la senadora de Massachusetts Elizabeth Warren, Anthropic afirmó que Alibaba había llevado a cabo recientemente el «mayor ataque de destilación conocido» contra sus datos.

La declaración argumentaba que los competidores podrían utilizar la destilación para adquirir «capacidades potentes de otros laboratorios en una fracción del tiempo y a una fracción del coste que supondría desarrollarlas de forma independiente». Alibaba aún no ha respondido a estas acusaciones.

Empresas como la BBC y Reddit han demandado a Anthropic, acusándola de utilizar sus datos para entrenar su modelo Claude sin su consentimiento (Crédito: Anthropic)

La externalización de modelos plantea riesgos empresariales críticos

En la misma publicación de X, Nadella advierte de que las empresas que dependen de los principales modelos de IA están concediendo a las empresas de IA acceso a sus datos privados.

Hace hincapié en que las empresas deben ser dueñas de su propia infraestructura de IA y de sus conocimientos del sector, en lugar de depender de un único proveedor de modelos.

Nadella aconseja que las empresas lleven a cabo sus propias evaluaciones y su propio «ciclo de aprendizaje» para garantizar que su tecnología de IA se desarrolle y mejore con el tiempo.

Las empresas necesitan parámetros de seguridad estrictos para proteger sus desarrollos propios. Nadella afirma que las empresas necesitan un límite de confianza real para que su capital humano y simbólico se multiplique.

Añade que este límite no debe ser traspasado por nadie ni por nada, «ni siquiera por los residuos de inteligencia, sin consentimiento».

Del mismo modo, Elon Musk ha criticado públicamente las prácticas de obtención de datos de Anthropic para el entrenamiento de sus modelos de IA.

En una publicación de febrero en X, Musk acusó a Anthropic de «robar datos de entrenamiento a gran escala» y predijo que se enfrentaría a «acuerdos extrajudiciales de miles de millones de dólares» por robo.

«Esto es simplemente un hecho», añade.