Tres pioneros de la IA argumentan a favor de mantener los grandes modelos abiertos mientras crecen las preocupaciones sobre la seguridad

Initiatives like Pacing the Frontier aim to ensure AI safety by partnering with major labs, yet open-source models remain a contentious issue within the industry. Due to their free distribution and lack of usage control, open-weight models are difficult to regulate, causing some organizations to view them with significant apprehension.

Sin embargo, en la conferencia Ai4 celebrada la semana pasada en Las Vegas, tres destacados expertos en inteligencia artificial: el laureado con el Nobel Geoffrey Hinton, la directora ejecutiva y cofundadora de World Labs Fei-Fei Li, y el cofundador de Coursera Andrew Ng, abordaron este tema. Aunque difieren en las estrategias específicas, los tres abogaron firmemente por mantener un ecosistema de IA abierto.

Para estos ponentes, la principal preocupación era evitar que un pequeño grupo de grandes empresas de IA controlara el progreso tecnológico. Cuando unas pocas empresas dominan el acceso a una tecnología, de manera similar a cómo Apple y Google controlan los sistemas operativos móviles, la innovación puede estancarse y los controladores de la plataforma pueden dictar qué se desarrolla.

Andrew Ng expresó su preocupación por una dinámica similar en el ámbito de la IA. «No quiero que haya guardianes», afirmó Ng. «Eso limita cómo todos nosotros podemos acceder a la IA».

Las empresas están incentivadas a proteger sus ventajas competitivas, incluida la configuración de las regulaciones del sector. Esto podría crear un escenario en el que solo sobrevivan las empresas más grandes y mejor financiadas, con los recursos necesarios para construir sistemas de IA avanzados.

La solución de Ng fue mantener múltiples proveedores, asegurando que los modelos y las empresas compitan en lugar de permitir que unos pocos actores dominen. «Si tuviera que dar una sola receta, sería promover la apertura», dijo Ng, «porque la IA es una tecnología increíble y quiero que esté en manos de todos».

No todos estaban de acuerdo en que los modelos de pesos abiertos preservarían este equilibrio competitivo. Hinton, en particular, distinguió entre el software de código abierto, que hace que el código subyacente esté disponible para su inspección y modificación, y los modelos de pesos abiertos, que liberan los parámetros de un modelo de IA entrenado al público.

«El código abierto es excelente. Muestras el código a las personas, y mucha gente revisa las líneas de código y dice: 'Oh, hay un error'. Los pesos abiertos significan que entrenas un modelo grande y luego le das los pesos a las personas. Eso es muy diferente», explicó Hinton. «Me oponía a los pesos [abiertos] porque hace que sea muy fácil para las personas tomar estos grandes modelos fundamentales, que son muy costosos de entrenar, y por mucho menos dinero entrenarlos para hacer cosas malas, como ciberataques».

A pesar de sus reservas, Hinton reconoció que los modelos de pesos abiertos son ahora una característica permanente en la IA. «Creo que esa batalla se ha perdido. Ahora tenemos modelos de pesos abiertos, por lo que la barrera para que muchas personas accedan a estos grandes modelos, que era el costo de entrenar los modelos fundamentales, ha desaparecido. Es demasiado tarde».

Sin embargo, aceptar la realidad no significaba ignorar los riesgos. La posición de Hinton fue clara: la IA continuaría avanzando, y creía que esto era en gran medida beneficioso. Señaló que impulsaría la productividad y mejoraría la educación y la atención médica. «Preocuparse por los posibles efectos negativos de la IA y las cosas que podrían hacer los seres inteligentes cuando sean más inteligentes que nosotros. No creo que sea injusto. Creo que es injusto etiquetar a cualquiera que piense así como un alarmista», añadió Hinton.

Ng ofreció una perspectiva diferente. Argumentó que la pregunta no era si los modelos abiertos eran riesgosos, sino quién controlaba el acceso y quién ganaría el mercado. La entidad que construye el modelo más barato obtiene la ventaja. Si los modelos de pesos abiertos de China ganaban una amplia adopción en Asia, África y/o el mundo en desarrollo, advirtió, podrían influir en cómo miles de millones de personas se enfrentan a ideas sobre democracia, libertad y derechos humanos.

«Una cosa que espero que hagamos es fomentar la competitividad estadounidense y la IA de código abierto. Resulta que la IA es una fuente tremenda de poder blando. Puedes ver cómo el modelo de China ha tenido un tremendo éxito con África, por ejemplo», dijo Ng. «Pero mi preocupación es que, debido a toda la actividad de cabildeo en EE. UU. y al alarmismo, construir IA de código abierto en Estados Unidos está luchando por competir con los modelos de pesos abiertos que provienen de China, y mi preocupación es que si China descubre una forma fundamentalmente más eficiente en costos para construir IA, entonces las cosas que son más eficientes en costos tienen una ventaja fundamental de adopción empresarial».

Li desafió este marco. «Es muy peligroso hacer de esto una dicotomía entre la apertura total y el cierre total», dijo. «En sistemas de software complejos, así como en sistemas científicos, es mucho más matizado».

Li utilizó la física nuclear como ejemplo: los artículos científicos se publican abiertamente, pero el uranio está regulado, mientras que el trabajo de laboratorio se encuentra en algún punto intermedio. La lección, explicó, era que la apertura no tiene que ser una opción de todo o nada. Diferentes capas del ecosistema pueden operar en distintos niveles de apertura.

También destacó las colaboraciones entre instituciones públicas y privadas, como el Proyecto del Genoma Humano. El conocimiento resultante se convirtió en una plataforma sobre la cual otros podían construir, dijo, permitiendo que las empresas farmacéuticas obtuvieran beneficios, que los científicos avanzaran en su trabajo y que la sociedad se beneficiara.

«Así que creo que tenemos que usar [la IA] como ese tipo de infraestructura», dijo Li. «Necesitamos algunos niveles de apertura, tanto en el descubrimiento científico, en la educación, en las asociaciones globales, como en modelos de negocio lucrativos para los emprendedores. Pero también aceptaremos sistemas de código cerrado. Este debate, especialmente a nivel general de 'solo podemos tolerar uno', es un debate falso. Necesitamos llegar a un nivel de matiz».

Sin embargo, todos coincidieron en que sería necesario algún nivel de regulación para mantener a la IA en el camino correcto. «Lo que queremos hacer es desarrollar la IA en una dirección que ayude a las personas, y la regulación nos ayudará a hacerlo», dijo Hinton. «No puedes dejar que personas como Elon Musk y Mark Zuckerberg decidan cómo debe hacerse la IA».