Cómo determinó el Gobierno que el modelo «Frontier» de OpenAI era seguro para su lanzamiento

OpenAI ha lanzado su último modelo lingüístico avanzado, Sol, y lo ha puesto a disposición del público en general. Se considera de forma generalizada que Sol iguala las capacidades de Fable, de Anthropic, un modelo tan polémico que llegó a despertar momentáneamente la preocupación de la Casa Blanca, lo que provocó una restricción temporal del acceso público.

¿Cómo se consiguió finalmente la aprobación para el lanzamiento de estos modelos? La respuesta sigue sin estar clara.

«Francamente, no tengo conocimiento de esos procesos concretos, así que no, no creo tener suficiente información para decir si son adecuados o no», declaró a TechCrunch Mina Narayanan, analista de investigación sénior del Centro de Seguridad y Tecnologías Emergentes de Georgetown. «Anthropic sí afirmó que estaba en conversaciones con el Gobierno, que había desarrollado un clasificador para detectar intentos de “jailbreak” y que había implementado estrategias defensivas para evitar futuros “jailbreaks”, pero no está claro cómo fue exactamente ese diálogo entre el Gobierno, Anthropic y OpenAI».

Dean W. Ball, antiguo asesor político de Trump que ahora trabaja en OpenAI, señaló en su boletín informativo del mes pasado que «nadie sabe cuáles son los requisitos para obtener la licencia».

Andy Konwinski, un informático cofundador de Databricks, Perplexity y el Laude Institute, afirmó que nunca ha hablado con nadie que comprenda plenamente el proceso, ni siquiera entre los empleados de los principales laboratorios de IA. «Es un problema existencial», explica a TechCrunch. «Se trate o no de seguridad, la cuestión es quién tiene el poder de tomar decisiones: ¿quién controla el acceso y decide sobre los permisos?».

Tras dieciocho meses de la administración Trump, sigue habiendo poca claridad sobre cómo avanzar, a pesar de —o, según alegan algunos críticos, precisamente debido a— que figuras del sector están dando forma a la política. El mes pasado, tras semanas de disputas internas, se publicó una orden ejecutiva que esbozaba una hoja de ruta para evaluar los modelos de vanguardia, pero los detalles específicos siguen sin concretarse, salvo lo que no existirá. «No habrá una FDA para la IA», declaró al Financial Times Sriram Krishnan, antiguo socio de Andreessen Horowitz que ocupó el cargo de asesor sénior para la IA en la Casa Blanca hasta el mes pasado.

Cabe destacar que aún no hay consenso sobre qué tipos de modelos requieren supervisión gubernamental ni sobre qué organismo u organismos deberían llevar a cabo esas evaluaciones. Por ahora, el Centro de Normas e Innovación en IA del Departamento de Comercio parece liderar la iniciativa, pero la orden ejecutiva ordena a seis organismos del gabinete que determinen un proceso definitivo para principios de agosto. Lo que ha surgido mientras tanto es, en el mejor de los casos, una medida puntual.

El director ejecutivo de OpenAI, Sam Altman, declaró a la CNBC que el proceso implicó conversaciones con funcionarios como el secretario de Comercio, Howard Lutnick; el secretario del Tesoro, Scott Bessent; y el director nacional de ciberseguridad de EE. UU., Sean Cairncross, pero sigue sin estar claro quiénes fueron los expertos que probaron los modelos ni cómo llevaron a cabo dichas pruebas. OpenAI se negó a compartir detalles sobre el proceso del Gobierno con TechCrunch, remitiéndose en su lugar a los resultados de varias evaluaciones externas realizadas por organizaciones como AISI (Reino Unido), SecureBio e Irregular, incluidas en la ficha de seguridad del último modelo.

Al igual que en el lanzamiento de «Fable» por parte de Anthropic, OpenAI presentó el modelo en primicia al Gobierno y a una selección de usuarios antes de su lanzamiento general, pero se desconoce quiénes eran todos esos usuarios ni cómo fueron seleccionados. En una entrada de blog de finales de junio, la empresa declaró: «No creemos que este tipo de proceso de acceso gubernamental deba convertirse en la norma a largo plazo», y añadió que colaboraría con el Gobierno para desarrollar una vía diferente de cara al futuro.

El contexto de esas conversaciones incluye informes según los cuales Altman ofreció hasta un 5 % del capital social de OpenAI para las denominadas «cuentas de Trump» de la Administración, junto con el papel del presidente de OpenAI, Greg Brockman, como el mayor donante conocido públicamente a la campaña política de Trump para las elecciones de mitad de mandato. A los observadores externos les resulta difícil separar estas actividades del enfoque aparentemente más flexible del Gobierno a la hora de regular Sol.

Por otra parte, «Fable», de Anthropic, fue retirado temporalmente del acceso general cuando el Gobierno de EE. UU. prohibió su uso a ciudadanos extranjeros, en parte debido a preocupaciones legítimas sobre la posibilidad de que los usuarios «liberaran» el modelo para acceder a capacidades de piratería informática y, en parte, debido a desavenencias entre Anthropic y la Administración Trump. La amenaza de una prohibición de exportación también puede haber animado a OpenAI a mostrarse más cooperativa con las peticiones (desconocidas) del Gobierno.

Desde la perspectiva del sector, un enfoque de no intervención en materia de regulación podría parecer atractivo, pero uno que se base en las relaciones personales con los funcionarios de la administración genera incertidumbre y malos incentivos.

Konwinski declaró a TechCrunch que le preocupa que los verdaderos expertos en esta tecnología —«investigadores en seguridad, en alineación, en interpretabilidad, pero también especialistas en datos y personas de todos los ámbitos de la pila tecnológica»— no estén desempeñando un papel suficiente en el proceso de lanzamiento de los modelos.

Konwinski sostiene que un «bienes comunes abiertos» es la mejor forma de equilibrar la seguridad y la innovación. Apunta a modelos como los de la FDA, los NIH o los laboratorios nacionales, que reúnen a investigadores, funcionarios públicos y empresas privadas para alcanzar un consenso sobre cuestiones de seguridad.

En parte, esto se debe a los incentivos del capitalismo que han motivado a los investigadores en IA durante más de una década, y que se pusieron de manifiesto en los tribunales durante el juicio de Elon Musk contra la estructura corporativa de OpenAI. Ball señala que la naturaleza del negocio de la IA exige que las empresas recuperen gran parte de sus costes de entrenamiento poco después de que sus modelos se lancen al mercado y se sitúen aún más por delante de la competencia.

«Aunque sus intenciones sean buenas, existen obligaciones legales y una responsabilidad fiduciaria muy claras que están integradas directamente en los procedimientos operativos», señala Konwinski.

Ball, en su publicación, argumentó que el camino a seguir dependerá de organismos de auditoría independientes, autorizados por el Gobierno, que evalúen el enfoque de los laboratorios de vanguardia en materia de seguridad. Konwinski también se muestra optimista respecto a nuevos formatos institucionales, como las organizaciones de investigación especializadas, que podrían ayudar a que más expertos desinteresados del ámbito académico y del sector sin ánimo de lucro accedan a los modelos de vanguardia y los evalúen.

Por ahora, el secretismo que rodea al desarrollo de la IA no va a desaparecer, pero también planteará retos políticos para un sector que los estadounidenses ven cada vez con más escepticismo. «No da la sensación de que sean personas responsables las que estén impulsando estos cambios», afirmó la semana pasada Remzi Arpaci-Dusseau, profesor de informática de la Universidad de Wisconsin-Madison, en la conferencia Open Frontier.

En el mismo evento, David Siegel, el informático que fundó Two Sigma, uno de los fondos de cobertura cuantitativos más exitosos, pidió a los asistentes que «imaginaran una situación, que en mi opinión sería muy grave, [en la que] un pequeño número de empresas controlara la tecnología; el Gobierno, en sus laboratorios secretos, evalúe si la tecnología es adecuada para su uso o no; y el público en general y la comunidad científica no tengan realmente acceso a nada de eso».

Parece que no hace falta imaginarlo.