El único testigo de Musk en el juicio de OpenAI advierte sobre una próxima carrera armamentística de AGI

¿Cuándo deberíamos tomar en serio a los alarmistas sobre la IA?

Esta pregunta se encuentra en el corazón del esfuerzo de Elon Musk por restringir las operaciones con fines de lucro de OpenAI en el ámbito de la inteligencia artificial. Su equipo legal argumenta que la organización fue establecida originalmente como una entidad benéfica dedicada a la seguridad de la IA, pero se desvió de su misión en pos de obtener beneficios. Para respaldar esta afirmación, hicieron referencia a correos electrónicos y declaraciones tempranas de los fundadores, quienes enfatizaron la necesidad de un contrapeso de interés público frente a Google DeepMind.

Hoy, la defensa presentó a su único testigo experto: Peter Russell, profesor de ciencias de la computación en la Universidad de California, Berkeley, con décadas de experiencia en investigación de inteligencia artificial. Su papel era proporcionar contexto sobre la IA y demostrar que la tecnología plantea riesgos significativos dignos de preocupación.

Russell fue uno de los firmantes de una carta abierta en marzo de 2023 que pedía una pausa de seis meses en la investigación sobre IA. En una notable contradicción, Musk también firmó esta misma carta mientras simultáneamente lanzaba xAI, su propio laboratorio de IA con fines de lucro.

Russell testificó ante el jurado y la jueza Yvonne Gonzalez Rodgers que el desarrollo de la IA conlleva diversos riesgos, incluidas amenazas a la ciberseguridad, problemas de alineación y las dinámicas de «el ganador se lo lleva todo» de la Inteligencia Artificial General (AGI). Concluyó que existe una tensión inherente entre perseguir la AGI y garantizar la seguridad.

Las preocupaciones más amplias de Russell sobre las amenazas existenciales de una IA sin regulación no se presentaron completamente en audiencia pública después de que los abogados de OpenAI objetaran, lo que llevó a la jueza a limitar su testimonio. Sin embargo, Russell ha criticado durante mucho tiempo la carrera armamentista competitiva entre los laboratorios fronterizos globales que compiten por alcanzar primero la AGI, abogando por una regulación gubernamental más estricta del sector.

El equipo legal de OpenAI utilizó su interrogatorio para establecer que Russell no estaba evaluando directamente la estructura corporativa de la organización ni sus protocolos de seguridad específicos.

No obstante, este periodista, junto con la jueza y los jurados, debe determinar cuánto peso dar a la relación entre los motivos de beneficio corporativo y las preocupaciones sobre la seguridad de la IA. Casi todos los fundadores de OpenAI han advertido firmemente sobre los riesgos de la IA mientras destacaban simultáneamente sus beneficios, esforzándose por construir la IA lo más rápido posible y desarrollando planes para empresas de IA con fines de lucro que controlarían.

Desde una perspectiva externa, surge un problema claro: los fundadores de OpenAI se dieron cuenta después de su creación que la organización necesitaba significativamente más capacidad de computación para tener éxito. Esta financiación solo podía provenir de inversores con fines de lucro. El miedo del equipo fundador a que la AGI cayera en manos de una sola entidad los impulsó a buscar capital, lo que finalmente fracturó al equipo, creó el panorama competitivo actual y derivó en esta demanda.

Esta misma dinámica se está desarrollando a nivel nacional: la propuesta del senador Bernie Sanders de una ley que imponga una moratoria a la construcción de centros de datos cita los temores sobre la IA expresados por Musk, Sam Altman, Geoffrey Hinton y otros. Hoden Omar, que trabaja en el Centro de Innovación de Datos, una organización comercial, objetó que Sanders citara estos temores sin reconocer sus esperanzas, diciendo a TechCrunch que «no está claro por qué el público debería descartar todo lo que dicen los magnates tecnológicos, excepto cuando sus palabras pueden ser reclutadas para llenar las lagunas de un argumento precario».

Ahora, ambas partes del caso están pidiendo al tribunal que haga exactamente eso: tomar en serio partes de los argumentos de Altman y Musk, mientras se descartan las partes menos útiles para sus posiciones legales.