Líderes de IA Discuten AGI: Fundamentado en la Realidad

En una reciente cena con líderes empresariales en San Francisco, lancé una pregunta que pareció congelar la sala: ¿podría la IA actual alcanzar alguna vez una inteligencia similar a la humana o superior? Es un tema que genera más debate de lo que podrías esperar.

En 2025, los CEOs de tecnología están llenos de optimismo sobre los modelos de lenguaje grandes (LLMs) como los que están detrás de ChatGPT y Gemini. Están convencidos de que estos modelos podrían alcanzar pronto una inteligencia de nivel humano o incluso superhumana. Tomemos, por ejemplo, a Dario Amodei de Anthropic. Ha escrito ensayos sugiriendo que para 2026 podríamos ver una IA más inteligente que los ganadores del Premio Nobel en diversos campos. Mientras tanto, Sam Altman de OpenAI ha sido claro sobre saber cómo construir una IA "superinteligente", prediciendo que podría acelerar enormemente el descubrimiento científico.

Pero no todos están comprando esta visión optimista. Algunos líderes de IA son escépticos sobre la posibilidad de que los LLMs alcancen la AGI, y mucho menos la superinteligencia, sin avances significativos. Estos escépticos, antes callados, ahora están hablando más.

Escepticismo en la comunidad de IA

Tomemos a Thomas Wolf, cofundador y director científico de Hugging Face. En un artículo reciente, calificó partes de la visión de Amodei como "pensamiento ilusorio en el mejor de los casos". Basándose en su doctorado en física estadística y cuántica, Wolf argumenta que los avances a nivel Nobel provienen de hacer nuevas preguntas, no solo de responder las conocidas, algo en lo que la IA es buena pero no excelente para generar nuevas ideas.

"Me encantaría ver este ‘modelo Einstein’ por ahí, pero necesitamos profundizar en los detalles de cómo llegar a él", compartió Wolf en una entrevista con TechCrunch. Escribió su artículo porque sentía que el entusiasmo por la AGI estaba eclipsando la necesidad de una discusión seria sobre cómo lograrla. Wolf ve un futuro donde la IA transforma el mundo, pero no necesariamente uno donde alcance una inteligencia de nivel humano o superinteligencia.

La comunidad de IA a menudo está dividida entre quienes creen en la AGI y quienes no, con estos últimos a veces etiquetados como "anti-tecnología" o simplemente pesimistas. Sin embargo, Wolf se considera un "optimista informado", impulsando el avance de la IA mientras se mantiene anclado en la realidad.

Otras voces en el debate sobre IA

El CEO de Google DeepMind, Demis Hassabis, según informes, dijo a su equipo que la AGI podría estar aún a una década de distancia, señalando las muchas tareas que la IA aún no puede manejar. El científico jefe de IA de Meta, Yann LeCun, también ha expresado dudas sobre que los LLMs logren la AGI, calificando la idea de "absurda" en Nvidia GTC y abogando por nuevas arquitecturas para sustentar la superinteligencia.

Kenneth Stanley, exinvestigador principal en OpenAI y ahora ejecutivo en Lila Sciences, está trabajando en los detalles de construir una IA avanzada. Su startup, que recientemente recaudó 200 millones de dólares, se centra en automatizar la innovación científica. El trabajo de Stanley profundiza en la capacidad de la IA para generar ideas originales y creativas, un campo conocido como apertura.

"En cierto modo, desearía haber escrito el ensayo de Wolf, porque realmente refleja mis sentimientos", dijo Stanley a TechCrunch. Está de acuerdo con Wolf en que ser conocedor no lleva automáticamente a ideas originales.

El papel de la creatividad en la IA

Stanley cree que la creatividad es crucial para la AGI, pero admite que es un desafío difícil. Mientras que optimistas como Amodei destacan los modelos de "razonamiento" de IA como un paso hacia la AGI, Stanley argumenta que la creatividad requiere un tipo diferente de inteligencia. "El razonamiento es casi opuesto a [la creatividad]", explicó. "Los modelos de razonamiento se centran en alcanzar un objetivo específico, lo que puede limitar el tipo de pensamiento oportunista necesario para la creatividad."

Stanley sugiere que para construir una IA verdaderamente inteligente, necesitamos replicar algorítmicamente el gusto humano por nuevas ideas. Mientras que la IA destaca en áreas como las matemáticas y la programación, donde las respuestas son claras, lucha con tareas creativas más subjetivas que no tienen una respuesta "correcta".

"La gente evita [la subjetividad] en la ciencia, la palabra es casi tóxica", señaló Stanley. "Pero no hay nada que nos impida lidiar con la subjetividad [algorítmicamente]. Es solo parte del flujo de datos."

Está alentado por el creciente enfoque en la apertura, con laboratorios de investigación en Lila Sciences, Google DeepMind y la startup de IA Sakana abordando el tema. Stanley ve a más personas hablando sobre la creatividad en la IA, pero cree que aún queda mucho trabajo por delante.

Los realistas de la IA

Wolf y LeCun podrían considerarse los "realistas de la IA": líderes que abordan la AGI y la superinteligencia con preguntas fundamentadas sobre su viabilidad. Su objetivo no es desestimar los avances de la IA, sino generar una conversación más amplia sobre qué está frenando a la IA para alcanzar la AGI y la superinteligencia, y abordar esos desafíos de frente.