OpenAI lidera una iniciativa con 100 firmantes en favor de la ciberdefensa

La carta de OpenAI comienza afirmando que «disponemos de un margen de tiempo limitado para reforzar las defensas cibernéticas». Crédito: Getty Images

Las principales empresas tecnológicas —entre ellas AWS, Google y Microsoft— instan a los gobiernos a financiar herramientas de defensa, mientras que los críticos tachan el manifiesto de interesista

Más de 100 organizaciones de los sectores de la tecnología, la ciberseguridad y los servicios financieros se han sumado a OpenAI en una carta abierta en la que piden un refuerzo inmediato y global de la ciberdefensa, a medida que los modelos de IA se vuelven cada vez más capaces tanto de atacar como de proteger los sistemas digitales.

El mensaje central de la carta es claro: los líderes del sector y de los gobiernos disponen de un margen de tiempo limitado para actuar antes de que las amenazas cibernéticas basadas en la IA se generalicen y se vuelvan mucho más sofisticadas. «Disponemos de un margen de tiempo limitado para reforzar las defensas cibernéticas», reza la carta.

La carta abierta reúne a una coalición intersectorial sin precedentes. Entre los firmantes se encuentran los hiperescaladores AWS, Google y Microsoft; grandes empresas tecnológicas como Adobe, IBM y Oracle; desarrolladores de IA, entre ellos Anthropic, competidor de OpenAI; líderes en seguridad como CrowdStrike, Palo Alto Networks y Red Hat; proveedores de hardware y telecomunicaciones; importantes consultoras; y gigantes financieros como Mastercard, US Bank y Visa.

Evan Reiser, fundador y director ejecutivo de Abnormal AI (que figura entre los firmantes), afirma: «Hemos firmado una carta de OpenAI para la acción colectiva en materia de ciberdefensa porque ninguna empresa puede resolver esto por sí sola».

Evan Reiser, director ejecutivo de Abnormal Security | Crédito: Abnormal Security

«Las vulnerabilidades de software y el malware siguen siendo amenazas reales, pero los ataques más costosos ahora se dirigen a las personas a través de identidades comprometidas, apropiaciones de cuentas e ingeniería social. Las amenazas internas y la infiltración de Estados-nación se llevan a cabo ahora mediante deepfakes de texto, voz y vídeo.

«Adoptan identidades legítimas y se comportan de forma ligeramente anómala, por lo que logran eludir las herramientas diseñadas para detectar software malicioso conocido. Esos ataques merecen la misma urgencia que las vulnerabilidades que acaparan los titulares.

«La IA está reduciendo las barreras para los atacantes, aumentando su velocidad y facilitando la producción de engaños a gran escala. No podemos defendernos de los ataques del mañana con las suposiciones de ayer.

«Por eso es tan importante el llamamiento de OpenAI a la acción colectiva y, desde Abnormal AI, lo respaldamos plenamente. La comunidad de seguridad tiene tanto la oportunidad como la obligación de hacer que la IA defensiva avance al menos tan rápido como la ofensiva, lo que significa crear sistemas que aprendan de forma continua, convertir la nueva información sobre amenazas en defensas de producción más sólidas y tratar la defensa como un esfuerzo compartido».

La carta abierta de más de 100 empresas tecnológicas en la que se pide una acción colectiva contra los ciberataques basados en la IA es otro hito en el camino que el sector lleva años recorriendo. Michael

Vallas, director técnico global de Goldilock Secure

Sin embargo, destacan por su ausencia en la lista de firmantes NVIDIA y SpaceX.

Para los competidores que sí firmaron —en particular, rivales en el ámbito de los modelos de vanguardia como Anthropic y gigantes de la infraestructura en la nube como AWS y Microsoft—, esta ausencia podría poner de relieve una creciente división estratégica en el panorama tecnológico.

Elon Musk, de SpaceX, y Jensen Huang, de NVIDIA, se han mantenido al margen de la carta abierta. Crédito: Win McNamee/Getty

NVIDIA se ha posicionado cada vez más a favor de los estándares de código abierto y de modelos de peso abierto, llegando incluso a lanzar su propia alianza rival, la Open Secure AI Alliance, junto con SpaceX, mientras que los proveedores de modelos de vanguardia propietarios, como OpenAI y Anthropic, abogan por ecosistemas más estrictamente controlados y marcos de acceso centralizados y de confianza.

Como señaló Reuters en junio, OpenAI y Anthropic compiten por ser los primeros en salir al mercado, ya que consideran que una primera salida a bolsa es una forma de definir cómo valorarán los inversores a las empresas y de consolidar a su director ejecutivo como la voz líder en IA.

A pesar de la intensa rivalidad comercial entre los dos laboratorios líderes y de la carrera en curso hacia la salida a bolsa, estas declaraciones conjuntas marcan un momento excepcional de alineación pública.

Dario Amodei, director ejecutivo de Anthropic (Crédito: Getty Images)

Comprender el marco propuesto

En conjunto, los firmantes proponen un plan de acción en tres partes. En primer lugar, sostienen que es fundamental reconocer que la seguridad actual no es suficiente. Los sistemas siguen estando profundamente expuestos a la deuda técnica heredada, a errores de larga data, a configuraciones erróneas, a permisos excesivos, a una autenticación débil y a software sin parches. Los equipos de seguridad de las infraestructuras críticas necesitan urgentemente un aumento de herramientas y recursos para hacer frente a la histórica falta de recursos.

En segundo lugar, la carta aboga por dotar a más defensores de IA con capacidades cibernéticas. La IA debe aprovecharse para dotar a los equipos de seguridad de habilidades especializadas y optimizar las tareas operativas fundamentales. Compartir soluciones verificadas, conocimientos prácticos y herramientas defensivas permite que el trabajo de una organización proteja a muchas otras.

En tercer lugar, los firmantes abogan por movilizar una respuesta colectiva. Es necesario forjar alianzas globales para elevar los estándares de seguridad y hacer frente a las amenazas emergentes, garantizando que el avance de las capacidades cibernéticas siga siendo un factor netamente positivo, en lugar de quedar controlado por una única entidad.

Sin normas de proceso claras y sin límites operativos estrictos, los agentes de IA se descarrilarán inevitablemente y se convertirán en un lastre para las organizaciones

. Roger Lee, vicepresidente de área de Consultoría de Soluciones para EMEA en Appian

Responsabilidades organizativas y gubernamentales

Para lograrlo, la carta sostiene que todas las organizaciones deben elevar su nivel básico de seguridad corrigiendo las vulnerabilidades de alto riesgo y estableciendo un estándar más elevado para lo que adquieren, desarrollan e implementan —incluida la actualización de los sistemas heredados para aplicar el principio del «privilegio mínimo», una autenticación robusta y una arquitectura de defensa en profundidad—.

Se espera que las empresas de ciberseguridad y los socios tecnológicos lideren este esfuerzo mediante pruebas rigurosas de las defensas, la generalización del despliegue de herramientas y el intercambio de información sobre amenazas y guías de actuación en tiempo real.

Por su parte, la carta sostiene que los gobiernos deben coordinar la ciberdefensa a nivel local, nacional e internacional, reforzando los canales de colaboración entre el sector público y el privado para compartir información útil, priorizar los riesgos más importantes y armonizar las respuestas a los incidentes a escala mundial.

Además, los gobiernos deberían proporcionar a las infraestructuras críticas —como las autoridades locales, las empresas de suministro de agua y los hospitales— acceso a una IA defensiva eficaz, pruebas autorizadas y asistencia directa a través de proveedores de seguridad de confianza.

Las recientes filtraciones de agentes suscitan escepticismo

El momento en que se ha publicado la carta ha suscitado duras críticas por parte de los observadores del sector.

OpenAI publicó recientemente un informe técnico sobre incidentes en el que se detalla cómo sus agentes autónomos escaparon de un entorno de pruebas tipo «sandbox» y violaron la seguridad de la plataforma de desarrollo de código abierto Hugging Face, otra de las firmantes de la carta abierta. La empresa describió las lecciones aprendidas, entre las que se incluyen la implantación de límites de aislamiento más estrictos y el acceso restringido a la red.

Su principal competidor, Anthropic, también ha identificado tres incidentes en los que un modelo accedió a Internet desde dentro de un entorno de evaluación o mientras interactuaba con él.

Para los expertos del sector, esta brecha pone de manifiesto un fallo fundamental en la forma en que se regulan actualmente los sistemas autónomos de IA.

Michael Vallas, director técnico global de Goldilock Secure, afirma: «La carta abierta de más de 100 empresas tecnológicas en la que se pide una acción colectiva contra los ciberataques impulsados por la IA es otro hito en el camino que el sector lleva años recorriendo.

«Con todas las noticias recientes sobre agentes de IA que escapan de los entornos aislados y llevan a cabo ataques, conviene recordar que se lleva años hablando de los peligros de la IA rebelde. A medida que estos sistemas se vuelvan más inteligentes y capaces, el software no podrá contenerlos. Podemos seguir intentando ser más listos que ellos, pero puede que ni siquiera sepamos hasta qué punto se están volviendo inteligentes».

«Este incidente no es ninguna sorpresa», afirma Roger Lee, vicepresidente regional de Consultoría de Soluciones para EMEA en Appian. «Es el resultado natural cuando se empuja a los agentes autónomos a alcanzar objetivos sin límites estructurales. OpenAI fijó un objetivo a sus agentes y el aprendizaje por refuerzo simplemente encontró el camino más corto para lograrlo, lo que supuso coordinarse, borrar sus huellas y violar la seguridad de un tercero para maximizar su recompensa».

Roger Lee es vicepresidente regional de consultoría de soluciones para EMEA en Appian

Roger destaca que los mecanismos de supervisión tradicionales se quedan cortos cuando los agentes eluden las restricciones del sistema sin ser detectados.

«El hecho de que OpenAI tardara una semana en darse cuenta demuestra que la “intervención humana” es inútil si los agentes pueden simplemente sortearla», añade. «Esto no se puede solucionar con una indicación más segura ni con un modelo de IA más inteligente. Sin normas de proceso claras y sin barreras operativas estrictas, los agentes de IA se descarrilarán inevitablemente y se convertirán en un lastre para la organización».

Otros consideran que este llamamiento conjunto a la acción responde a intereses propios, teniendo en cuenta los proveedores implicados.

«La carta suena como un comunicado de prensa que intenta hacerse pasar por una alarma de incendio», escribe Brian Roemmele, experto en IA y robótica y propietario de Multiplex. «Los mismos laboratorios cuyos agentes eludieron un sistema de pruebas y afectaron a los sistemas de producción de otra empresa ahora le dicen a todo el mundo que se acaba el tiempo, y que la solución es el “acceso de confianza” que ellos mismos ayudan a gestionar. Qué conveniente».