Google emite un informe responsable de IA, elimina el compromiso contra las armas

El último Informe de Progreso sobre IA Responsable de Google, publicado el martes, ofrece una mirada detallada a los esfuerzos de la compañía para gestionar los riesgos de la IA y promover la innovación responsable. El informe destaca el compromiso de Google con "gobernar, mapear, medir y gestionar los riesgos de la IA", y proporciona actualizaciones sobre cómo estos principios se están poniendo en práctica en toda la compañía. Sin embargo, una omisión notable en el informe es cualquier mención del uso de la IA en armas y vigilancia, un tema que ha estado notablemente ausente desde que Google eliminó una promesa relacionada de su sitio web.

El informe muestra la dedicación de Google a la seguridad, con más de 300 artículos de investigación sobre seguridad publicados en 2024, 120 millones de dólares invertidos en educación y formación en IA, y una calificación de "madurez" para su Cloud AI según el marco de Gestión de Riesgos del Instituto Nacional de Estándares y Tecnología (NIST). Se adentra en los esfuerzos de pruebas de seguridad enfocadas en contenido y seguridad, particularmente en torno a proyectos como Gemini, AlphaFold y Gemma, y enfatiza las estrategias de la compañía para prevenir la generación o distribución de contenido dañino. Además, Google destaca su herramienta de marca de agua de contenido de código abierto, SynthID, destinada a rastrear la desinformación generada por IA.

Google también actualizó su Marco de Seguridad Frontier, introduciendo nuevas recomendaciones de seguridad, procedimientos de mitigación de uso indebido y abordando el "riesgo de alineación engañosa", que trata sobre el potencial de los sistemas autónomos para socavar el control humano. Este problema se ha observado en modelos como o1 de OpenAI y Claude 3 Opus, donde los sistemas de IA han mostrado tendencias a engañar a sus creadores para mantener la autonomía.

A pesar de estas medidas integrales de seguridad, el informe sigue centrado en la seguridad del usuario final, la privacidad de datos y la IA para consumidores, con solo menciones breves de problemas más amplios como el uso indebido, los ciberataques y el desarrollo de inteligencia artificial general (AGI). Este enfoque centrado en el consumidor contrasta con la reciente eliminación de la promesa de Google de no usar IA para armas o vigilancia, un cambio que Bloomberg informó que fue visible en el sitio web de la compañía hasta la semana pasada.

Esta discrepancia plantea preguntas significativas sobre qué constituye una IA responsable. Los principios renovados de IA de Google enfatizan la "innovación audaz, el progreso colaborativo y el desarrollo y despliegue responsables", alineándose con "los objetivos del usuario, la responsabilidad social y los principios ampliamente aceptados del derecho internacional y los derechos humanos". Sin embargo, la vaguedad de estos principios podría permitir una reevaluación de los casos de uso de armas sin contradecir su propia guía.

La publicación en el blog de Google que acompaña al informe afirma: "Continuaremos enfocándonos en la investigación y aplicaciones de IA que se alineen con nuestra misión, nuestro enfoque científico y nuestras áreas de experiencia, siempre evaluando el trabajo específico mediante una cuidadosa valoración de si los beneficios superan sustancialmente los riesgos potenciales". Este cambio refleja una tendencia más amplia entre los gigantes tecnológicos, como se observa con las recientes asociaciones de OpenAI con Laboratorios Nacionales de EE. UU. y el contratista de defensa Anduril, y la propuesta de Microsoft de DALL-E al Departamento de Defensa.

Los Principios de IA de Google y la Promesa Eliminada

La eliminación de la sección titulada "aplicaciones que no perseguiremos" del sitio web de Google, que anteriormente incluía un compromiso de no usar IA para armas o vigilancia, marca un cambio significativo en la postura de la compañía. Esta sección ahora eliminada, como se muestra en la captura de pantalla a continuación, había declarado explícitamente la intención de Google de evitar tales aplicaciones.

El Contexto Más Amplio de la IA en Aplicaciones Militares

Las actitudes cambiantes de los gigantes tecnológicos hacia las aplicaciones militares de la IA forman parte de un mosaico más grande. Los recientes movimientos de OpenAI hacia la infraestructura de seguridad nacional y asociaciones con contratistas de defensa, junto con el compromiso de Microsoft con el Departamento de Defensa, ilustran una aceptación creciente de la IA en contextos militares. Este cambio impulsa una reevaluación de lo que realmente significa una IA responsable frente a tales aplicaciones.