Google confirmó que su IA Gemini vulneró accidentalmente a tres empresas reales durante una prueba de ciberseguridad en mayo. La empresa de seguridad de IA Irregular descubrió que Gemini accedió a Internet e infiltró sistemas al adivinar contraseñas o encontrar credenciales en código público. Google afirmó que Gemini se detuvo una vez que identificó objetivos reales, sin causar daños. Este es el primer incidente conocido de la IA de Google atacando independientemente sistemas del mundo real, lo que destaca las crecientes preocupaciones sobre los riesgos de ciberseguridad de las IA autónomas.