Hogar
Varios países exigen una evaluación de seguridad para los modelos grandes antes de su lanzamiento.

A medida que la IA se expande rápidamente por todo el mundo, la supervisión de los modelos de lenguaje grande pasa de basarse en principios generales a implementar medidas concretas. Los gobiernos del Reino Unido, Estados Unidos y Australia han introducido recientemente nuevas normativas que exigen que los sistemas de IA de vanguardia pasen por pruebas gubernamentales de vulnerabilidades de seguridad y análisis de riesgos antes de su lanzamiento oficial.
El enfoque del Reino Unido se convierte en un modelo para políticas globales
En este cambio regulatorio, el marco de pruebas de ataque simulado y evaluación de riesgos desarrollado por el UK AI Safety Institute (AISI) está emergiendo como referencia para otros países. Recientemente, el gobierno británico anunció una colaboración formal con el Australian AI Safety Institute para monitorear conjuntamente los posibles riesgos que representa la IA avanzada en contextos de ciberataques y defensa, así como para intercambiar conocimientos sobre capacidades esenciales.
Este nuevo modelo marca un distanciamiento de la dependencia anterior de compromisos voluntarios por parte de las empresas, al incorporar directamente al gobierno en el proceso de pruebas. En lo sucesivo, los modelos de IA a gran escala deberán someterse a un procedimiento de cumplimiento similar a una “inspección de seguridad previa al lanzamiento” mientras compiten en el mercado, y las capacidades de prueba de seguridad se están convirtiendo cada vez más en un componente clave de la competitividad de los productos.
Los gigantes tecnológicos estadounidenses se inscriben en evaluaciones de seguridad nacional
Mientras tanto, el AI Standards and Innovation Center (CAISI), adscrito al Departamento de Comercio de Estados Unidos, está impulsando mecanismos similares de evaluación de seguridad nacional. Varias empresas líderes en IA, como Google DeepMind, Microsoft y xAI de Elon Musk, han firmado acuerdos importantes con este centro, comprometiéndose a proporcionar la información necesaria y someterse a evaluaciones exhaustivas de seguridad antes de publicar sus modelos.
Durante este período, Microsoft también confirmó que reforzará aún más su colaboración con los organismos de pruebas de Estados Unidos y el Reino Unido para reducir conjuntamente los riesgos para la seguridad pública que suponen los modelos avanzados a gran escala. Estas asociaciones internacionales rápidas envían una señal clara: la regulación futura de la IA ya no se centrará únicamente en si las empresas han redactado compromisos de seguridad, sino más bien en si dichos compromisos han sido realmente probados.
Artículo relacionado
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

A medida que la IA se expande rápidamente por todo el mundo, la supervisión de los modelos de lenguaje grande pasa de basarse en principios generales a implementar medidas concretas. Los gobiernos del Reino Unido, Estados Unidos y Australia han introducido recientemente nuevas normativas que exigen que los sistemas de IA de vanguardia pasen por pruebas gubernamentales de vulnerabilidades de seguridad y análisis de riesgos antes de su lanzamiento oficial.
El enfoque del Reino Unido se convierte en un modelo para políticas globales
En este cambio regulatorio, el marco de pruebas de ataque simulado y evaluación de riesgos desarrollado por el UK AI Safety Institute (AISI) está emergiendo como referencia para otros países. Recientemente, el gobierno británico anunció una colaboración formal con el Australian AI Safety Institute para monitorear conjuntamente los posibles riesgos que representa la IA avanzada en contextos de ciberataques y defensa, así como para intercambiar conocimientos sobre capacidades esenciales.
Este nuevo modelo marca un distanciamiento de la dependencia anterior de compromisos voluntarios por parte de las empresas, al incorporar directamente al gobierno en el proceso de pruebas. En lo sucesivo, los modelos de IA a gran escala deberán someterse a un procedimiento de cumplimiento similar a una “inspección de seguridad previa al lanzamiento” mientras compiten en el mercado, y las capacidades de prueba de seguridad se están convirtiendo cada vez más en un componente clave de la competitividad de los productos.
Los gigantes tecnológicos estadounidenses se inscriben en evaluaciones de seguridad nacional
Mientras tanto, el AI Standards and Innovation Center (CAISI), adscrito al Departamento de Comercio de Estados Unidos, está impulsando mecanismos similares de evaluación de seguridad nacional. Varias empresas líderes en IA, como Google DeepMind, Microsoft y xAI de Elon Musk, han firmado acuerdos importantes con este centro, comprometiéndose a proporcionar la información necesaria y someterse a evaluaciones exhaustivas de seguridad antes de publicar sus modelos.
Durante este período, Microsoft también confirmó que reforzará aún más su colaboración con los organismos de pruebas de Estados Unidos y el Reino Unido para reducir conjuntamente los riesgos para la seguridad pública que suponen los modelos avanzados a gran escala. Estas asociaciones internacionales rápidas envían una señal clara: la regulación futura de la IA ya no se centrará únicamente en si las empresas han redactado compromisos de seguridad, sino más bien en si dichos compromisos han sido realmente probados.
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t











