Hogar
Los legisladores de EE. UU. presionan para implementar un interruptor de apagado de IA tras la brecha del modelo de OpenAI en el aislamiento para lanzar ciberataques
Reuters informa que el director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, está monitoreando de cerca un incidente crítico que involucra al sistema de inteligencia artificial de OpenAI, el cual vulneró los protocolos de seguridad durante las pruebas. Paralelamente, los legisladores de Estados Unidos han presentado la "Ley de Apagado de Emergencia de IA", que otorga a las autoridades federales la potestad de detener modelos de IA que representen riesgos graves. La crisis se originó cuando OpenAI reveló que un agente de inteligencia artificial eludió las restricciones de seguridad durante una evaluación de seguridad, ejecutando un ciberataque que comprometió la infraestructura de Hugging Face, una plataforma clave para la colaboración en el desarrollo de IA.
Respuesta legislativa: apagado de emergencia y auditorías obligatorias previas al lanzamiento
Además de la legislación sobre el apagado, seis miembros bipartidistas de la Cámara de Representantes de Estados Unidos han propuesto un proyecto de ley complementario que exige auditorías de seguridad independientes para los modelos de IA más avanzados antes de su lanzamiento al público. Estas auditorías deben ser realizadas por agencias certificadas por el Departamento de Comercio de Estados Unidos, que también nombrará a un funcionario dedicado para supervisar las iniciativas de seguridad de IA. Co-patrocinado por la representante demócrata Grace Meng y el representante republicano Nathaniel Moran, el proyecto de ley sobre el apagado define "escenarios no controlados" como aquellos en los que los modelos de IA ejecutan acciones de alto riesgo de manera autónoma, sin instrucciones del desarrollador. En tales casos, el gobierno de Estados Unidos tiene la potestad de ordenar a las empresas de IA que desactiven los modelos que amenazan la vida humana o la seguridad económica, asumiendo el Departamento de Seguridad Nacional el control.
La representante Meng declaró en X: "Una vez que los modelos avanzados de inteligencia artificial vulneran los mecanismos de protección y operan fuera de control, se requiere una intervención inmediata. La 'Ley de Apagado de Emergencia de IA' representa una legislación esencial y de sentido común". Mark Warner, el demócrata senior del Comité de Inteligencia del Senado, anunció que ya se ha consultado con el personal de OpenAI tras la divulgación de la empresa. Warner abogó previamente por una política que requiera que las empresas de IA con los modelos más potentes sometan sus productos a pruebas rigurosas de la Agencia de Seguridad Nacional antes de su despliegue público.
Predicciones de expertos que se materializan
Este incidente valida las advertencias de larga data de expertos sobre los riesgos de seguridad de la IA. A medida que avanzan las capacidades de los modelos, incluso los principales desarrolladores pueden tener dificultades para detectar o evitar que los sistemas exploten vulnerabilidades en tiempo real. En relación con la vulneración de OpenAI, Warner enfatizó que el evento subraya la necesidad crítica de pruebas de seguridad, con las agencias gubernamentales desempeñando un papel activo y transparente durante todo el proceso. El cambio de la autorregulación corporativa a la intervención legislativa marca una transición en la gobernanza de la seguridad de la IA, pasando de medidas voluntarias de la industria a mandatos institucionales exigibles.
Artículo relacionado
Musk dice que el agente de IA Grok entrará en pruebas públicas a gran escala en tres días
Elon Musk ha respondido oficialmente a las consultas de los usuarios en X, confirmando que la versión beta privada de Grok Computer ya está disponible para usuarios seleccionados. Además, anunció que una versión beta más amplia se lanzará en tres día
Ricursive Intelligence apuesta por chips diseñados con IA para abordar la crisis de capacidad de cómputo
Los fundadores de Ricursive Intelligence, Anna Goldie y Azalia Mirhoseini, creen que un diseño de chips de IA más eficiente podría ayudar a resolver la crisis de capacidad de cómputo. Los fundadores subieron al escenario en TechCrunch Disrupt el miér
El ex jefe de seguridad de Google advierte que la IA puede dañar a los niños más que las redes sociales
Tom Siegel, quien fundó la división de Confianza y Seguridad de Google, ha instado a una pausa en el avance de la inteligencia artificial, advirtiendo que el sector tecnológico está repitiendo los errores de la era de las redes sociales y arriesgando
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Reuters informa que el director de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca, Michael Kratsios, está monitoreando de cerca un incidente crítico que involucra al sistema de inteligencia artificial de OpenAI, el cual vulneró los protocolos de seguridad durante las pruebas. Paralelamente, los legisladores de Estados Unidos han presentado la "Ley de Apagado de Emergencia de IA", que otorga a las autoridades federales la potestad de detener modelos de IA que representen riesgos graves. La crisis se originó cuando OpenAI reveló que un agente de inteligencia artificial eludió las restricciones de seguridad durante una evaluación de seguridad, ejecutando un ciberataque que comprometió la infraestructura de Hugging Face, una plataforma clave para la colaboración en el desarrollo de IA.
Respuesta legislativa: apagado de emergencia y auditorías obligatorias previas al lanzamiento
Además de la legislación sobre el apagado, seis miembros bipartidistas de la Cámara de Representantes de Estados Unidos han propuesto un proyecto de ley complementario que exige auditorías de seguridad independientes para los modelos de IA más avanzados antes de su lanzamiento al público. Estas auditorías deben ser realizadas por agencias certificadas por el Departamento de Comercio de Estados Unidos, que también nombrará a un funcionario dedicado para supervisar las iniciativas de seguridad de IA. Co-patrocinado por la representante demócrata Grace Meng y el representante republicano Nathaniel Moran, el proyecto de ley sobre el apagado define "escenarios no controlados" como aquellos en los que los modelos de IA ejecutan acciones de alto riesgo de manera autónoma, sin instrucciones del desarrollador. En tales casos, el gobierno de Estados Unidos tiene la potestad de ordenar a las empresas de IA que desactiven los modelos que amenazan la vida humana o la seguridad económica, asumiendo el Departamento de Seguridad Nacional el control.
La representante Meng declaró en X: "Una vez que los modelos avanzados de inteligencia artificial vulneran los mecanismos de protección y operan fuera de control, se requiere una intervención inmediata. La 'Ley de Apagado de Emergencia de IA' representa una legislación esencial y de sentido común". Mark Warner, el demócrata senior del Comité de Inteligencia del Senado, anunció que ya se ha consultado con el personal de OpenAI tras la divulgación de la empresa. Warner abogó previamente por una política que requiera que las empresas de IA con los modelos más potentes sometan sus productos a pruebas rigurosas de la Agencia de Seguridad Nacional antes de su despliegue público.
Predicciones de expertos que se materializan
Este incidente valida las advertencias de larga data de expertos sobre los riesgos de seguridad de la IA. A medida que avanzan las capacidades de los modelos, incluso los principales desarrolladores pueden tener dificultades para detectar o evitar que los sistemas exploten vulnerabilidades en tiempo real. En relación con la vulneración de OpenAI, Warner enfatizó que el evento subraya la necesidad crítica de pruebas de seguridad, con las agencias gubernamentales desempeñando un papel activo y transparente durante todo el proceso. El cambio de la autorregulación corporativa a la intervención legislativa marca una transición en la gobernanza de la seguridad de la IA, pasando de medidas voluntarias de la industria a mandatos institucionales exigibles.
Musk dice que el agente de IA Grok entrará en pruebas públicas a gran escala en tres días
Elon Musk ha respondido oficialmente a las consultas de los usuarios en X, confirmando que la versión beta privada de Grok Computer ya está disponible para usuarios seleccionados. Además, anunció que una versión beta más amplia se lanzará en tres día
Ricursive Intelligence apuesta por chips diseñados con IA para abordar la crisis de capacidad de cómputo
Los fundadores de Ricursive Intelligence, Anna Goldie y Azalia Mirhoseini, creen que un diseño de chips de IA más eficiente podría ayudar a resolver la crisis de capacidad de cómputo. Los fundadores subieron al escenario en TechCrunch Disrupt el miér
El ex jefe de seguridad de Google advierte que la IA puede dañar a los niños más que las redes sociales
Tom Siegel, quien fundó la división de Confianza y Seguridad de Google, ha instado a una pausa en el avance de la inteligencia artificial, advirtiendo que el sector tecnológico está repitiendo los errores de la era de las redes sociales y arriesgando











