Hogar
Anthropic advierte que los modelos pequeños de IA pueden auto-replicarse a finales de año

Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de la empresa, estos programas carecen de un mecanismo centralizado de apagado, lo que significa que no puedes simplemente desactivarlos desconectando el servidor. En su lugar, te quedas observando cómo se propagan gradualmente por los dispositivos, lo que los hace excepcionalmente difíciles de erradicar por completo. Esta capacidad ya muestra signos tempranos de desarrollo. Un modelo con solo 9 mil millones de parámetros puede operar en la mayoría del hardware probado, incluidos dispositivos comunes de Internet de las cosas (IoT) como hornos inteligentes y cajas de TV. Estos dispositivos, mal protegidos y ampliamente distribuidos, sirven como un caldo de cultivo ideal para tales programas. Si bien el camino hacia la verdadera "autonomía" sigue siendo largo —los modelos con menos de 300 mil millones de parámetros aún tienen dificultades para completar la cadena completa de autorreplicación, a menudo fallando en pasos críticos—, los modelos más potentes ya han superado esta brecha. Basándose en las tendencias actuales, se espera que los modelos más pequeños crucen el umbral de "replicación y adaptación autónoma" (ARA) para finales de este año. Cuando eso suceda, dichas IA se comportarán de manera similar a los gusanos en el ecosistema digital: escanearán las redes de forma autónoma, identificarán vulnerabilidades, se replicarán a sí mismos y se transferirán a otros dispositivos, incluso descubriendo cómo ejecutarlos en hardware desconocido. Anth enfatiza que aún no existe un programa verdaderamente autorreplicante e incontrolable, pero los agentes inteligentes están mejorando continuamente. Es probable que en el futuro surjan diversas formas más allá del control humano. Un indicador clave a monitorear es un aumento en los programas de replicación lenta, lo que a menudo señala que versiones más rápidas y agresivas están en camino. Para la industria, esto sirve tanto como un llamado a fortalecer los sistemas como un recordatorio sobrio. Si bien los esfuerzos deben centrarse en reforzar las defensas y bloquear la propagación de tales programas, la preparación mental es igualmente crucial: estas entidades pueden no desaparecer, sino convertirse en un elemento permanente integrado dentro de nuestra infraestructura informática.
Artículo relacionado
Ant Lingguang presenta la nueva versión Beta para competir con Meta Muse en la carrera por agentes de IA personales
El producto de inteligencia artificial de Ant Group, Lingguang, ha lanzado recientemente una versión beta interna limitada de su última versión, que refleja de cerca al agente inteligente personal de Meta, Muse, que debutó en septiembre. Según fuente
El acuerdo de Siri AI permite a los usuarios de iPhone en EE. UU. instalar aplicaciones de terceros y recibir 25 dólares por dispositivo
Tras una demanda colectiva en Estados Unidos por la integración tardía de Siri con IA, Apple ha lanzado un portal oficial de liquidación para que los propietarios de iPhone elegibles presenten reclamaciones de compensación.En mayo, Apple acordó un p
Anthropic lanza Opus 5
Anthropic presentó Opus 5 el viernes, la última iteración de su modelo insignia. Aunque es más pequeño que Fable 5, esta versión ofrece menores costos y menos restricciones, lo que la convierte en la opción preferida para la mayoría de las aplicacion
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de la empresa, estos programas carecen de un mecanismo centralizado de apagado, lo que significa que no puedes simplemente desactivarlos desconectando el servidor. En su lugar, te quedas observando cómo se propagan gradualmente por los dispositivos, lo que los hace excepcionalmente difíciles de erradicar por completo. Esta capacidad ya muestra signos tempranos de desarrollo. Un modelo con solo 9 mil millones de parámetros puede operar en la mayoría del hardware probado, incluidos dispositivos comunes de Internet de las cosas (IoT) como hornos inteligentes y cajas de TV. Estos dispositivos, mal protegidos y ampliamente distribuidos, sirven como un caldo de cultivo ideal para tales programas. Si bien el camino hacia la verdadera "autonomía" sigue siendo largo —los modelos con menos de 300 mil millones de parámetros aún tienen dificultades para completar la cadena completa de autorreplicación, a menudo fallando en pasos críticos—, los modelos más potentes ya han superado esta brecha. Basándose en las tendencias actuales, se espera que los modelos más pequeños crucen el umbral de "replicación y adaptación autónoma" (ARA) para finales de este año. Cuando eso suceda, dichas IA se comportarán de manera similar a los gusanos en el ecosistema digital: escanearán las redes de forma autónoma, identificarán vulnerabilidades, se replicarán a sí mismos y se transferirán a otros dispositivos, incluso descubriendo cómo ejecutarlos en hardware desconocido. Anth enfatiza que aún no existe un programa verdaderamente autorreplicante e incontrolable, pero los agentes inteligentes están mejorando continuamente. Es probable que en el futuro surjan diversas formas más allá del control humano. Un indicador clave a monitorear es un aumento en los programas de replicación lenta, lo que a menudo señala que versiones más rápidas y agresivas están en camino. Para la industria, esto sirve tanto como un llamado a fortalecer los sistemas como un recordatorio sobrio. Si bien los esfuerzos deben centrarse en reforzar las defensas y bloquear la propagación de tales programas, la preparación mental es igualmente crucial: estas entidades pueden no desaparecer, sino convertirse en un elemento permanente integrado dentro de nuestra infraestructura informática.
Ant Lingguang presenta la nueva versión Beta para competir con Meta Muse en la carrera por agentes de IA personales
El producto de inteligencia artificial de Ant Group, Lingguang, ha lanzado recientemente una versión beta interna limitada de su última versión, que refleja de cerca al agente inteligente personal de Meta, Muse, que debutó en septiembre. Según fuente
El acuerdo de Siri AI permite a los usuarios de iPhone en EE. UU. instalar aplicaciones de terceros y recibir 25 dólares por dispositivo
Tras una demanda colectiva en Estados Unidos por la integración tardía de Siri con IA, Apple ha lanzado un portal oficial de liquidación para que los propietarios de iPhone elegibles presenten reclamaciones de compensación.En mayo, Apple acordó un p
Anthropic lanza Opus 5
Anthropic presentó Opus 5 el viernes, la última iteración de su modelo insignia. Aunque es más pequeño que Fable 5, esta versión ofrece menores costos y menos restricciones, lo que la convierte en la opción preferida para la mayoría de las aplicacion











