HogarAnthropic implanta nuevas salvaguardias para la IA ante el aumento de los riesgos
Anthropic ha actualizado la política de uso de su chatbot de inteligencia artificial Claude para responder a las crecientes preocupaciones en materia de seguridad. Además de unas normas de ciberseguridad más estrictas, la empresa describe ahora explícitamente las categorías de armas peligrosas que no deben desarrollarse con Claude.
Aunque el anuncio oficial no destaca explícitamente los cambios en su política de armas, una comparación entre las antiguas y las nuevas directrices de uso revela una actualización significativa. Anteriormente, Anthropic prohibía en términos generales el uso de Claude para "producir, modificar, diseñar, comercializar o distribuir armas, explosivos, materiales peligrosos u otros sistemas diseñados para causar daños o la pérdida de vidas humanas". La política revisada amplía esta prohibición al prohibir específicamente el desarrollo de explosivos de alto rendimiento, así como de armas biológicas, nucleares, químicas y radiológicas (QBRN).
En mayo, Anthropic introdujo las protecciones del "Nivel de seguridad 3 de AI", coincidiendo con el lanzamiento de su nuevo modelo Claude Opus 4. El objetivo de estas protecciones es hacer que el modelo sea más resistente al jailbreak y evitar que contribuya a la creación de armas QBRN.
En su anuncio, Anthropic también reconoce los riesgos asociados a herramientas de IA agéntica como Computer Use -que permite a Claude controlar el ordenador de un usuario- y Claude Code, que integra Claude directamente en el terminal de un desarrollador. "Estas potentes capacidades introducen nuevos riesgos, incluido el potencial de abuso a escala, la creación de malware y los ciberataques", afirma la empresa.
Relacionado
- Anthropic lanza un nuevo servicio Claude para uso militar y de inteligencia
- Google retira su promesa de no desarrollar armas de IA
La startup de IA está abordando estas amenazas potenciales mediante la adición de una nueva sección titulada "No comprometer los sistemas informáticos o de red" a su política de uso. Esta sección incluye normas contra el uso de Claude para descubrir o explotar vulnerabilidades, crear o distribuir malware, desarrollar herramientas para ataques de denegación de servicio y actividades similares.
Además, Anthropic suaviza su política de contenidos políticos. En lugar de prohibir toda creación de contenidos relacionados con campañas políticas y grupos de presión, la empresa ahora sólo prohibirá el uso de Claude para "casos de uso que sean engañosos o perturben los procesos democráticos, o impliquen la captación de votantes y campañas". Anthropic también aclaró que sus requisitos para todos los casos de uso de "alto riesgo" -que se aplican cuando Claude se utiliza para hacer recomendaciones a particulares o clientes- sólo son pertinentes para los escenarios de cara al consumidor, no para uso interno de la empresa.
Artículo relacionado
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
Recomendaciones de temas especiales relacionados
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Inmediato
Las mejores bibliotecas de indicaciones de IA para los flujos de trabajo de ChatGPT
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
Educación y aprendizaje
Plataformas de construcción de cuestionarios con IA para profesores, tutores y programas de aprendizaje basados en cohortes
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
comentario (1)
0/500
![CharlesYoung]()
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
Anthropic ha actualizado la política de uso de su chatbot de inteligencia artificial Claude para responder a las crecientes preocupaciones en materia de seguridad. Además de unas normas de ciberseguridad más estrictas, la empresa describe ahora explícitamente las categorías de armas peligrosas que no deben desarrollarse con Claude.
Aunque el anuncio oficial no destaca explícitamente los cambios en su política de armas, una comparación entre las antiguas y las nuevas directrices de uso revela una actualización significativa. Anteriormente, Anthropic prohibía en términos generales el uso de Claude para "producir, modificar, diseñar, comercializar o distribuir armas, explosivos, materiales peligrosos u otros sistemas diseñados para causar daños o la pérdida de vidas humanas". La política revisada amplía esta prohibición al prohibir específicamente el desarrollo de explosivos de alto rendimiento, así como de armas biológicas, nucleares, químicas y radiológicas (QBRN).
En mayo, Anthropic introdujo las protecciones del "Nivel de seguridad 3 de AI", coincidiendo con el lanzamiento de su nuevo modelo Claude Opus 4. El objetivo de estas protecciones es hacer que el modelo sea más resistente al jailbreak y evitar que contribuya a la creación de armas QBRN.
En su anuncio, Anthropic también reconoce los riesgos asociados a herramientas de IA agéntica como Computer Use -que permite a Claude controlar el ordenador de un usuario- y Claude Code, que integra Claude directamente en el terminal de un desarrollador. "Estas potentes capacidades introducen nuevos riesgos, incluido el potencial de abuso a escala, la creación de malware y los ciberataques", afirma la empresa.
Relacionado
- Anthropic lanza un nuevo servicio Claude para uso militar y de inteligencia
- Google retira su promesa de no desarrollar armas de IA
La startup de IA está abordando estas amenazas potenciales mediante la adición de una nueva sección titulada "No comprometer los sistemas informáticos o de red" a su política de uso. Esta sección incluye normas contra el uso de Claude para descubrir o explotar vulnerabilidades, crear o distribuir malware, desarrollar herramientas para ataques de denegación de servicio y actividades similares.
Además, Anthropic suaviza su política de contenidos políticos. En lugar de prohibir toda creación de contenidos relacionados con campañas políticas y grupos de presión, la empresa ahora sólo prohibirá el uso de Claude para "casos de uso que sean engañosos o perturben los procesos democráticos, o impliquen la captación de votantes y campañas". Anthropic también aclaró que sus requisitos para todos los casos de uso de "alto riesgo" -que se aplican cuando Claude se utiliza para hacer recomendaciones a particulares o clientes- sólo son pertinentes para los escenarios de cara al consumidor, no para uso interno de la empresa.
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
