Hogar
Anthropic introduce una función para que sus modelos Claude pongan fin a los chats abusivos
Anthropic ha introducido una nueva funcionalidad que permite a determinados modelos avanzados poner fin a las conversaciones en lo que la empresa denomina "casos raros y extremos de interacciones persistentemente dañinas o abusivas por parte del usuario". En particular, Anthropic afirma que esta medida no se aplica para proteger a los usuarios humanos, sino al propio modelo de IA.
Para aclarar, la empresa no está afirmando que sus modelos de IA Claude posean sensibilidad o puedan sufrir daños por las conversaciones de los usuarios. Como explica Anthropic, la empresa sigue teniendo "muchas dudas sobre el posible estatus moral de Claude y otros grandes modelos lingüísticos, tanto en la actualidad como en el futuro".
No obstante, el anuncio hace referencia a un programa recientemente establecido que examina el "bienestar del modelo", indicando que Anthropic está adoptando un enfoque preventivo al "trabajar para identificar e implementar intervenciones de bajo coste para mitigar los riesgos para el bienestar del modelo, en caso de que dicho bienestar llegue a ser relevante".
Esta nueva capacidad está actualmente restringida a los modelos Claude Opus 4 y 4.1, diseñados específicamente para "casos extremos" como "solicitudes de contenido sexual que impliquen a menores o intentos de obtener información que permita la violencia a gran escala o actividades terroristas".
Aunque este tipo de solicitudes podrían generar problemas legales o de relaciones públicas para Anthropic (como se ha visto en informes recientes sobre la posibilidad de que ChatGPT refuerce el pensamiento delirante de los usuarios), la empresa informa de que durante las pruebas previas al despliegue, Claude Opus 4 demostró una "fuerte preferencia en contra" de cumplir con estas solicitudes y mostró "patrones que sugieren angustia" cuando se le obligó a responder.
En cuanto a estas nuevas capacidades de finalización de conversaciones, Anthropic aclara que "Claude tiene instrucciones de emplear esta función sólo como último recurso después de que hayan fallado múltiples intentos de redirección y parezca imposible un diálogo productivo, o cuando los usuarios soliciten explícitamente finalizar un chat".
Anthropic especifica además que Claude ha sido "instruido para no utilizar esta capacidad en situaciones en las que los usuarios podrían enfrentarse a un riesgo inminente de autolesionarse o dañar a otros."
Evento de TechcrunchPesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil... son sólo algunos de los líderes del sector que se unen a la agenda de Disrupt 2025. Compartirán información crucial para acelerar el crecimiento de las startups y mejorar su ventaja competitiva. No se pierda la edición del 20º aniversario de TechCrunch Disrupt: asegure su entrada ahora y ahorre más de 600 $ antes de que suban los precios.
Los pesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital - entre los destacados innovadores que se unen a la agenda de Disrupt 2025. Están aquí para ofrecer valiosas perspectivas que impulsen la expansión de las startups y mejoren su posicionamiento competitivo. Únase a nosotros en la celebración del 20º aniversario de TechCrunch Disrupt - compre su entrada hoy y ahorre hasta 675 $ antes de que cambien las tarifas.
San Francisco | 27-29 de octubre de 2025 REGÍSTRESE AHORACuando Claude pone fin a una conversación, Anthropic señala que los usuarios aún pueden iniciar nuevas conversaciones desde la misma cuenta y crear ramas de conversación alternativas modificando sus respuestas anteriores.
"Estamos enfocando esta función como un experimento en curso y seguiremos perfeccionando nuestra metodología", afirma la empresa.
Artículo relacionado
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
Anthropic lanza Opus 4.8, que incluye una nueva herramienta dinámica para el flujo de trabajo
Anthropic presentó el jueves Opus 4.8, la última versión de su modelo público estrella. Con un precio idéntico al de su predecesor, esta actualización ya está disponible en todas las plataformas.Con s
Anthropic presenta «Claude Fable 5», una versión pública de «Mythos»
Anthropic pone a disposición del público en general, por primera vez, su modelo de IA más potente, aunque con medidas de seguridad establecidas.El martes, la empresa lanzó Claude Fable 5, la primera
Recomendaciones de temas especiales relacionados
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Inmediato
Las mejores bibliotecas de indicaciones de IA para los flujos de trabajo de ChatGPT
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
Educación y aprendizaje
Plataformas de construcción de cuestionarios con IA para profesores, tutores y programas de aprendizaje basados en cohortes
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
comentario (1)
0/500
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Anthropic ha introducido una nueva funcionalidad que permite a determinados modelos avanzados poner fin a las conversaciones en lo que la empresa denomina "casos raros y extremos de interacciones persistentemente dañinas o abusivas por parte del usuario". En particular, Anthropic afirma que esta medida no se aplica para proteger a los usuarios humanos, sino al propio modelo de IA.
Para aclarar, la empresa no está afirmando que sus modelos de IA Claude posean sensibilidad o puedan sufrir daños por las conversaciones de los usuarios. Como explica Anthropic, la empresa sigue teniendo "muchas dudas sobre el posible estatus moral de Claude y otros grandes modelos lingüísticos, tanto en la actualidad como en el futuro".
No obstante, el anuncio hace referencia a un programa recientemente establecido que examina el "bienestar del modelo", indicando que Anthropic está adoptando un enfoque preventivo al "trabajar para identificar e implementar intervenciones de bajo coste para mitigar los riesgos para el bienestar del modelo, en caso de que dicho bienestar llegue a ser relevante".
Esta nueva capacidad está actualmente restringida a los modelos Claude Opus 4 y 4.1, diseñados específicamente para "casos extremos" como "solicitudes de contenido sexual que impliquen a menores o intentos de obtener información que permita la violencia a gran escala o actividades terroristas".
Aunque este tipo de solicitudes podrían generar problemas legales o de relaciones públicas para Anthropic (como se ha visto en informes recientes sobre la posibilidad de que ChatGPT refuerce el pensamiento delirante de los usuarios), la empresa informa de que durante las pruebas previas al despliegue, Claude Opus 4 demostró una "fuerte preferencia en contra" de cumplir con estas solicitudes y mostró "patrones que sugieren angustia" cuando se le obligó a responder.
En cuanto a estas nuevas capacidades de finalización de conversaciones, Anthropic aclara que "Claude tiene instrucciones de emplear esta función sólo como último recurso después de que hayan fallado múltiples intentos de redirección y parezca imposible un diálogo productivo, o cuando los usuarios soliciten explícitamente finalizar un chat".
Anthropic especifica además que Claude ha sido "instruido para no utilizar esta capacidad en situaciones en las que los usuarios podrían enfrentarse a un riesgo inminente de autolesionarse o dañar a otros."
Evento de TechcrunchPesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil... son sólo algunos de los líderes del sector que se unen a la agenda de Disrupt 2025. Compartirán información crucial para acelerar el crecimiento de las startups y mejorar su ventaja competitiva. No se pierda la edición del 20º aniversario de TechCrunch Disrupt: asegure su entrada ahora y ahorre más de 600 $ antes de que suban los precios.
Los pesos pesados de la tecnología y el capital riesgo se unen a la agenda de Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital - entre los destacados innovadores que se unen a la agenda de Disrupt 2025. Están aquí para ofrecer valiosas perspectivas que impulsen la expansión de las startups y mejoren su posicionamiento competitivo. Únase a nosotros en la celebración del 20º aniversario de TechCrunch Disrupt - compre su entrada hoy y ahorre hasta 675 $ antes de que cambien las tarifas.
San Francisco | 27-29 de octubre de 2025 REGÍSTRESE AHORACuando Claude pone fin a una conversación, Anthropic señala que los usuarios aún pueden iniciar nuevas conversaciones desde la misma cuenta y crear ramas de conversación alternativas modificando sus respuestas anteriores.
"Estamos enfocando esta función como un experimento en curso y seguiremos perfeccionando nuestra metodología", afirma la empresa.
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
Anthropic lanza Opus 4.8, que incluye una nueva herramienta dinámica para el flujo de trabajo
Anthropic presentó el jueves Opus 4.8, la última versión de su modelo público estrella. Con un precio idéntico al de su predecesor, esta actualización ya está disponible en todas las plataformas.Con s
Anthropic presenta «Claude Fable 5», una versión pública de «Mythos»
Anthropic pone a disposición del público en general, por primera vez, su modelo de IA más potente, aunque con medidas de seguridad establecidas.El martes, la empresa lanzó Claude Fable 5, la primera
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
