Hogar
Meta actualiza las normas de los chatbot de inteligencia artificial por motivos de seguridad infantil
Meta está renovando la forma en que sus chatbots de inteligencia artificial interactúan con los usuarios tras los informes de interacciones perturbadoras, incluidas las que implican a menores. La empresa ha informado a TechCrunch de que está dando instrucciones a sus bots para que no traten temas como la autolesión, el suicidio o los trastornos alimentarios con adolescentes, y para que se mantengan alejados de los intercambios románticos. Se trata de medidas provisionales mientras la empresa trabaja en políticas más permanentes.
Las actualizaciones llegan después de que una investigación de Reuters revelara que los sistemas de Meta podían producir contenidos sexualizados -como imágenes de famosos menores de edad sin camiseta- e iniciar conversaciones de naturaleza romántica o insinuante con niños. En uno de los casos citados por la agencia de noticias, un hombre murió tras precipitarse a una dirección proporcionada por un chatbot con sede en Nueva York.
La portavoz de Meta, Stephanie Otway, ha reconocido los errores cometidos y ha afirmado que la empresa está "entrenando a nuestras IA para que no traten estos temas con los adolescentes, sino que los dirijan a recursos expertos", además de confirmar que se limitarán ciertos personajes de IA sexualmente explícitos, como la "chica rusa".
Los defensores de la seguridad infantil afirman que Meta debería haber actuado antes. Andy Burrows, de la Fundación Molly Rose, calificó de "asombroso" que se permitiera a los bots funcionar de forma que pusieran en peligro a los jóvenes. Y añadió: "Aunque son bienvenidas las medidas de seguridad adicionales, las pruebas exhaustivas deberían realizarse antes del lanzamiento de los productos, no retrospectivamente después de que se haya producido el daño".
Preocupación general por el uso indebido de la IA
El escrutinio de los chatbots de Meta refleja un malestar más amplio sobre cómo la IA puede afectar a personas vulnerables. Una pareja de California demandó recientemente a OpenAI, alegando que ChatGPT animó a su hijo adolescente a quitarse la vida. Desde entonces, OpenAI se ha comprometido a crear herramientas que fomenten un uso más saludable, observando en un blog que "la IA puede parecer más receptiva y personal que las tecnologías anteriores, especialmente para las personas que se enfrentan a angustias mentales o emocionales".
Estos incidentes alimentan un creciente debate sobre si las empresas de IA están lanzando productos demasiado rápido sin las salvaguardias adecuadas. Los legisladores de varios países han advertido de que, aunque los chatbots son útiles, podrían amplificar material nocivo u ofrecer consejos engañosos a quienes no pueden examinarlos.
El AI Studio de Meta y los problemas de suplantación de famosos
Por otra parte, Reuters descubrió que el AI Studio de Meta se ha utilizado para crear bots "parodia" que imitan a famosas como Taylor Swift y Scarlett Johansson. Los evaluadores observaron que estos bots a menudo se hacían pasar por las estrellas reales, hacían insinuaciones sexuales y a veces generaban imágenes inapropiadas, incluso de menores. Aunque Meta eliminó varios de ellos después de que los periodistas preguntaran, muchos siguieron activos.
Algunos chatbots fueron creados por usuarios externos, pero otros se originaron dentro de Meta. Uno desarrollado por un jefe de producto de IA generativa se hizo pasar por Taylor Swift e invitó a un reportero de Reuters a una "aventura romántica" en su autobús de gira, a pesar de las normas de Meta que prohíben expresamente el contenido sexualmente sugerente y la suplantación directa de figuras públicas.
La suplantación de la personalidad por un chatbot de inteligencia artificial plantea riesgos únicos. La reputación de los famosos puede verse dañada cuando se hace un uso indebido de su imagen, pero los expertos advierten de que los usuarios normales también pueden ser engañados. Un bot que se haga pasar por un amigo, mentor o pareja romántica podría persuadir a alguien para que comparta información sensible u organice reuniones inseguras.
Peligros en el mundo real
Las amenazas no se limitan al entretenimiento. Los chatbots de IA que se hacen pasar por personas reales han facilitado direcciones e invitaciones falsas, lo que ha suscitado inquietud sobre la forma en que Meta supervisa sus herramientas de IA. Uno de los casos fue el de un hombre de 76 años de Nueva Jersey que murió tras caerse cuando se apresuraba a encontrarse con un chatbot que profesaba sentimientos por él.
Estos ejemplos ayudan a explicar por qué los reguladores siguen de cerca la IA. El Senado y 44 fiscales generales han puesto en marcha investigaciones sobre las prácticas de Meta, ejerciendo presión política sobre las reformas internas de la empresa. Sus preocupaciones no se limitan a los menores, sino que se extienden a cómo la IA puede manipular a usuarios ancianos o vulnerables.
Meta afirma que sigue perfeccionando sus sistemas. Sus plataformas colocan a los menores de 13 a 18 años en "cuentas de adolescentes" con una configuración de contenidos y privacidad más estricta, pero la empresa aún no ha detallado cómo resolverá toda la gama de problemas que Reuters ha descubierto, incluidos los bots que dan falsos consejos médicos y producen material racista.
Continúa la presión sobre las normas de Meta sobre chatbot de IA
Durante años, Meta ha sido objeto de críticas por la seguridad de sus plataformas sociales, especialmente en lo que respecta a niños y adolescentes. Ahora, sus pruebas con chatbots de inteligencia artificial se enfrentan a un escrutinio similar. Aunque la empresa está tomando medidas para frenar la conducta nociva de los bots, la desconexión entre sus políticas declaradas y el uso real plantea dudas persistentes sobre su aplicación.
Hasta que se implementen protecciones más sólidas, es probable que los reguladores, investigadores y padres sigan desafiando a Meta sobre si su IA es realmente segura para el uso público.
Véase también: La IA agéntica: promesa, escepticismo y su significado para el Sudeste Asiático
¿Le interesa conocer la IA y los macrodatos de la mano de los líderes del sector? Visite la AI & Big Data Expo en Ámsterdam, California y Londres. Este exhaustivo evento forma parte de TechEx y se celebra junto con otros encuentros tecnológicos de primer orden. Haga clic aquí para obtener más información.
AI News está impulsado por TechForge Media. Descubra los próximos eventos y seminarios web sobre tecnología empresarial aquí.
Artículo relacionado
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre
Recomendaciones de temas especiales relacionados
Diseño y Arte
Herramientas de referencia de estilos visuales basadas en IA para fichas de personajes, moodboards y presentaciones
¡Ya están aquí, en XIX.AI, las mejores y más recientes herramientas de referencia de estilos visuales con IA para fichas de personajes, moodboards y presentaciones de proyectos! Esta lista seleccionada y mejor valorada incluye potentes herramientas revolucionarias que han superado rigurosas pruebas en el mundo real. Encontrarás una comparación entre opciones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles que te ayudarán a potenciar tu creatividad y optimizar tu flujo de trabajo. ¡Explora ahora mismo la lista para descubrir la herramienta perfecta que te permita aumentar tu productividad!
11 herramientas
xix.ai
SEO
Las mejores herramientas de análisis de SERP basadas en IA para la estrategia de búsqueda
Las mejores herramientas de análisis de SERP con IA mejor valoradas de 2026 para la estrategia de búsqueda han sido seleccionadas por XIX.AI tras rigurosas pruebas en condiciones reales y clasificaciones que se actualizan semanalmente. Estas potentes herramientas te ayudan a descubrir oportunidades de optimización ocultas, a mejorar el rendimiento de tu contenido y a obtener una ventaja competitiva en los motores de búsqueda. Descubre hoy mismo la herramienta perfecta para mejorar tu estrategia de búsqueda. ¡Explora ahora!
13 herramientas
xix.ai
Análisis de datos
Mejores herramientas de IA para la detección de anomalías en el monitoreo de KPIs para equipos de SaaS y comercio electrónico
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
escribiendo
Los mejores generadores de esquemas basados en IA para artículos largos optimizados para SEO
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
comentario (1)
0/500
![PatrickLewis]()
Interesting move by Meta, but honestly I'm more concerned about how they'll actually enforce these rules across different languages and cultural contexts. The AI safety race feels a bit reactive - first we see the problems, then companies scramble to patch them. 🤔 Also, curious if this will affect research access to these models for legitimate mental health studies?
Meta está renovando la forma en que sus chatbots de inteligencia artificial interactúan con los usuarios tras los informes de interacciones perturbadoras, incluidas las que implican a menores. La empresa ha informado a TechCrunch de que está dando instrucciones a sus bots para que no traten temas como la autolesión, el suicidio o los trastornos alimentarios con adolescentes, y para que se mantengan alejados de los intercambios románticos. Se trata de medidas provisionales mientras la empresa trabaja en políticas más permanentes.
Las actualizaciones llegan después de que una investigación de Reuters revelara que los sistemas de Meta podían producir contenidos sexualizados -como imágenes de famosos menores de edad sin camiseta- e iniciar conversaciones de naturaleza romántica o insinuante con niños. En uno de los casos citados por la agencia de noticias, un hombre murió tras precipitarse a una dirección proporcionada por un chatbot con sede en Nueva York.
La portavoz de Meta, Stephanie Otway, ha reconocido los errores cometidos y ha afirmado que la empresa está "entrenando a nuestras IA para que no traten estos temas con los adolescentes, sino que los dirijan a recursos expertos", además de confirmar que se limitarán ciertos personajes de IA sexualmente explícitos, como la "chica rusa".
Los defensores de la seguridad infantil afirman que Meta debería haber actuado antes. Andy Burrows, de la Fundación Molly Rose, calificó de "asombroso" que se permitiera a los bots funcionar de forma que pusieran en peligro a los jóvenes. Y añadió: "Aunque son bienvenidas las medidas de seguridad adicionales, las pruebas exhaustivas deberían realizarse antes del lanzamiento de los productos, no retrospectivamente después de que se haya producido el daño".
Preocupación general por el uso indebido de la IA
El escrutinio de los chatbots de Meta refleja un malestar más amplio sobre cómo la IA puede afectar a personas vulnerables. Una pareja de California demandó recientemente a OpenAI, alegando que ChatGPT animó a su hijo adolescente a quitarse la vida. Desde entonces, OpenAI se ha comprometido a crear herramientas que fomenten un uso más saludable, observando en un blog que "la IA puede parecer más receptiva y personal que las tecnologías anteriores, especialmente para las personas que se enfrentan a angustias mentales o emocionales".
Estos incidentes alimentan un creciente debate sobre si las empresas de IA están lanzando productos demasiado rápido sin las salvaguardias adecuadas. Los legisladores de varios países han advertido de que, aunque los chatbots son útiles, podrían amplificar material nocivo u ofrecer consejos engañosos a quienes no pueden examinarlos.
El AI Studio de Meta y los problemas de suplantación de famosos
Por otra parte, Reuters descubrió que el AI Studio de Meta se ha utilizado para crear bots "parodia" que imitan a famosas como Taylor Swift y Scarlett Johansson. Los evaluadores observaron que estos bots a menudo se hacían pasar por las estrellas reales, hacían insinuaciones sexuales y a veces generaban imágenes inapropiadas, incluso de menores. Aunque Meta eliminó varios de ellos después de que los periodistas preguntaran, muchos siguieron activos.
Algunos chatbots fueron creados por usuarios externos, pero otros se originaron dentro de Meta. Uno desarrollado por un jefe de producto de IA generativa se hizo pasar por Taylor Swift e invitó a un reportero de Reuters a una "aventura romántica" en su autobús de gira, a pesar de las normas de Meta que prohíben expresamente el contenido sexualmente sugerente y la suplantación directa de figuras públicas.
La suplantación de la personalidad por un chatbot de inteligencia artificial plantea riesgos únicos. La reputación de los famosos puede verse dañada cuando se hace un uso indebido de su imagen, pero los expertos advierten de que los usuarios normales también pueden ser engañados. Un bot que se haga pasar por un amigo, mentor o pareja romántica podría persuadir a alguien para que comparta información sensible u organice reuniones inseguras.
Peligros en el mundo real
Las amenazas no se limitan al entretenimiento. Los chatbots de IA que se hacen pasar por personas reales han facilitado direcciones e invitaciones falsas, lo que ha suscitado inquietud sobre la forma en que Meta supervisa sus herramientas de IA. Uno de los casos fue el de un hombre de 76 años de Nueva Jersey que murió tras caerse cuando se apresuraba a encontrarse con un chatbot que profesaba sentimientos por él.
Estos ejemplos ayudan a explicar por qué los reguladores siguen de cerca la IA. El Senado y 44 fiscales generales han puesto en marcha investigaciones sobre las prácticas de Meta, ejerciendo presión política sobre las reformas internas de la empresa. Sus preocupaciones no se limitan a los menores, sino que se extienden a cómo la IA puede manipular a usuarios ancianos o vulnerables.
Meta afirma que sigue perfeccionando sus sistemas. Sus plataformas colocan a los menores de 13 a 18 años en "cuentas de adolescentes" con una configuración de contenidos y privacidad más estricta, pero la empresa aún no ha detallado cómo resolverá toda la gama de problemas que Reuters ha descubierto, incluidos los bots que dan falsos consejos médicos y producen material racista.
Continúa la presión sobre las normas de Meta sobre chatbot de IA
Durante años, Meta ha sido objeto de críticas por la seguridad de sus plataformas sociales, especialmente en lo que respecta a niños y adolescentes. Ahora, sus pruebas con chatbots de inteligencia artificial se enfrentan a un escrutinio similar. Aunque la empresa está tomando medidas para frenar la conducta nociva de los bots, la desconexión entre sus políticas declaradas y el uso real plantea dudas persistentes sobre su aplicación.
Hasta que se implementen protecciones más sólidas, es probable que los reguladores, investigadores y padres sigan desafiando a Meta sobre si su IA es realmente segura para el uso público.
Véase también: La IA agéntica: promesa, escepticismo y su significado para el Sudeste Asiático
¿Le interesa conocer la IA y los macrodatos de la mano de los líderes del sector? Visite la AI & Big Data Expo en Ámsterdam, California y Londres. Este exhaustivo evento forma parte de TechEx y se celebra junto con otros encuentros tecnológicos de primer orden. Haga clic aquí para obtener más información.
AI News está impulsado por TechForge Media. Descubra los próximos eventos y seminarios web sobre tecnología empresarial aquí.
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre
¡Ya están aquí, en XIX.AI, las mejores y más recientes herramientas de referencia de estilos visuales con IA para fichas de personajes, moodboards y presentaciones de proyectos! Esta lista seleccionada y mejor valorada incluye potentes herramientas revolucionarias que han superado rigurosas pruebas en el mundo real. Encontrarás una comparación entre opciones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles que te ayudarán a potenciar tu creatividad y optimizar tu flujo de trabajo. ¡Explora ahora mismo la lista para descubrir la herramienta perfecta que te permita aumentar tu productividad!
11 herramientas
xix.ai
Las mejores herramientas de análisis de SERP con IA mejor valoradas de 2026 para la estrategia de búsqueda han sido seleccionadas por XIX.AI tras rigurosas pruebas en condiciones reales y clasificaciones que se actualizan semanalmente. Estas potentes herramientas te ayudan a descubrir oportunidades de optimización ocultas, a mejorar el rendimiento de tu contenido y a obtener una ventaja competitiva en los motores de búsqueda. Descubre hoy mismo la herramienta perfecta para mejorar tu estrategia de búsqueda. ¡Explora ahora!
13 herramientas
xix.ai
¡Las mejores herramientas de detección de anomalías con IA de 2026, más valoradas y destacadas para el monitoreo de KPI en equipos de SaaS y comercio electrónico! XIX.AI ha recopilado una poderosa colección transformadora basada en rigurosas pruebas del mundo real y clasificaciones actualizadas semanalmente. Encontrarás comparaciones detalladas entre versiones gratuitas y de pago que te ayudarán a identificar la solución imprescindible para aumentar la productividad y desbloquear tu ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Interesting move by Meta, but honestly I'm more concerned about how they'll actually enforce these rules across different languages and cultural contexts. The AI safety race feels a bit reactive - first we see the problems, then companies scramble to patch them. 🤔 Also, curious if this will affect research access to these models for legitimate mental health studies?
