HogarFrancia y Malasia investigan al chatbot Grok por deepfakes explícitos
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento Techcrunch Únete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORA Las autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
Artículo relacionado
La IA de vídeo de Avataar afronta el reto de la magnitud de la India con rapidez, ahorro y sensibilidad cultural
El desarrollo de modelos de IA en la India ha sido lento en comparación con Estados Unidos, Europa y China. Solo unas pocas empresas emergentes están lanzando modelos, y la mayoría de ellos son grande
La empresa lanza una versión actualizada de su aplicación para Android tras una profunda renovación.
Hace aproximadamente un año, X – propiedad de Elon Musk – anunció su intención de reconstruir por completo la versión para Android de su aplicación, cuyo rendimiento era significativamente peor que el de su versión para iOS. La versión actualizada se
Respond.io obtiene una inversión de 62,5 millones de dólares para expandirse mediante adquisiciones estratégicas.
En 2017 se lanzó Respond.io con un objetivo sencillo: abordar el desafío que enfrentaban las empresas para mantenerse al día con clientes que habían pasado a utilizar aplicaciones de mensajería. Hoy en día, Respond —a través de su software de gestión
Recomendaciones de temas especiales relacionados
escribiendo
Los mejores generadores de esquemas basados en IA para artículos largos optimizados para SEO
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Inmediato
Las mejores bibliotecas de indicaciones de IA para los flujos de trabajo de ChatGPT
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
comentario (0)
0/500
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento TechcrunchÚnete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORALas autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
La IA de vídeo de Avataar afronta el reto de la magnitud de la India con rapidez, ahorro y sensibilidad cultural
El desarrollo de modelos de IA en la India ha sido lento en comparación con Estados Unidos, Europa y China. Solo unas pocas empresas emergentes están lanzando modelos, y la mayoría de ellos son grande
La empresa lanza una versión actualizada de su aplicación para Android tras una profunda renovación.
Hace aproximadamente un año, X – propiedad de Elon Musk – anunció su intención de reconstruir por completo la versión para Android de su aplicación, cuyo rendimiento era significativamente peor que el de su versión para iOS. La versión actualizada se
Respond.io obtiene una inversión de 62,5 millones de dólares para expandirse mediante adquisiciones estratégicas.
En 2017 se lanzó Respond.io con un objetivo sencillo: abordar el desafío que enfrentaban las empresas para mantenerse al día con clientes que habían pasado a utilizar aplicaciones de mensajería. Hoy en día, Respond —a través de su software de gestión
Los mejores generadores de esquemas con IA mejor valorados de 2026 para artículos largos optimizados para SEO, seleccionados minuciosamente por XIX.AI. Estas potentes herramientas ofrecen una ayuda revolucionaria a la hora de crear contenido de alta calidad rápidamente, lo que aumenta considerablemente la eficiencia a la hora de escribir. Consigue una comparación entre las versiones gratuitas y de pago, junto con pruebas en condiciones reales y clasificaciones detalladas, que te ayudarán a encontrar la opción imprescindible que mejor se adapte a tus necesidades. Explora ahora para descubrir las ventajas que te ofrece la IA.
8 herramientas
xix.ai
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
