Hogar
OpenAI lanza una versión más segura de ChatGPT para adolescentes, años después de que estos empezaran a utilizarla
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó el lunes ChatGPT for Teens. Esta nueva oferta incorpora funciones de seguridad mejoradas y aborda el creciente problema de la falta de honestidad académica facilitada por las herramientas de IA en los centros educativos.
Desde una perspectiva educativa, ChatGPT for Teens introduce un «Modo de estudio» junto con otras herramientas destinadas a fomentar la curiosidad y las habilidades para la resolución de problemas, animando a los usuarios a profundizar en los contenidos en lugar de buscar respuestas inmediatas.
Según una entrada del blog de OpenAI, el «Modo de estudio» ofrece preguntas orientativas y asistencia paso a paso para ayudar a los adolescentes a comprender contenidos complejos. Además, la plataforma incluye recordatorios de deberes que se activan cuando el sistema detecta un posible caso de trampa, lo que lleva a los usuarios a cambiar al «Modo de estudio».
La aplicación también cuenta con cuestionarios y visualizaciones didácticas, junto con controles que permiten a los padres o tutores activar el «Modo de estudio» de forma predeterminada, según ha declarado la empresa.
Sin embargo, sigue sin estar claro con qué facilidad los adolescentes podrían eludir estas medidas de seguridad si decidieran no cumplirlas. Los usuarios jóvenes suelen ser expertos en sortear los controles parentales y otras restricciones digitales. Hasta que el modo para adolescentes de ChatGPT se someta a pruebas rigurosas, la eficacia práctica de estas medidas de seguridad sigue sin estar clara.

Créditos de la imagen:OpenAI
OpenAI afirma que en ChatGPT for Teens están activadas de forma predeterminada las protecciones adecuadas para la aplicación, diseñadas para minimizar la exposición a contenidos nocivos o inadecuados para el desarrollo. Estas medidas de seguridad se basan en los «Principios para menores de 18 años» de OpenAI, incluidos en las especificaciones del modelo, que, según la empresa, se basan en la ciencia del desarrollo y en el asesoramiento de expertos.
Los padres pueden utilizar las herramientas familiares y los controles parentales, ya presentados anteriormente, para gestionar la configuración, recibir notificaciones de seguridad y configurar las «horas de silencio», entre otras funciones.
OpenAI ha anunciado una colaboración con CodeAI para ayudar a los adolescentes a comprender mejor la IA, incluyendo su funcionamiento, cómo dirigirla o plantearle preguntas, y cómo utilizarla de forma eficaz. En el ámbito educativo, OpenAI ya ofrece ChatGPT for Teachers para proporcionar a los centros educativos acceso a la IA y asistencia gestionados por la propia institución.
Artículo relacionado
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
OpenAI cierra la brecha con Anthropic entre los usuarios empresariales, según nuevos datos
Con OpenAI y Anthropic aún lejos de sus esperadas ofertas públicas iniciales (IPO) y de la publicación de informes financieros detallados, debemos recurrir a indicadores alternativos para evaluar su desempeño empresarial. Ramp, una plataforma de tarj
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó el lunes ChatGPT for Teens. Esta nueva oferta incorpora funciones de seguridad mejoradas y aborda el creciente problema de la falta de honestidad académica facilitada por las herramientas de IA en los centros educativos.
Desde una perspectiva educativa, ChatGPT for Teens introduce un «Modo de estudio» junto con otras herramientas destinadas a fomentar la curiosidad y las habilidades para la resolución de problemas, animando a los usuarios a profundizar en los contenidos en lugar de buscar respuestas inmediatas.
Según una entrada del blog de OpenAI, el «Modo de estudio» ofrece preguntas orientativas y asistencia paso a paso para ayudar a los adolescentes a comprender contenidos complejos. Además, la plataforma incluye recordatorios de deberes que se activan cuando el sistema detecta un posible caso de trampa, lo que lleva a los usuarios a cambiar al «Modo de estudio».
La aplicación también cuenta con cuestionarios y visualizaciones didácticas, junto con controles que permiten a los padres o tutores activar el «Modo de estudio» de forma predeterminada, según ha declarado la empresa.
Sin embargo, sigue sin estar claro con qué facilidad los adolescentes podrían eludir estas medidas de seguridad si decidieran no cumplirlas. Los usuarios jóvenes suelen ser expertos en sortear los controles parentales y otras restricciones digitales. Hasta que el modo para adolescentes de ChatGPT se someta a pruebas rigurosas, la eficacia práctica de estas medidas de seguridad sigue sin estar clara.

Créditos de la imagen:OpenAI
OpenAI afirma que en ChatGPT for Teens están activadas de forma predeterminada las protecciones adecuadas para la aplicación, diseñadas para minimizar la exposición a contenidos nocivos o inadecuados para el desarrollo. Estas medidas de seguridad se basan en los «Principios para menores de 18 años» de OpenAI, incluidos en las especificaciones del modelo, que, según la empresa, se basan en la ciencia del desarrollo y en el asesoramiento de expertos.
Los padres pueden utilizar las herramientas familiares y los controles parentales, ya presentados anteriormente, para gestionar la configuración, recibir notificaciones de seguridad y configurar las «horas de silencio», entre otras funciones.
OpenAI ha anunciado una colaboración con CodeAI para ayudar a los adolescentes a comprender mejor la IA, incluyendo su funcionamiento, cómo dirigirla o plantearle preguntas, y cómo utilizarla de forma eficaz. En el ámbito educativo, OpenAI ya ofrece ChatGPT for Teachers para proporcionar a los centros educativos acceso a la IA y asistencia gestionados por la propia institución.
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
OpenAI cierra la brecha con Anthropic entre los usuarios empresariales, según nuevos datos
Con OpenAI y Anthropic aún lejos de sus esperadas ofertas públicas iniciales (IPO) y de la publicación de informes financieros detallados, debemos recurrir a indicadores alternativos para evaluar su desempeño empresarial. Ramp, una plataforma de tarj
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando











