Hogar
El ChatGPT para adolescentes de OpenAI enfrenta escepticismo de expertos sobre sus mecanismos de seguridad

El reciente lanzamiento de ChatGPT para niños por parte de OpenAI, que incluye restricciones basadas en la edad, ha suscitado una fuerte crítica por parte de defensores de la seguridad infantil, quienes cuestionan la transparencia y la eficacia de sus medidas de protección.
Los expertos en seguridad subrayan que es fundamental realizar pruebas independientes antes de recomendar la plataforma a las familias. Robbie Tynjala, de Common Sense Media, insistió en que OpenAI debe proporcionar pruebas concretas de que sus funciones de seguridad funcionan realmente, en lugar de basarse en afirmaciones no verificadas.
Josh Golin, director de la iniciativa Fairplay, planteó serias dudas sobre la falta de responsabilidad. Señaló que las restricciones anteriores de OpenAI sobre temas sensibles como el suicidio y la violencia a menudo han fracasado, argumentando que la autorregulación es insuficiente sin una supervisión sólida.
Los expertos también cuestionan la fiabilidad del sistema automático de verificación de la edad. Tynjala señaló que OpenAI no ha publicado datos sobre las tasas de falsos positivos o negativos, lo que deja claro que los sistemas automatizados no pueden identificar con perfección a los usuarios jóvenes. Además, es probable que los adolescentes encuentren formas de eludir estos controles.
El escepticismo sigue siendo elevado respecto a la promesa de OpenAI de que el contenido marcado será revisado por el personal y que los padres serán notificados en una hora. Tynjala cuestionó la fiabilidad de los filtros automatizados, mientras que Golin exigió datos concretos sobre el volumen diario de marcados, el tamaño del equipo y los tiempos de revisión, señalando que es poco realista esperar contar con el personal suficiente para realizar una revisión manual exhaustiva de cada interacción peligrosa.
Por último, los expertos argumentan que obligar a los padres a vincular manualmente las cuentas socava la protección. Golin sugirió que las funciones de seguridad deberían estar integradas en el producto de forma predeterminada, como límites automáticos de tiempo, en lugar de cargar la compleja configuración exclusivamente sobre los padres.
Artículo relacionado
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El reciente lanzamiento de ChatGPT para niños por parte de OpenAI, que incluye restricciones basadas en la edad, ha suscitado una fuerte crítica por parte de defensores de la seguridad infantil, quienes cuestionan la transparencia y la eficacia de sus medidas de protección.
Los expertos en seguridad subrayan que es fundamental realizar pruebas independientes antes de recomendar la plataforma a las familias. Robbie Tynjala, de Common Sense Media, insistió en que OpenAI debe proporcionar pruebas concretas de que sus funciones de seguridad funcionan realmente, en lugar de basarse en afirmaciones no verificadas.
Josh Golin, director de la iniciativa Fairplay, planteó serias dudas sobre la falta de responsabilidad. Señaló que las restricciones anteriores de OpenAI sobre temas sensibles como el suicidio y la violencia a menudo han fracasado, argumentando que la autorregulación es insuficiente sin una supervisión sólida.
Los expertos también cuestionan la fiabilidad del sistema automático de verificación de la edad. Tynjala señaló que OpenAI no ha publicado datos sobre las tasas de falsos positivos o negativos, lo que deja claro que los sistemas automatizados no pueden identificar con perfección a los usuarios jóvenes. Además, es probable que los adolescentes encuentren formas de eludir estos controles.
El escepticismo sigue siendo elevado respecto a la promesa de OpenAI de que el contenido marcado será revisado por el personal y que los padres serán notificados en una hora. Tynjala cuestionó la fiabilidad de los filtros automatizados, mientras que Golin exigió datos concretos sobre el volumen diario de marcados, el tamaño del equipo y los tiempos de revisión, señalando que es poco realista esperar contar con el personal suficiente para realizar una revisión manual exhaustiva de cada interacción peligrosa.
Por último, los expertos argumentan que obligar a los padres a vincular manualmente las cuentas socava la protección. Golin sugirió que las funciones de seguridad deberían estar integradas en el producto de forma predeterminada, como límites automáticos de tiempo, en lugar de cargar la compleja configuración exclusivamente sobre los padres.
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











