Hogar
Meta pone en marcha nuevos sistemas de control de contenidos basados en IA y reduce al mismo tiempo su dependencia de proveedores externos
Meta anunció el jueves que está empezando a implantar sistemas de inteligencia artificial más sofisticados para la moderación de contenidos, con el objetivo de reducir su dependencia de proveedores externos. Estos sistemas se encargarán de tareas como identificar y eliminar contenidos relacionados con el terrorismo, la explotación infantil, las drogas, el fraude y las estafas.
La empresa ha declarado que estas herramientas avanzadas de IA se integrarán en todas sus aplicaciones una vez que superen de forma sistemática a los métodos actuales de control de contenidos. Al mismo tiempo, Meta tiene previsto reducir su dependencia de proveedores externos para estas tareas de moderación.
«Aunque los revisores humanos seguirán formando parte del proceso, estos sistemas se encargarán de las tareas más adecuadas para la tecnología, como las revisiones repetitivas de contenido gráfico o aquellas áreas en las que los delincuentes suelen adaptar sus tácticas con frecuencia, como la venta de drogas ilícitas o las estafas», explicó Meta en una entrada de blog.
Meta afirma que estos sistemas de IA pueden detectar más infracciones con mayor precisión, prevenir mejor las estafas, responder más rápidamente a los acontecimientos del mundo real y reducir la aplicación excesiva de las normas.
Las primeras pruebas de los sistemas de IA han arrojado resultados prometedores, ya que han detectado el doble de contenido que incumple las normas sobre solicitación sexual para adultos que los equipos de revisión humanos, al tiempo que han reducido la tasa de error en más de un 60 %. Los sistemas también identifican y previenen más cuentas de suplantación de identidad relacionadas con famosos y otras personas de alto perfil, y ayudan a impedir la apropiación de cuentas mediante la detección de señales como inicios de sesión desde nuevas ubicaciones, cambios de contraseña o modificaciones en el perfil.
Además, Meta ha declarado que los sistemas pueden identificar y mitigar aproximadamente 5 000 intentos de estafa al día, en los que los estafadores intentan engañar a los usuarios para que revelen sus credenciales de inicio de sesión.
«Los expertos diseñarán, entrenarán, supervisarán y evaluarán nuestros sistemas de IA, midiendo el rendimiento y tomando las decisiones más complejas y de mayor impacto», escribió Meta en la entrada del blog. «Por ejemplo, las personas seguirán desempeñando un papel clave a la hora de tomar las decisiones de mayor riesgo y más críticas, como las apelaciones por la desactivación de cuentas o las denuncias a las fuerzas del orden».

Esta medida se produce tras la reciente flexibilización de las normas de moderación de contenidos por parte de Meta durante el último año, coincidiendo con el regreso del presidente Donald Trump al cargo. El año pasado, la empresa puso fin a su programa de verificación de datos por terceros en favor de un modelo al estilo de las «Notas de la comunidad», similar al de X. También levantó las restricciones sobre «temas que forman parte del discurso dominante» y animó a los usuarios a adoptar un enfoque «personalizado» respecto al contenido político.
Esta novedad se produce en un momento en el que Meta y otras grandes empresas tecnológicas se enfrentan a múltiples demandas judiciales destinadas a hacer responsables a las plataformas de redes sociales por los daños causados a los niños y a los usuarios jóvenes.
Meta también anunció el jueves el lanzamiento de un asistente de ayuda basado en IA de Meta, que ofrece a los usuarios acceso a la asistencia las 24 horas del día, los 7 días de la semana. El asistente se está implantando a nivel mundial en las aplicaciones de Facebook e Instagram para iOS y Android, así como en el Centro de ayuda de Facebook e Instagram para usuarios de ordenador.
Artículo relacionado
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Meta anunció el jueves que está empezando a implantar sistemas de inteligencia artificial más sofisticados para la moderación de contenidos, con el objetivo de reducir su dependencia de proveedores externos. Estos sistemas se encargarán de tareas como identificar y eliminar contenidos relacionados con el terrorismo, la explotación infantil, las drogas, el fraude y las estafas.
La empresa ha declarado que estas herramientas avanzadas de IA se integrarán en todas sus aplicaciones una vez que superen de forma sistemática a los métodos actuales de control de contenidos. Al mismo tiempo, Meta tiene previsto reducir su dependencia de proveedores externos para estas tareas de moderación.
«Aunque los revisores humanos seguirán formando parte del proceso, estos sistemas se encargarán de las tareas más adecuadas para la tecnología, como las revisiones repetitivas de contenido gráfico o aquellas áreas en las que los delincuentes suelen adaptar sus tácticas con frecuencia, como la venta de drogas ilícitas o las estafas», explicó Meta en una entrada de blog.
Meta afirma que estos sistemas de IA pueden detectar más infracciones con mayor precisión, prevenir mejor las estafas, responder más rápidamente a los acontecimientos del mundo real y reducir la aplicación excesiva de las normas.
Las primeras pruebas de los sistemas de IA han arrojado resultados prometedores, ya que han detectado el doble de contenido que incumple las normas sobre solicitación sexual para adultos que los equipos de revisión humanos, al tiempo que han reducido la tasa de error en más de un 60 %. Los sistemas también identifican y previenen más cuentas de suplantación de identidad relacionadas con famosos y otras personas de alto perfil, y ayudan a impedir la apropiación de cuentas mediante la detección de señales como inicios de sesión desde nuevas ubicaciones, cambios de contraseña o modificaciones en el perfil.
Además, Meta ha declarado que los sistemas pueden identificar y mitigar aproximadamente 5 000 intentos de estafa al día, en los que los estafadores intentan engañar a los usuarios para que revelen sus credenciales de inicio de sesión.
«Los expertos diseñarán, entrenarán, supervisarán y evaluarán nuestros sistemas de IA, midiendo el rendimiento y tomando las decisiones más complejas y de mayor impacto», escribió Meta en la entrada del blog. «Por ejemplo, las personas seguirán desempeñando un papel clave a la hora de tomar las decisiones de mayor riesgo y más críticas, como las apelaciones por la desactivación de cuentas o las denuncias a las fuerzas del orden».

Esta medida se produce tras la reciente flexibilización de las normas de moderación de contenidos por parte de Meta durante el último año, coincidiendo con el regreso del presidente Donald Trump al cargo. El año pasado, la empresa puso fin a su programa de verificación de datos por terceros en favor de un modelo al estilo de las «Notas de la comunidad», similar al de X. También levantó las restricciones sobre «temas que forman parte del discurso dominante» y animó a los usuarios a adoptar un enfoque «personalizado» respecto al contenido político.
Esta novedad se produce en un momento en el que Meta y otras grandes empresas tecnológicas se enfrentan a múltiples demandas judiciales destinadas a hacer responsables a las plataformas de redes sociales por los daños causados a los niños y a los usuarios jóvenes.
Meta también anunció el jueves el lanzamiento de un asistente de ayuda basado en IA de Meta, que ofrece a los usuarios acceso a la asistencia las 24 horas del día, los 7 días de la semana. El asistente se está implantando a nivel mundial en las aplicaciones de Facebook e Instagram para iOS y Android, así como en el Centro de ayuda de Facebook e Instagram para usuarios de ordenador.
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
¿Cree realmente Mark Zuckerberg que la IA es para todos?
Cargando el reproductor…Meta presentó esta semana Glimmer, un modelo de inteligencia artificial con pesos abiertos que cualquiera puede descargar y ejecutar en hardware personal, un contraste marcado con Muse Spark, el modelo más potente de la empre
Facebook lanza una aplicación complementaria basada en IA para creadores
Facebook reveló el miércoles que va a transformar su Creator Studio en una aplicación complementaria dedicada basada en IA, lo que permitirá a los creadores ampliar su alcance en la plataforma.Al ofre











