Hogar
Aliyun, de Alibaba, presenta Fun-CineForge: un modelo y un conjunto de datos de doblaje de calidad cinematográfica de código abierto
Recientemente, el proyecto Fun-CineForge, desarrollado por el equipo de procesamiento del habla del Alibaba Tongyi Lab en colaboración con la Universidad de Ciencia y Tecnología de China, se ha convertido oficialmente en código abierto. Esta iniciativa aborda los principales retos del doblaje cinematográfico y televisivo —como la sincronización labial, la transferencia del estilo de voz y la expresión emocional— mediante la introducción de un flujo de trabajo de producción integral de principio a fin y soluciones basadas en modelos a gran escala.

Avances clave: resolución del problema de la «desincronización» en el doblaje cinematográfico
El doblaje tradicional con IA suele enfrentarse a problemas como la falta de coincidencia en los movimientos labiales, una interpretación emocional robótica y la dificultad para adaptarse a escenas cinematográficas complejas que implican diálogos y acústica con múltiples personas. Fun-CineForge logra un avance significativo a través de dos innovaciones clave:
Modelo de doblaje MLLM: más allá de la simple sincronización de audio y vídeo en la zona de los labios, emplea una arquitectura de modelo de lenguaje multimodal a gran escala (MLLM) capaz de comprender en profundidad la identidad de un personaje y los matices emocionales dentro de una escena.
Conjunto de datos a gran escala CineDub: El proyecto creó el primer conjunto de datos de doblaje de programas de televisión chinos ricamente anotado mediante un proceso automatizado, que abarca diversos escenarios como monólogos, narración, diálogos e interacciones entre varios hablantes.
Actualizaciones del proyecto y hoja de ruta de código abierto
El proyecto ha experimentado frecuentes actualizaciones recientes, lo que indica un alto nivel de madurez técnica:
Enero a marzo de 2026: Se publicaron conjuntos de datos de muestra y demostraciones tanto para chino (CineDub-CN) como para inglés (CineDub-EN).
16 de marzo de 2026: Se han publicado oficialmente en código abierto el código de inferencia y los pesos del modelo (puntos de control), lo que permite a los desarrolladores acceder a estos recursos en GitHub.
Acceso a los conjuntos de datos: Ya están disponibles para la investigación varios conjuntos de datos de series clásicas, entre ellas la serie china «El sueño de la cámara roja» y la serie inglesa «Downton Abbey».
Aplicación técnica: del «diálogo» a la «interpretación»
Las demostraciones oficiales muestran que el modelo ofrece resultados impresionantes al rehacer series clásicas como «Romance of the Three Kingdoms». Al introducir «pistas emocionales» específicas, el modelo puede captar con precisión el cambio emocional de un personaje —desde el miedo hasta el desafío— logrando una clonación de voz de alta fidelidad y una sincronización labial natural.
El lanzamiento de Fun-CineForge marca un cambio en el doblaje con IA para cine y televisión, pasando de la simple «conversión de texto a voz» a una herramienta de «postproducción automatizada» con comprensión artística. Este avance está llamado a reducir significativamente los costes de producción de los contenidos cinematográficos y televisivos doblados.
Proyecto: https://funcineforge.github.io/
Artículo relacionado
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Recientemente, el proyecto Fun-CineForge, desarrollado por el equipo de procesamiento del habla del Alibaba Tongyi Lab en colaboración con la Universidad de Ciencia y Tecnología de China, se ha convertido oficialmente en código abierto. Esta iniciativa aborda los principales retos del doblaje cinematográfico y televisivo —como la sincronización labial, la transferencia del estilo de voz y la expresión emocional— mediante la introducción de un flujo de trabajo de producción integral de principio a fin y soluciones basadas en modelos a gran escala.

Avances clave: resolución del problema de la «desincronización» en el doblaje cinematográfico
El doblaje tradicional con IA suele enfrentarse a problemas como la falta de coincidencia en los movimientos labiales, una interpretación emocional robótica y la dificultad para adaptarse a escenas cinematográficas complejas que implican diálogos y acústica con múltiples personas. Fun-CineForge logra un avance significativo a través de dos innovaciones clave:
Modelo de doblaje MLLM: más allá de la simple sincronización de audio y vídeo en la zona de los labios, emplea una arquitectura de modelo de lenguaje multimodal a gran escala (MLLM) capaz de comprender en profundidad la identidad de un personaje y los matices emocionales dentro de una escena.
Conjunto de datos a gran escala CineDub: El proyecto creó el primer conjunto de datos de doblaje de programas de televisión chinos ricamente anotado mediante un proceso automatizado, que abarca diversos escenarios como monólogos, narración, diálogos e interacciones entre varios hablantes.
Actualizaciones del proyecto y hoja de ruta de código abierto
El proyecto ha experimentado frecuentes actualizaciones recientes, lo que indica un alto nivel de madurez técnica:
Enero a marzo de 2026: Se publicaron conjuntos de datos de muestra y demostraciones tanto para chino (CineDub-CN) como para inglés (CineDub-EN).
16 de marzo de 2026: Se han publicado oficialmente en código abierto el código de inferencia y los pesos del modelo (puntos de control), lo que permite a los desarrolladores acceder a estos recursos en GitHub.
Acceso a los conjuntos de datos: Ya están disponibles para la investigación varios conjuntos de datos de series clásicas, entre ellas la serie china «El sueño de la cámara roja» y la serie inglesa «Downton Abbey».
Aplicación técnica: del «diálogo» a la «interpretación»
Las demostraciones oficiales muestran que el modelo ofrece resultados impresionantes al rehacer series clásicas como «Romance of the Three Kingdoms». Al introducir «pistas emocionales» específicas, el modelo puede captar con precisión el cambio emocional de un personaje —desde el miedo hasta el desafío— logrando una clonación de voz de alta fidelidad y una sincronización labial natural.
El lanzamiento de Fun-CineForge marca un cambio en el doblaje con IA para cine y televisión, pasando de la simple «conversión de texto a voz» a una herramienta de «postproducción automatizada» con comprensión artística. Este avance está llamado a reducir significativamente los costes de producción de los contenidos cinematográficos y televisivos doblados.
Proyecto: https://funcineforge.github.io/
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de











