アリババのAliyun、Fun-CineForgeを発表:映画品質の吹き替えモデルとデータセットをオープンソース化
最近、アリババ・トンイー・ラボの音声チームが中国科学技術大学と共同で開発した「Fun-CineForge」プロジェクトが、正式にオープンソース化されました。この取り組みは、包括的なエンドツーエンドの制作ワークフローと大規模モデルソリューションを導入することで、リップシンク、声のスタイル転移、感情表現など、映画・テレビの吹き替えにおける中核的な課題に取り組んでいます。

中核的なブレークスルー:映画吹き替えにおける「リップシンク不一致」問題の解決
従来のAI吹き替えでは、口の動きのズレ、感情表現の機械的さ、そして台詞や複数人の音響が絡む複雑な映画シーンへの適応の難しさといった問題にしばしば直面してきました。Fun-CineForgeは、2つの重要な革新を通じて大きなブレークスルーを達成しています:
MLLM吹き替えモデル:単純な口元領域の音声・映像同期にとどまらず、シーン内のキャラクターのアイデンティティや感情のニュアンスを深く理解できるマルチモーダル大規模言語モデル(MLLM)アーキテクチャを採用しています。
CineDub大規模データセット:本プロジェクトでは、自動化されたパイプラインを通じて、モノローグ、ナレーション、対話、複数人の会話など多様なシナリオを網羅した、中国語テレビ番組の吹き替えデータセットを初めて作成しました。
プロジェクトの最新情報とオープンソースのロードマップ
本プロジェクトは最近頻繁に更新されており、エンジニアリング面での成熟度の高さがうかがえます:
2026年1月~3月:中国語(CineDub-CN)および英語(CineDub-EN)の両方について、サンプルデータセットとデモを公開しました。
2026年3月16日: 推論コードとモデル重み(チェックポイント)を正式にオープンソース化し、開発者がGitHub上でこれらのリソースにアクセスできるようにしました。
データセットへのアクセス:中国のドラマ『紅楼夢』や英国のドラマ『ダウントン・アビー』など、いくつかの古典的なドラマのデータセットが研究用に利用可能になりました。
技術的応用:「対話」から「演技」へ
公式デモでは、本モデルが『三国志演義』などの名作シリーズのリメイクにおいて、印象的な成果を上げていることが示されています。特定の「感情の手がかり」を入力することで、モデルは恐怖から反抗へと至るキャラクターの感情の変化を正確に捉え、高精細な声のクローン化と自然なリップシンクを実現します。
Fun-CineForgeの登場は、映画・テレビのAI吹き替えが、単なる「テキスト読み上げ」から、芸術的理解力を備えた「自動ポストプロダクション」ツールへと移行したことを示している。この進歩により、吹き替え映画やテレビコンテンツの制作コストを大幅に削減できる見込みだ。
プロジェクト:https://funcineforge.github.io/
関連記事
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
関連特集おすすめ
コメント (0)
0/500
最近、アリババ・トンイー・ラボの音声チームが中国科学技術大学と共同で開発した「Fun-CineForge」プロジェクトが、正式にオープンソース化されました。この取り組みは、包括的なエンドツーエンドの制作ワークフローと大規模モデルソリューションを導入することで、リップシンク、声のスタイル転移、感情表現など、映画・テレビの吹き替えにおける中核的な課題に取り組んでいます。

中核的なブレークスルー:映画吹き替えにおける「リップシンク不一致」問題の解決
従来のAI吹き替えでは、口の動きのズレ、感情表現の機械的さ、そして台詞や複数人の音響が絡む複雑な映画シーンへの適応の難しさといった問題にしばしば直面してきました。Fun-CineForgeは、2つの重要な革新を通じて大きなブレークスルーを達成しています:
MLLM吹き替えモデル:単純な口元領域の音声・映像同期にとどまらず、シーン内のキャラクターのアイデンティティや感情のニュアンスを深く理解できるマルチモーダル大規模言語モデル(MLLM)アーキテクチャを採用しています。
CineDub大規模データセット:本プロジェクトでは、自動化されたパイプラインを通じて、モノローグ、ナレーション、対話、複数人の会話など多様なシナリオを網羅した、中国語テレビ番組の吹き替えデータセットを初めて作成しました。
プロジェクトの最新情報とオープンソースのロードマップ
本プロジェクトは最近頻繁に更新されており、エンジニアリング面での成熟度の高さがうかがえます:
2026年1月~3月:中国語(CineDub-CN)および英語(CineDub-EN)の両方について、サンプルデータセットとデモを公開しました。
2026年3月16日: 推論コードとモデル重み(チェックポイント)を正式にオープンソース化し、開発者がGitHub上でこれらのリソースにアクセスできるようにしました。
データセットへのアクセス:中国のドラマ『紅楼夢』や英国のドラマ『ダウントン・アビー』など、いくつかの古典的なドラマのデータセットが研究用に利用可能になりました。
技術的応用:「対話」から「演技」へ
公式デモでは、本モデルが『三国志演義』などの名作シリーズのリメイクにおいて、印象的な成果を上げていることが示されています。特定の「感情の手がかり」を入力することで、モデルは恐怖から反抗へと至るキャラクターの感情の変化を正確に捉え、高精細な声のクローン化と自然なリップシンクを実現します。
Fun-CineForgeの登場は、映画・テレビのAI吹き替えが、単なる「テキスト読み上げ」から、芸術的理解力を備えた「自動ポストプロダクション」ツールへと移行したことを示している。この進歩により、吹き替え映画やテレビコンテンツの制作コストを大幅に削減できる見込みだ。
プロジェクト:https://funcineforge.github.io/
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






