オプション
ニュース
Nvidiaの新しいllama-3.1Nemotronウルトラは、半分のサイズでDeepseek R1を上回る

Nvidiaの新しいllama-3.1Nemotronウルトラは、半分のサイズでDeepseek R1を上回る

2025年4月13日
205

Nvidiaの新しいllama-3.1Nemotronウルトラは、半分のサイズでDeepseek R1を上回る

メタが最新のLlama 4モデルファミリーをめぐる厳しい監視に直面している中、Nvidiaはメタの以前のLlama-3.1-405B-Instructモデルを基にした新しい完全オープンソースの大規模言語モデル(LLM)を静かに公開しました。このモデルはLlama-3.1-Nemotron-Ultra-253B-v1と名付けられ、2530億のパラメータを誇り、高度な推論、指示追従、AIアシスタントのワークフローに優れるように設計されています。Nvidiaは3月の年次GPU Technology Conference(GTC)でこのモデルについて初めて示唆しました。

このリリースは、Nvidiaがアーキテクチャの革新と綿密な事後トレーニングプロセスを通じてパフォーマンスの向上に取り組んでいることを強調しています。2025年4月7日に発表され、モデルのコード、ウェイト、事後トレーニングデータは現在Hugging Faceで自由にアクセス可能です。システムプロンプトに基づいて複雑な推論タスクとシンプルな出力の間をシームレスに切り替えるように設計されており、開発者にアプリケーションの柔軟性を提供します。

効率的な推論のために設計

Nvidiaが以前にLLMの推論最適化に取り組んだ努力を基に、Llama-3.1-Nemotron-Ultra-253Bはニューラルアーキテクチャサーチ(NAS)プロセスを取り入れてアーキテクチャを改良しています。これには、スキップされたアテンションレイヤー、融合されたフィードフォワードネットワーク(FFN)、可変FFN圧縮率などの革新的な機能が含まれます。これらの変更により、モデルのメモリ使用量と計算要件が削減され、出力品質を損なうことなく単一の8x H100 GPUノードに展開可能です。

Nvidiaは、このモデルがデータセンター展開において堅牢なパフォーマンスを提供しながらコスト効率が高いと主張しています。NvidiaのB100およびHopperマイクロアーキテクチャと互換性があり、BF16およびFP8精度モードの両方でテストされています。

推論と整合性のための事後トレーニング

このモデルは包括的な事後トレーニングを経ています。これには、数学、コード生成、チャット、ツール使用などさまざまなドメインでの監督付き微調整が含まれ、続いてグループ相対ポリシー最適化(GRPO)による強化学習が行われ、指示追従と推論能力が強化されました。

さらに、650億トークンにわたる知識蒸留フェーズと、追加の880億トークンでの継続的な事前トレーニングが行われました。トレーニングデータソースにはFineWeb、Buzz-V1.2、Dolmaが含まれ、事後トレーニングのプロンプトと応答は公開コーパスと合成生成メソッドの両方から取得されました。このアプローチにより、モデルは推論モードを区別するのに役立ちました。

多数のドメインとベンチマークでのパフォーマンス向上

推論が有効化されると、モデルはさまざまなベンチマークで大幅な改善を示しました。たとえば、MATH500ベンチマークでは、標準モードでの80.40%から推論有効化で97.00%にパフォーマンスが急上昇しました。同様に、AIME25スコアは16.67%から72.50%に跳ね上がり、LiveCodeBenchの結果は29.03%から66.31%に倍増しました。

このモデルはツールベースのタスクや一般的な質問応答(GPQA)でも優れており、推論モードでは56.60%に対し76.01%を記録しました。これらのベンチマークは最大シーケンス長32,000トークンで実施され、各テストは正確性のため最大16回繰り返されました。

最先端のMoEモデルDeepSeek R1(6710億パラメータ)と比較しても、Nvidiaのモデルはパラメータが少ないにもかかわらず互角に戦います。GPQA(76.01対71.5)、IFEval指示追従(89.45対83.3)、LiveCodeBenchコーディングタスク(66.31対65.9)などのタスクでDeepSeek R1を上回ります。ただし、DeepSeek R1は特定の数学評価、特にAIME25(79.8対72.50)およびMATH500(97.3対97.00)でわずかに優位です。

これらの結果は、Nvidiaの密なモデルが推論と一般的な指示整合性においてMoEモデルに匹敵するかそれを上回る一方、数学集約的なカテゴリではわずかに遅れることを示しています。

使用と統合

このモデルはHugging Face Transformersライブラリ(バージョン4.48.3推奨)とシームレスに統合され、最大128,000トークンのシーケンスをサポートします。開発者はシステムプロンプトを使用して推論動作を切り替え、タスクのニーズに応じてデコード戦略を選択できます。推論タスクでは、Nvidiaは温度サンプリング(0.6)とトップp値0.95を使用することを提案し、決定論的出力には貪欲デコードを推奨しています。

Llama-3.1-Nemotron-Ultra-253Bは、英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語を含む多言語アプリケーションをサポートします。チャットボットの開発、AIエージェントワークフロー、検索拡張生成(RAG)、コード生成など、さまざまなLLMユースケースに適しています。

商用利用のためのライセンス

Nvidia Open Model LicenseおよびLlama 3.1 Community License Agreementの下でリリースされ、このモデルは商用アプリケーションに対応しています。Nvidiaは、責任あるAI開発の重要性を強調し、チームが特定のユースケースに対してモデルの整合性、安全性、バイアスを評価することを促しています。

NvidiaのAIモデル事後トレーニングディレクターであるOleksii Kuchaievは、Xでこのオープンリリースについて興奮を共有し、トグル可能な推論機能を備えた253Bの密なデザインと、オープンウェイトおよびデータの包含を強調しました。

関連記事
NvidiaのCEO、ジェンソン・ホアン氏はトランプ氏に対し、「我々は[AIの減速]を許さない」と語った。 NvidiaのCEO、ジェンソン・ホアン氏はトランプ氏に対し、「我々は[AIの減速]を許さない」と語った。 月曜日にロサンゼルスで開催された「All-Inサミット」での登壇中、NvidiaのCEOであるジェンセン・ファンはドナルド・トランプ大統領からの予期せぬ電話を受け、無視することはできなかった。「私は最高の仲間たちと一緒にステージにいます」と、ファンはトランプに説明し、All-Inポッドキャストの支援者であるベンチャーキャピタリスト、技術投資家のチャマット・パリハピティヤやジェイソン・カラカニス、さらにホワイトハウス顧問のデイビッド・フリードバーグやデイビッド・サックスを指し示した。おそらく広
ジェンセン・ホアング、Nvidiaの「全く新しい」2000億ドル規模の市場機会を明らかにす ジェンセン・ホアング、Nvidiaの「全く新しい」2000億ドル規模の市場機会を明らかにす Nvidiaの創設者兼CEO、ジェンソン・ハーンは、自社の事業展開を牽引する企業家の中で最も説得力のあるビジョナリーの一人であり、あるいは最高の人物であると言える。同社の将来の見通しや収益源に対する彼の揺るぎない楽観主義は、Salesforceのマーク・ベニオフを凌駕するものかもしれない。しかし、彼は四半期ごとにこの情熱を結果で裏付け続けている。「Nvidiaにとって新たな2,000億ドルの総潜在市場(TAM)を発見した」という彼の主張に対して懐疑的な視線を向けるよう促すのではなく、彼は一定
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否 フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否 最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
関連特集おすすめ
データ分析 SaaSおよびEコマースチーム向けのKPIモニタリングにおけるベストなAI異常検知ツール
SaaSおよびEコマースチーム向けのKPIモニタリングにおけるベストなAI異常検知ツール

2026年最新版・最高評価のAI異常検知ツール【SaaSおよびEコマースチーム向けKPIモニタリング】!XIX.AIは、厳格な実世界テストと週次更新のランキングに基づき、革新的な強力なコレクションを厳選しました。生産性を向上させ、AIの優位性を引き出すために必須のソリューションを見極めるのに役立つ、無料版と有料版の詳細な比較インサイトが見つかります。今すぐチェックしましょう!

10 ツール
xix.ai
書き込み 長文SEO記事に最適なAIアウトライン生成ツール
長文SEO記事に最適なAIアウトライン生成ツール

XIX.AIが厳選した、2026年最新のロングフォームSEO記事向け高評価AIアウトライン生成ツール。これらの強力なツールは、高品質なコンテンツを迅速に作成するための画期的な支援を提供し、執筆効率を大幅に向上させます。 無料版と有料版の比較、実地テスト、詳細なランキングを参考に、ご自身のニーズに合った「ぜひ試すべき」ツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう。

8 ツール
xix.ai
教育と学習 宿題や試験対策に役立つAI学習ツール
宿題や試験対策に役立つAI学習ツール

2026年版 宿題や試験対策に最適な最新AI学習ツール!XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう!

10 ツール
xix.ai
作曲 ソングライター向けAIボーカルデモツール:フック、トップライン、多言語のドラフトセッション
ソングライター向けAIボーカルデモツール:フック、トップライン、多言語のドラフトセッション

2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール!XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう!

9 ツール
xix.ai
仕事 中小企業に最適なAI競合分析ツール
中小企業に最適なAI競合分析ツール

2026年版 中小企業向け最新・最高評価のAI競合分析ツール!XIX.AIは、実環境での厳格なテストと詳細なランキングに基づき、毎週更新される、極めて強力で業界に革命をもたらすツールを厳選しました。無料版と有料版の包括的な比較も掲載されており、生産性を向上させ、競争優位性をもたらす「ぜひ試すべき」ツールを見つけるのに役立ちます。 今すぐチェックして、あなたにぴったりのツールを見つけましょう!

9 ツール
xix.ai
画像編集 EC用アパレル向けPhotoshop AIレタッチツール、肌のクレンジング、色の統一
EC用アパレル向けPhotoshop AIレタッチツール、肌のクレンジング、色の統一

2026年最新版、eコマース用アパレル向けPhotoshop AIリタッチツール、肌補正、色調統一に最適!この高評価の厳選リストは、文章作成の効率化、コンテンツ制作の簡素化、完璧な視覚結果の達成を支援する革新的なソリューションを提供しています。各ツールは週次更新ランキングを通じて実世界でテストされ、無料版と有料版の比較詳細も記載されています。XIX.AIが後援するこのガイドは、AIの優位性を最大限に引き出したい方に必見です。今すぐチェック!

10 ツール
xix.ai
コメント (54)
0/500
JonathanNelson
JonathanNelson 2025年12月9日 17:30:42 JST

Интересно, как Nvidia удалось упаковать все эти параметры в модель размером вдвое меньше. Выходит, вложения в архитектуру дают больше преимуществ, чем просто увеличение данных? Хотя, конечно, с учётом их вычислительных ресурсов не стоит удивляться. Что особенно ценно, так это тот факт, что модель открыта. На этом фоне заявления Meta порой звучат слишком громко и с многочисленными оговорками 🤔 Это может изменить правила игры для независимых исследователей!

CharlesYoung
CharlesYoung 2025年11月3日 13:30:34 JST

¿Nvidia saca otro modelo open-source más potente que DeepSeek R1? 🤔 Me pregunto si esto realmente marcará una diferencia práctica para los desarrolladores o es solo otra carrera por los números en los benchmarks. ¡253 mil millones de parámetros parece excesivo!

DouglasMartínez
DouglasMartínez 2025年8月19日 0:01:00 JST

Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outperforms it? That's wild efficiency. Can't wait to see how devs play with this open-source gem! 🚀

StephenRoberts
StephenRoberts 2025年8月1日 11:48:18 JST

Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outshines it? That's some serious tech flex. Can't wait to see how devs play with this open-source gem! 😎

AnthonyRoberts
AnthonyRoberts 2025年4月24日 17:35:07 JST

Nvidia's new Llama-3.1 Nemotron Ultra is a beast! It's amazing how it outperforms DeepSeek R1 with half the size. I've been using it for my projects and the results are incredible. Just wish it was a bit faster, but overall, a solid choice! 🚀

JohnRoberts
JohnRoberts 2025年4月23日 9:03:45 JST

¡El Llama-3.1 Nemotron Ultra de Nvidia es impresionante! Supera al DeepSeek R1 con la mitad del tamaño, lo cual es alucinante. Lo he estado usando en mis proyectos y es súper eficiente. Lo único es que puede ser un poco complicado de configurar. Aún así, una excelente opción para quien busque un LLM potente. 🚀

OR