JD.com、AIの進展を推進する「JoyAI-LLM-Flash」モデルを発表

JD.comは2月14日、最新の大型言語モデル「JoyAI-LLM-Flash」をHugging Faceプラットフォーム上で公開した。このモデルは合計48億のパラメータを有し、推論時にはそのうち30億が活性化される。20兆のテキストトークンで事前学習されており、現代の知識の理解、論理的推論、プログラミングタスクにおいて高い能力を発揮する。
JoyAI-LLM-Flashは、ファイバーバンドル理論を強化学習に取り入れた革新的な最適化フレームワーク「FiberPO」を採用している。Muonオプティマイザーおよび高密度マルチトークン予測(MTP)技術と組み合わせることで、従来のモデルをスケールアップする際に生じがちな不安定性の課題を効果的に解決している。MTP非搭載版と比較してスループットが1.3倍から1.7倍に向上し、トレーニング効率と実用的な応用可能性の両方を大幅に向上させている。
このモデルは、40層からなるミクスチャー・オブ・エキスパート(MoE)アーキテクチャに基づいて構築されています。128Kトークンのコンテキスト長と129Kの語彙をサポートしており、JD.comにとって人工知能分野における大きな前進となります。
関連記事
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A
関連特集おすすめ
コメント (1)
0/500

JD.comは2月14日、最新の大型言語モデル「JoyAI-LLM-Flash」をHugging Faceプラットフォーム上で公開した。このモデルは合計48億のパラメータを有し、推論時にはそのうち30億が活性化される。20兆のテキストトークンで事前学習されており、現代の知識の理解、論理的推論、プログラミングタスクにおいて高い能力を発揮する。
JoyAI-LLM-Flashは、ファイバーバンドル理論を強化学習に取り入れた革新的な最適化フレームワーク「FiberPO」を採用している。Muonオプティマイザーおよび高密度マルチトークン予測(MTP)技術と組み合わせることで、従来のモデルをスケールアップする際に生じがちな不安定性の課題を効果的に解決している。MTP非搭載版と比較してスループットが1.3倍から1.7倍に向上し、トレーニング効率と実用的な応用可能性の両方を大幅に向上させている。
このモデルは、40層からなるミクスチャー・オブ・エキスパート(MoE)アーキテクチャに基づいて構築されています。128Kトークンのコンテキスト長と129Kの語彙をサポートしており、JD.comにとって人工知能分野における大きな前進となります。
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A





家






