フランスのスタートアップ企業ZMLが、複数のチップでAI推論を加速する無料ツールを発表

Nvidiaの制御不能な市場支配の時代は終焉に向かっている可能性があるが、競合他社や代替案があらゆる角度から台頭している。

チューリング賞受賞者であるヤン・レクンが支援するフランスの主要なAIスタートアップであるZMLは、Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなど、多様なハードウェアで各種オープンソースの大規模言語モデル（LLM）を実行可能にする推論性能ソフトウェアを発表した。

ZMLの創業者であるステーブ・モランによれば、同社は新たにリリースしたLLM推論サーバー「ZML/LLMD」を通じて、既存のサイロを解体し、AIアプリケーションにおける異なるチップの速度を最大化することを目指しており、その性能はしばしば現在のベンチマークに匹敵するか、あるいはそれを超えているという。

AIが職業生活や日常業務に深く統合されるにつれて、ユーザーのプロンプトを処理する推論の最適化はますます重要になっているが、ソフトウェアやアーキテクチャの障壁によりベンダーロックインを招くことが多く、現状は分断された状態にあるとモランは指摘した。

複数のチップタイプで最高性能を提供することは顕著な技術的達成であると同時に、AIコストの上昇への懸念が高まる中、市場を混乱させる可能性も孕んでいる。

ZMLは、企業やクラウドプロバイダーに対して、チップのハイブリッドミックスを利用する柔軟性を提供し、コストとエネルギー消費の削減につながる可能性を示している。「私たちの目標は、ユーザーが独自のシステムを構築し、実効的な効率向上を実現できるように支援し、より広範なAIの普及を促進することです」とモランは説明した。

このソフトウェアサポートは、特に欧州拠点の新興AIチップメーカーにとって利益となる可能性があるとモランは指摘し、Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud、VSORAなどの企業を挙げた。しかし、彼は地理的な起源よりも、ZMLが前例のない革新において協力できる能力の方が重要であると強調している。

モランは、確立されたサプライチェーンを有していることから、Nvidiaを否定的には見ていない。彼はTechCrunchに対し、ZMLはAIハードウェア大手と強力な関係を維持しており、同社は推論能力への増大する需要に対して積極的に準備を進めていると語った。

推論分野は巨額の投資を集め、一部の人々が「推論ゴールドラッシュ」と呼ぶ現象を引き起こしている。その結果、ZMLは、最近評価額が130億ドルに達したBaseten、vLLMの創業者からスピンアウトしたInferact、SGLangの背後にある商業实体RadixArkといった競合他社から競争を受けている。

vLLMとSGLangはLLMDと部分的に重複する機能を提供するが、モランはZMLがより広範な範囲をカバーすると見なしている。「私たちはシリコンの共同設計段階に到達した」と彼は述べた。また、モランは、パリを拠点とするこのスタートアップの急速な開発ペースを支える20人の少人数チームにも言及し、さらなるアップデートが予定されていると伝えた。

この小規模チームは資金面でも手厚い支援を受けている。2017年にスナップチャットが9桁の金額で買収したZenlyでのエンジニアリング担当副社長としての経験を活かし、モランは20VC、>commit、AALVC、Drysdale Ventures、Kima Ventures、Kindred Capital、LocalGlobe、Puzzle Venturesなどの投資家から2,000万ドルの資金調達を実現した。

2024年にリリースされ、3月にアップデートされたZMLの当初のオープンソース推論フレームワークとは異なり、ZML/LLMDはオープンソースではない。しかし、使用データの収集を目的として無料ツールとしてリリースされている。「私は、过早い収益化によって生じる不要な成長の阻害を避け、最も重要な場所で影響を測定し、収益を上げることを好みます」とモランは語った。

ZML/LLMDが有料モデルへ移行する時期や、どの程度広く採用されるかは不透明である。それでも、このスタートアップの投資家リストには、Docker創業者のソロモン・ハイケス、Hugging Faceのクレマン・ダランジュおよびジュリアン・ショモン、そしてAMI Labsに在籍するレクンといった業界リーダーの強い関心が示されており、欧州のAIスタートアップが現地でも成功できるという論拠を強化している。「パリ以外では、ZMLを構築することはできませんでした」とモランは結論づけた。