米国のオープンソースAIラボ、Arceeは、中国のモデルは本質的に危険ではないと述べている

中国のオープンウェイトAIモデルが継続的に能力と市場シェアを拡大するにつれ、それらの扱いに関する議論が再び激化している。

噂によれば、トランプ政権はこれらのモデルの禁止を試みる可能性があるが、現時点で何らかの措置が取られているわけではない。一方で、プロプライエタリなモデルの開発者、特にOpenAIやAnthropicは、競争への懸念を強めている。

Moonshot AIのKimi K3やAlibabaのQwenといったオープンウェイトモデルは、主要な米国ラボのクローズドソースモデルと比較して、トークンコストの大幅な削減で推論を提供する。この価格優位性は、大規模なプロプライエタリAI事業者の利益率を脅かす可能性があり、主にセキュリティ脅威となることを懸念する声を引き起こしている。

しかし、これらのモデルを自社のデータセンターで展開する企業は、それらが中国のハッカーによる攻撃の経路となることを心配すべきだろうか？

ArceeのCTOであるLucas Atkins氏は、中国のAIに対する米国の企業に国内代替案を提供するオープンモデルを開発する同社の立場から、そうではないと主張する。

もし中国のモデル禁止から利益を得るスタートアップがあるとするなら、それはArceeであるはずだ。しかしAtkins氏は、中国のオープンモデルは企業が使用する他のオープンソースソフトウェアと比べて危険性が高いものではないと維持する。実際、彼はこれらのモデルが自社の事業にも利点をもたらすと論じる。

「多くの人は、これは特定の意図でコーディングされており、悪意のある行為者が悪用できる可能性のある中国製ソフトウェアプログラムに似ていると見なしています」と彼は指摘した。

「それらは本質的にそのような方法で学習されるものではありません。ArceeやAlibabaがモデルを作成し、それをあなたの環境で実行させ、そこから何らかのアクセスを得るようなメカニズムはありません」と彼は説明した。

これらのモデルの多くは完全なオープンソースソフトウェアではなく「オープンウェイト」であるが、サーバー上で実際に動作する部分であるソースコードは、Hugging Faceなどのプラットフォームからダウンロードすれば、概ね公開されレビュー可能である。（利用できないのは、学習手法とデータセットのみである。）

大規模な組織は、あらゆるモデルのコアに対して厳格なセキュリティテストと検査を行うべきである。また、多くの場合、特定のユースケースに対してモデルをポストトレーニングし、バイアス、毒性、幻覚、特定のトピックへの感受性などの要因を調査する。これにより、ユーザーがプロンプトを送信し始める前に、モデルとの連携、最適化、理解が可能になる。

コーディングモデルが生成するコードに何らかの悪意のあるバックドアを注入することは可能だろうか？理論的には可能であるが、これを実現するには並外れた技術的達成が必要となる。

「十分に洗練された行為者が、あらゆるシナリオでコーディングに優れ、特定のコードベースが提示された際に隠された悪意のある動作をトリガーするモデルを学習することは不可能ではないが、実際にそれをどのように達成するかは私にはわからない」とAtkinsは推測した。

大規模言語モデルは本質的に創造的であるため、完璧に調整されたコンテキストとプロンプトに対してマルウェアを生成する現代のモデルの可能性は低い。さらに、そのコードを企業が使用する可能性はさらに低い。

これが将来起こり得るだろうか？それは不確実である。しかし、企業はモデルに依存しないAIアプリケーションを構築し、複数のモデルを利用している。したがって、たとえ中国のモデルが今日最高の価格対パフォーマンス比を提供していたとしても、企業はそれらに長期的に縛られることはない。

「議論の焦点は、中国のモデルをどのように禁止するかから、米国で堅牢でオープンなエコシステムをどのように育成するかへとシフトすべきだと信じています」とAtkinsは述べた。

Arceeもまた、中国のモデルから利益を得ている。それらがオープンであるため、スタートアップは「それらのモデルが良好に動作する際に価値を得ます。なぜなら、私たちはそれらのアプローチから学び、それに基づいて構築できるからです。その後、彼らは私たちの仕事から学ぶことができます」と彼は説明した。「私たちは、それらのモデル背後にある研究者に対して多大な敬意を抱いています。」

最終的に、中国のモデルと競争する最善の方法は「より優れたモデルをリリースすることです」とAtkinsは結論づけた。「彼らに議論すべき実質的なものを提供する必要があります。」