Das US-Open-Source-KI-Labor Arcee sagt, dass chinesische Modelle nicht inhärent gefährlich sind

Da chinesische Open-Weight-KI-Modelle weiterhin an Leistung und Marktanteilen gewinnen, haben die Debatten darüber, wie mit ihnen umgegangen werden soll, erneut an Intensität zugenommen.

Gerüchten zufolge könnte die Trump-Regierung versuchen, diese Modelle zu verbieten, obwohl bisher keine Maßnahmen ergriffen wurden. Inzwischen werden Entwickler proprietärer Modelle, insbesondere OpenAI und Anthropic, angesichts der Konkurrenz zunehmend misstrauisch.

Open-Weight-Modelle wie Kimi K3 von Moonshot AI oder Qwen von Alibaba bieten Inferenz zu einem Bruchteil der Token-Kosten im Vergleich zu geschlossenen Modellen großer US-Labore. Dieser Preisvorteil hat Befürchtungen geschürt, dass sie eine Sicherheitsbedrohung darstellen könnten, vor allem, indem sie die Gewinnmargen großer Anbieter proprietärer KI-Modelle gefährden.

Sollten Unternehmen, die diese Modelle in ihren eigenen Rechenzentren einsetzen, befürchten, dass sie zu einem Vektor für chinesische Hacker werden?

Nein, argumentiert Lucas Atkins, CTO von Arcee, einem Unternehmen, das offene Modelle entwickelt, um US-Unternehmen eine inländische Alternative zu chinesischer KI zu bieten.

Wenn irgendein Startup von einem Verbot chinesischer Modelle profitieren würde, dann Arcee. Doch Atkins behauptet, dass Chinas offene Modelle nicht gefährlicher sind als andere Open-Source-Software, die ein Unternehmen nutzen könnte. Tatsächlich argumentiert er, dass sie sogar Vorteile für sein eigenes Unternehmen bieten.

„Viele Menschen betrachten dies als vergleichbar mit einem chinesischen Softwareprogramm, unter der Annahme, dass es mit bestimmten Absichten codiert wurde, die ein bösartiger Akteur ausnutzen könnte“, bemerkte er.

„Das ist grundlegend nicht die Art und Weise, wie diese Modelle trainiert werden. Es gibt keinen Mechanismus, durch den Arcee oder Alibaba ein Modell erstellen, es in Ihrer Umgebung ausführen und darauf zugreifen könnten“, erklärte er.

Während die meisten dieser Modelle „Open Weight“ sind und nicht vollständig Open-Source-Software, ist der Quellcode – der Teil, der tatsächlich auf Servern läuft – weitgehend sichtbar und überprüfbar, wenn er von Plattformen wie Hugging Face heruntergeladen wird. (Was nicht verfügbar ist, sind die Trainingsmethoden und Datensätze.)

Große Organisationen sollten jeden Modellkern strengen Sicherheitstests und Inspektionen unterziehen. Oft trainieren sie Modelle auch nach dem Training für spezifische Anwendungsfälle und untersuchen Faktoren wie Voreingenommenheit, Toxizität, Halluzinationen und Empfindlichkeit gegenüber bestimmten Themen. Dies ermöglicht es ihnen, mit den Modellen zu arbeiten, sie zu optimieren und zu verstehen, bevor Benutzer beginnen, Prompts zu senden.

Könnte ein Code-Modell auf irgendeine Weise schädliche Backdoors in den von ihm generierten Code einschleusen? Obwohl theoretisch möglich, wäre dies außerordentliche technische Leistungen erforderlich.

„Es gibt keinen Grund, warum ein hinreichend fortschrittlicher Akteur kein Modell trainieren könnte, das in allen Szenarien hervorragend beim Coden abschneidet, aber versteckte schädliche Verhaltensweisen auslöst, wenn ihm eine bestimmte Codebasis präsentiert wird“, spekulierte Atkins. Doch er fügte hinzu: „Ich weiß nicht, wie man dies tatsächlich erreichen würde.“

Da große Sprachmodelle inhärent kreativ sind, ist die Wahrscheinlichkeit gering, dass ein zeitgenössisches Modell als Reaktion auf einen perfekt orchestrierten Kontext und Prompt Malware generiert. Die Chancen, dass ein Unternehmen diesen Code dann nutzt, sind noch geringer.

Könnte dies in der Zukunft geschehen? Das bleibt ungewiss. Dennoch entwickeln Unternehmen KI-Anwendungen, die modellagnostisch sind und mehrere Modelle nutzen. Daher werden Unternehmen, selbst wenn chinesische Modelle heute das beste Preis-Leistungs-Verhältnis bieten, nicht unendlich an ihre Nutzung gebunden sein.

„Ich glaube, die Diskussion sollte sich davon weg verschieben, wie man chinesische Modelle verbietet, hin dazu, wie wir hier in den USA ein robustes, offenes Ökosystem fördern können“, erklärte Atkins.

Arcee profitiert auch von chinesischen Modellen. Da sie offen sind, „gewinnt das Startup an Wert, wenn diese Modelle gut abschneiden, da wir aus ihren Ansätzen lernen und darauf aufbauen können. Dann können sie von unserer Arbeit lernen“, erklärte er. „Wir haben großen Respekt vor den Forschern hinter diesen Modellen.“

Letztlich sei der beste Weg, mit chinesischen Modellen zu konkurrieren, „ein überlegenes Modell freizugeben“, schloss Atkins. „Wir müssen ihnen etwas Substantielles zu diskutieren geben.“