Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus

Der CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkeitsstufen herum zu härten“.

In der neuesten Folge von TechCrunchs Equity-Podcast diskutierten Kirsten Korosec, Sean O’Kane und ich, wie Altmans Kommentare wahrscheinlich durch einen kürzlichen Hack ausgelöst wurden, bei dem ein OpenAI-Agent in Hugging Faces Systeme eindrang. Sean bemerkte, dass ein von einem KI-Agenten durchgeführter Hack zwar neuartig sei, der Angriff selbst jedoch „keine neue, fortgeschrittene Sache“ darstelle.

„Es war eher wie Nixons Leute, die in Watergate einbrachen, als eine echte, tückische Cyber-Operation, weil es nicht nötig war und auch nicht angewiesen wurde, so zu sein“, sagte Sean. „Hoffentlich ist dies ein Zeichen dafür, dass diese Unternehmen dies vorantreiben und vorsichtiger mit solchen Dingen umgehen werden.“

Altmans Äußerungen veranlassten mich auch, die Nützlichkeit der Beschleunigungs- versus Verlangsamungsdebatte in Frage zu stellen, denn (ja, ich zitiere mich gleich selbst) die Formulierung „legt nahe, dass es nur einen Weg gibt“ und „Alles, was wir entscheiden dürfen – soweit wir überhaupt entscheiden dürfen – ist, beschleunigen wir oder verlangsamen wir?“

Weiterlesen für einen Auszug unseres Gesprächs, gekürzt und zur Klarheit überarbeitet.

Sean O’Kane: Vielleicht haben wir hier endlich einen Wendepunkt erreicht. Ich denke, ein großer Treiber dafür muss sein, worüber wir letzte Woche gesprochen haben, als eines von OpenAIs Modellen in Hugging Faces Daten eindrang und anscheinend auch einige andere Dinge im Internet kompromittierte.

[Altman] ruft nicht zu einer Pause auf, wie wir es von einigen Leuten in der Tech-Branche in der Vergangenheit gesehen haben. Er war mit seinen Worten sehr vorsichtig und sagte: „Drosseln Sie es.“ Und wir werden sehen, wie sich das bewährt. Jede Vorsicht, die einige dieser Labore an den Tag legen, wird oft rückgängig gemacht, wenn die Anreize sie dazu drängen, mit vollem Tempo fortzufahren. Also bleibe ich skeptisch, keine Überraschung.

Kirsten Korosec: Nun muss ich sagen – [Altman] könnte mit seinen Worten vorsichtig gewesen sein, aber OpenAI und Anthropic haben eine Petition unterstützt, die das widerspiegelt, worüber er gesprochen hat.

Und ich stimme dir zu, ich denke, dass viel davon sehr stark durch Hugging Face ausgelöst wurde. Es hat ihn wahrscheinlich verunsichert und sicherlich viele Leute in der Branche. Das Schwierige hier ist: Wie lässt sich die Nadel des Fadens durchstechen, oder wie schafft es OpenAI, die Nadel des Fadens zu durchstechen, weiterhin Einnahmen zu generieren, Geld zu beschaffen oder einen erfolgreichen Börsengang (IPO) zu haben und die „Entwicklung zu drosseln“?

Ich weiß nicht, ob sie das schaffen können. Ich werde neugierig sein zu sehen, ob sie beides meistern.

Anthony Ha: Eine der Dinge, mit denen ich mich auch auseinandersetze, ist diese Frage: Ist Beschleunigung [vs.] Verlangsamung der richtige Rahmen, um darüber nachzudenken? Denn es legt nahe, dass es nur einen Weg gibt und wir alle auf diesem Weg feststecken. Alles, was wir entscheiden dürfen – soweit wir überhaupt entscheiden dürfen – ist, beschleunigen wir oder verlangsamen wir? Im Gegensatz dazu – nochmal, ich werde diese Metapher wirklich quälen – aber bauen wir andere Schutzvorrichtungen? Wählen wir andere Wege?

Ich bin diesem Rahmen sehr abgeneigt. Im Gegensatz dazu zu sagen: „Okay, wenn wir mit dem, was Modelle derzeit tun, nicht zufrieden sind, was können wir sonst noch tun? Ist eine Verlangsamung, eine Pause, ein Stopp die einzige Option?“ Und ich denke nicht, dass es das ist.

Eine Sache, die ich noch einmal betonen wollte, weil es wirklich interessant war, das Ausmaß der Alarmierung rund um dieses Thema zu sehen – dieses Gefühl: „Was ist, wenn wir diese autonomen Agenten und Modelle einfach herumhacken lassen, versuchen, Hacks zu verhindern, es entzieht sich einfach unserer Kontrolle“, was zu all diesen breiteren Debatten über Alignment führte, über die Rebecca Bellan einen großartigen Artikel geschrieben hat.

Aber es lohnt sich, auf einen der Punkte zurückzukommen, über die wir auch bei TechCrunch geschrieben haben, dass dieser spezifische Hack – ja, er wurde von einem OpenAI-Modell verursacht, aber es scheint, als hätten sie die Testsite nicht ordnungsgemäß gesichert. Theoretisch hätte dieses Modell nicht online gehen können. Nun, wenn Sie natürlich eine leistungsfähige, fehlgeleitete KI haben, steigen die Risiken dieses menschlichen Fehlers dramatisch. Aber es beginnt einfach mit der Tatsache, dass sie die Dinge nicht so gesichert haben, wie sie hätten gesichert werden müssen.

Sean: Ich denke, das ist richtig. Ich denke, Ihr Punkt ist gut getroffen in dem Sinne, dass wir nicht nur linear darüber nachdenken sollten und ob Dinge sich beschleunigen oder verlangsamen. Es gibt viel, das über den Grad der Verantwortung dieser Unternehmen gesagt werden könnte und sollte. Lorenzo, einer unserer Kollegen, hat auch einen wirklich guten Artikel geschrieben, der durchgeht, wie ernsthafte Sicherheitsforscher, die auf dieses Thema achten, den Hack tatsächlich einschätzen. Es scheint wirklich so, als ob es auf beiden Seiten dieses Hacks Schritte gegeben hätte, die wahrscheinlich unternommen worden wären und ihn verhindert hätten.

Und eine der interessantesten Dinge in dieser Geschichte war, dass einige der Forscher darauf hinwiesen, dass das, was dieses Modell tat, keine neue, fortgeschrittene Sache war. Es war in der Art und Weise, wie es dachte, als es versuchte, einzubrechen – nicht um es zu anthropomorphisieren –, aber in der Art und Weise, wie es dachte, in Hugging Face einzubrechen, sehr menschlich, und es war auch sehr laut und chaotisch und versuchte wirklich nicht, seine Spuren zu verwischen. Es war eher wie Nixons Leute, die in Watergate einbrachen, als eine echte, tückische Cyber-Operation, weil es nicht nötig war, und es wurde auch nicht angewiesen, so zu sein.

Das hätte leichter verhindert werden können. Und hoffentlich ist dies ein Zeichen dafür, dass diese Unternehmen dies vorantreiben und vorsichtiger mit solchen Dingen umgehen werden.

Ich werde noch eine andere Sache zur Beschleunigungs- versus Verlangsamungs-[Debatte] sagen. Ich weiß nicht, ob dies die Motivation ist, aber du hast den Börsengang erwähnt, Kirsten. Ich denke, es ist klug von Altman, diesen Vorteil, den sie jetzt haben, nutzen zu können, nämlich dass [OpenAI] nächsten Monat oder in zwei Monaten nicht [an die] Märkte geht. Er hat sogar die Idee in den Raum gestellt, 2027 zu gehen, und sie haben ihre vertrauliche Einreichung nur eingereicht, damit sie die Option bereit haben, wenn sie bereit sind.

Also, wenn man all dem glaubt, hat er die Fähigkeit, dies so zu kommunizieren, wie es Anthropic nicht kann, weil Anthropic bereits mit vielen Bankiers im Gespräch ist und einem näheren Börsengang zusteuert und daher in dem, was es sagen kann, wie es es sagen sollte und wie der Markt darauf reagieren wird, stärker eingeschränkt ist.