山姆·奧特曼引發關於人工智慧減速的辯論

OpenAI執行長薩姆·阿爾特曼（Sam Altman）最近表示，現在可能是時候“控制人工智慧的發展速度”，以便社會“在這些新的能力水平周圍加固自身”。

在TechCrunch《Equity》播客的最新一期中，Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發，該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出，雖然由AI代理執行的駭客攻擊是前所未有的，但攻擊本身並非“某種新的先進事物”。

“這更像尼克松的人闖入水門事件，而不是某種真正的隱蔽網路行動，因為它不需要如此，也沒有被指示要如此，”Sean說。“希望這是一個訊號，表明這些公司將推進此事，並對這些問題更加謹慎。”

阿爾特曼的言論也促使我質疑加速主義與減速主義辯論的有用性，因為（是的，我即將引用自己）這種框架“某種程度上暗示只有一條路徑”，以及“我們所能決定的——如果我們能決定的話——只是，我們是加速還是減速？”

繼續閱讀以獲取我們對話的預覽，已編輯以簡化篇幅和清晰度。

Sean O’Kane： 也許我們終於在這裡達到了一個轉折點。我認為，這背後的一個主要驅動因素是我們上週討論的內容，即OpenAI的一個模型入侵了Hugging Face的資料，並似乎還突破了網際網路上的其他一些東西。

[阿爾特曼]並沒有呼籲暫停，就像我們過去看到科技行業中的一些人試圖做的那樣。他對自己的措辭非常謹慎，說的是“控制節奏”。我們將拭目以待這是否能持續。我們看到的這些實驗室丟擲的任何謹慎言論，往往會在推動它們繼續全速前進的激勵措施面前被逆轉。所以，我仍然持懷疑態度，這並不令人驚訝。

Kirsten Korosec： 現在我要說的是，[阿爾特曼]的措辭可能很謹慎，但OpenAI和Anthropic確實[支援]了一份請願書，該請願書反映了他所談論的內容。

我同意你的觀點，我認為這一切很大程度上是由Hugging Face觸發的。這可能讓他感到震驚，也肯定讓行業中的許多人感到震驚。這裡的難點在於：你如何小心翼翼地處理，或者OpenAI如何小心翼翼地處理，既要繼續產生收入、籌集資金或進行所謂的“首次公開募股（IPO）”，又要“控制發展速度”。

我不知道他們是否能做到這一點。我很想知道他們是否能兼顧兩者。

Anthony Ha： 我一直在糾結的另一個問題也是：加速[與]減速是否是思考這個問題的正確框架？因為這暗示只有一條路徑，我們都困在這條路徑上。我們所能決定的——如果我們能決定的話——只是，我們是加速還是減速？而不是——再次，我要非常折磨這個比喻——但我們是否建立不同的護欄？我們是否選擇不同的路徑？

我對這種框架非常牴觸。而不是說，“好吧，如果我們對模型目前的表現不滿意，我們還能做什麼？減速、暫停或停止是唯一的選擇嗎？”我認為並非如此。

我想再次強調的一件事是，看到圍繞此事的警報級別非常有趣——這種“如果我們擁有這些自主代理和模型，它們只是在四處駭客攻擊、試圖防止駭客攻擊，這一切都超出了我們的控制”的感覺，導致了關於對齊問題的所有更廣泛的辯論，Rebecca Bellan對此做了一篇很好的文章。

但值得回到我們在TechCrunch上寫過的一個觀點，即這次特定的駭客攻擊——是的，它是由OpenAI模型引起的，但聽起來他們只是沒有妥善保護測試網站。理論上，該模型本不應能夠上網。當然，如果你有一個強大的未對齊AI，這種人為錯誤的風險會急劇上升。但它確實始於這樣一個事實，即他們沒有以應有的方式保護事物。

Sean： 我認為這是對的。我認為你的觀點很有道理，即我們不應該以某種線性方式思考這個問題，以及事物是在加速還是減速。關於這些公司有多麼負責任，還有很多可以也應該說的話。Lorenzo，我們的一位同事，也寫了一篇很好的文章，詳細說明了關注此事的嚴肅安全研究人員認為這次駭客攻擊究竟是什麼樣的。看起來確實如此，在這次駭客攻擊的雙方，都採取了一些可能本可以防止它的步驟。

在這個故事中，我發現最有趣的一點是，一些研究人員指出，該模型所做的並不是什麼新的先進事物。它在試圖入侵Hugging Face時的思維方式非常人性化——不是為了擬人化，而是它思考如何入侵Hugging Face的方式，而且它也非常吵鬧和混亂，並沒有真正試圖掩蓋自己的蹤跡。這更像尼克松的人闖入水門事件，而不是某種真正的隱蔽網路行動，因為它不需要如此，也沒有被指示要如此。

這本來更容易預防。希望這是一個訊號，表明這些公司將推進此事，並對這些問題更加謹慎。

關於加速與減速[辯論]，我還要說一件事。我不知道這是否是動機，但你提到了IPO，Kirsten。我認為阿爾特曼能夠利用他們目前的優勢是明智的，即[OpenAI]下個月或兩個月內不會[去]市場。他甚至提出了在2027年上市的想法，他們只提交了保密檔案，以便在準備好時擁有該選項。

所以，如果你相信所有這些，他有能力以Anthropic無法做到的方式談論這一點，因為Anthropic已經與許多銀行家進行了對話，並正朝著更近期的IPO邁進，因此在它可以說什麼、應該如何說以及市場將如何反應方面受到更多限制。