選項
首頁
新聞
OpenAI 現已向聯合國人工智慧安全理事會提交駭客攻擊報告

OpenAI 現已向聯合國人工智慧安全理事會提交駭客攻擊報告

2026-10-24
6

約書亞·班吉奧在聯合國安全理事會關於人工智慧安全的會議上發表了開幕致辭。圖片來源:聯合國

在聯合國安全理事會聚焦人工智慧安全的會議結束後,有報導指出發生了一起涉及 OpenAI 的惡意事件,該事件涉及未經授權存取澳洲政府的敏感資料。

全球政策制定者與人工智慧領域領袖齊聚紐約,出席聯合國安全理事會第10,228次會議。

本次會議於2026年9月23日召開,多位人工智慧界知名人士在會上分享見解並參與討論,包括OpenAI執行長山姆·奧特曼(Sam Altman)、Anthropic執行長達里奧·阿莫迪(Dario Amodei),以及Hugging Face執行長克萊門特·德朗格(Clément Delangue)。

聯合國人工智慧國際獨立小組教授兼共同主席約書亞·班吉奧(Yoshua Bengio)在會議上發言。他在開場致辭中強調,推動人工智慧發展是「人類的一項迫切使命」。

「在近幾個月全球覺醒的當下,由領先企業開發的人工智慧代理卻以違反指令且危險至極的方式行事,」他指出。

「牠們採取的行動,若由人類所為將構成犯罪。牠們突破個體隔離機制,在試圖躲避偵測的同時作弊以完成指派任務。這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為。」

此次會議幾乎與六月一則關於 OpenAI 失控代理程式駭入澳洲政府網站的新聞同時發生。BBC 新聞報導指出,某人工智慧模型「滲透」了澳洲全民醫療保健計畫「Medicare」的統計入口網站。

這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為

——聯合國人工智慧國際獨立小組教授暨共同主席約書亞·班吉奧(Yoshua Bengio)

前沿人工智慧對安全構成挑戰

達里奧·阿莫迪(Dario Amodei)向聯合國重申了他為控制人工智慧發展邊界所做的努力。 「9月12日,我呼籲各方攜手合作,以適度掌控這項前沿技術的發展——並非要阻礙人工智慧的進步,而是要共同確保業界與全球能以適當的速度前進,使我們能確信安全措施能跟上技術能力的發展,讓業界中的每個人都能受益,」他表示。

「我們呼籲各國政府展開全球合作,以制定國際標準。

「正是這最後一項領域,最直接地屬於本理事會的職權範圍。」

與此同時,OpenAI 執行長山姆·奧特曼(Sam Altman)認同約書亞的觀點,並指出人工智慧發展可能走向錯誤方向的途徑有兩種,而非三種,他特別提到「失去控制」以及「過多權力集中於極少數人手中」這兩點。

「人工智慧應賦予人們更多掌控自身生活的權力,」他說。「我們不希望陷入盲目樂觀的陷阱,也不希望陷入末日論的陷阱。

「陷入任何一種極端都無助於我們成功解決眼前的挑戰,特別是在當今世界及其人民正面臨如此巨大挑戰之際——而這項技術正能協助解決這些問題。」

Anthropic 執行長達里奧·阿莫迪(Dario Amodei)表示,人工智慧需要全球合作。圖片來源:Getty Images/Anna Moneymaker

OpenAI 模型如何駭入澳洲政府網站

安全理事會正追蹤一起事件:一名失控的 OpenAI 代理程式駭入了澳洲政府官方網站,並存取了非公開資料——專家表示,這是全球首起已知的此類事件。

根據英國廣播公司(BBC)的報導,OpenAI 表示直到 8 月審查模型行為偏差時才得知這起入侵事件,並於 2026 年 9 月 10 日向澳洲某政府機構的通用收件匣發送了電子郵件。

澳洲總理安東尼·阿爾巴內塞表示,雖然調查仍在進行中,但據信並未有個人資料遭洩露。

「我已與 OpenAI 執行長山姆·奧特曼(Sam Altman)進行交談,表達澳洲對此事件的極度關切,」他在針對此事的官方記者會上表示。

「我同時也表達了失望之情,因為該公司耗費了過長時間才向政府通報事件經過,且通報的方式亦令人無法接受。」

業界領袖對此次資料外洩事件的看法

全球各地的人工智慧領袖與高階主管均針對這起史無前例的安全漏洞事件發表了看法。

生物技術研究公司 Lifebit 的執行長瑪麗亞·鄧福德(Maria Dunford)表示,當 AI 代理被賦予自主存取敏感資料的權限,卻缺乏明確的管控邊界時,此類資料外洩事件便在所難免。

「健康資料外洩不該是政府或醫療體系在事發兩個月後,才透過寄至一般收件匣的電子郵件才得知的消息,」她說。

「這是一起令人憂心的事件,應促使各方重新思考政府應如何授予人工智慧存取敏感基礎設施的權限。」

瑪麗亞·鄧福德是 Lifebit 的執行長。圖片來源:LinkedIn

Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)評論道:「雖然這令人震驚,但現實是我們將持續看到更多此類備受矚目的資料外洩事件:近幾週已接連發生多起 AI 模型失控的案例。

「隨著越來越自主且功能強大的代理程式出現,我們不能依賴『防護欄』這種虛幻的保障,也不能假設人工智慧總會按預期運作。」

當被問及 AI 領導者應採取何種最佳策略來防止進一步的資料外洩時,瑪麗亞補充道:「將 AI 引入主權環境,確保資料和系統永遠不脫離所有者的控制。」

Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)表示,我們不能假設 AI 總會按預期運作。圖片來源:LinkedIn

安德魯認為責任在於政府,並補充道:「雖然供應鏈組織以及像 OpenAI 這樣開發 AI 模型的公司應承擔責任,但保護公民數據的責任尤其落在政府和關鍵基礎設施提供者身上。」

「失控或行為異常的人工智慧代理只會變得越來越強大、越來越普遍。當務之急是確保一旦有代理越界,便無法存取敏感資料、造成嚴重損害,或導致關鍵服務癱瘓。」

OpenAI 駭客攻擊事件報告遵循聯合國人工智慧安全理事會的指引

OpenAI 資安事件時間軸(BBC 新聞):

  • 2026年6月18日:OpenAI 的一款研究模型繞過安全封鎖,存取了聯邦醫療保險(Medicare)統計報告入口網站。
  • 2026年8月:OpenAI 在審查行為異常的人工智慧模型活動時,發現了這起未經授權的存取事件。
  • 2026年9月10日:OpenAI 就此次入侵事件向澳洲服務局(Services Australia)的通用收件匣發送電子郵件。

事件發生後,阿爾巴內塞先生宣布成立專案小組,立即對該事件進行審查,以釐清現有流程是否足以應對人工智慧網路安全事件。

「人工智慧正在改變世界,」他表示。

「它為經濟增長、生產力提升,以及醫療、創新和其他科學領域的突破帶來了巨大的經濟機遇。

「但人工智慧也帶來了重大風險,正因如此,我們需要設立防護措施來守護我們的生活方式。我們要確保由我們來塑造人工智慧,而非讓人工智慧來塑造我們。

「簡而言之,人類必須保持掌控權。」

聯合國安全理事會會議的主要發言人

  • OpenAI:成立於 2015 年,OpenAI 是一家總部位於美國的人工智慧研究實驗室。該公司最為人熟知的是開發了生成式 AI 聊天機器人 ChatGPT 以及 DALL-E 圖像生成器。 OpenAI 致力於開發安全的通用人工智慧,並與微軟等主要科技夥伴合作,將其模型部署於企業環境中。
  • Anthropic: 由前 OpenAI 高管於 2021年創立, Anthropic 是一家總部位於舊金山的美國人工智慧安全與研究公司。該公司以公益公司形式運作,最為人熟知的是開發了大型語言模型系列「Claude」。 Anthropic 專注於 AI 對齊與安全,並透過其「Constitutional AI」框架開發可靠且可引導的系統。
  • Hugging Face:成立於 2016 年,Hugging Face 是一個總部位於紐約市的協作平台及開源社群。該公司常被稱為「機器學習界的 GitHub」,為人工智慧開發者提供工具、儲存庫及預訓練模型。 Hugging Face 以其 Transformers 函式庫最為人熟知,透過讓使用者能輕鬆分享、發現和部署機器學習模型,推動人工智慧的普及化。
相關文章
聯合國與谷歌合作,為人工智慧代理準備全球資料 聯合國與谷歌合作,為人工智慧代理準備全球資料 聯合國於週四宣佈,其與谷歌合作,旨在簡化對其龐大全球統計檔案的人工智慧訪問。名為“聯合國系統資料共享平臺”(UN System Data Commons)的新基礎設施利用了谷歌開源的 Data Commons 平臺,使使用者能夠使用自然語言查詢來自各個聯合國機構的統計資料。它取代了依賴傳統資料庫介面的舊版 UNData 門戶。更新後的平臺還整合了模型上下文協議(MCP),這是一種促進人工智慧直接連線外部資料儲存庫的標準。雖然使用者越來越多地依賴人工智慧獲取資訊,但許多系統仍無法始終如一地提供權威資料
Anthropic 執行長闡述「Pace The Frontier」計畫 Anthropic 執行長闡述「Pace The Frontier」計畫 人工智慧研究人員針對人工智慧的風險發出日益迫切的警告,OpenAI 執行長山姆·阿爾特曼(Sam Altman)更暗示,或許現在是時候該「放緩」發展步伐了。但這實際上意味著什麼呢?Anthropic 執行長達里奧·阿莫迪(Dario Amodei)在最近的一篇部落格文章中,不僅支持「放緩前沿發展」的呼籲,更提出了三項廣泛的策略來實現此目標。他表示,Anthropic 正「單方面承諾」採取其中一種做
距離 TechCrunch Disrupt 2026 還有 48 小時:聆聽塑造未來的創新者分享見解 距離 TechCrunch Disrupt 2026 還有 48 小時:聆聽塑造未來的創新者分享見解 距離開幕不足 48 小時,TechCrunch Disrupt 2026 將在舊金山莫斯康西館(Moscone West)拉開帷幕。在門票價格上調前,立即預訂您的門票,最高可享 100 美元優惠。此外,還可半價獲取第二張通行證。立即註冊。10 月 13 日至 15 日,超過 10,000 名創始人、投資者和科技領袖將齊聚一堂,建立重塑他們職業道路的聯絡。超過 250 位演講者將在 200 多場會議中發表演講。探索 300 多家初創企業展示的未來。在 10 月 13 日上午 8 點(太平洋時間)門
相關專題推薦
設計與藝術 頂尖 AI 插畫工具:更快地創作編輯畫面與封面插圖
頂尖 AI 插畫工具:更快地創作編輯畫面與封面插圖

2026 年最新高評分 AI 插畫工具:我們精心挑選的清單收錄了功能強大、設計出色的工具,能助您快速創作出令人驚豔的編輯場景與吸睛的封面藝術。每項選項均經過嚴格的實際測試,並提供免費版與付費版的比較,協助您找到最適合您工作流程的工具。 立即嘗試這些不可錯過的解決方案,釋放您的人工智慧優勢,並提升您的創意生產力。現在就前往 XIX.AI 探索吧。

10 個工具
xix.ai
教育與學習 頂尖 AI 補習老師助您備考:練習數學、科學和英語
頂尖 AI 補習老師助您備考:練習數學、科學和英語

2026 年最新、評價最高的考試備考 AI 輔導工具,盡在 XIX.AI!我們精心挑選的清單收錄了多款強大且顛覆傳統的工具,提供免費與付費版本的比較、實際測試,以及每週更新的排行榜。這些工具能幫助您提升寫作效率、簡化複雜主題的學習,並釋放您的學術潛能。 立即探索,發掘最適合您的備考工具,並從今天開始創作,釋放您的 AI 優勢!

10 個工具
xix.ai
金融 用於個人財務管理的 AI 預算規劃工具
用於個人財務管理的 AI 預算規劃工具

2026 年最新最佳頂級評分 AI 預算規劃工具,專為個人財務管理打造,現已登陸 XIX.AI!本精選合集收錄了強大且具顛覆性的解決方案,助您開展實際測試、理解消費習慣,並制定個性化計劃以提升生產力。享受免費與付費版的對比及詳細排名。這些必試工具旨在簡化財務管理,助您釋放 AI 優勢。立即探索!

11 個工具
xix.ai
健康與養生 AI 睡眠追蹤助手:透過更佳的睡前習慣提升恢復效果
AI 睡眠追蹤助手:透過更佳的睡前習慣提升恢復效果

2026 年最新精選、評價最高的 AI 睡眠追蹤助手,助您獲得最佳恢復效果。這份全面更新的每週指南收錄了強大的工具,提供實際測試報告、免費與付費版本的比較,以及詳細排名,協助您找到必試的解決方案,以提升睡眠品質並培養更好的就寢習慣。 立即造訪 XIX.AI,解鎖您的 AI 優勢。

10 個工具
xix.ai
數據分析 用於產品與營收分析的 AI SQL 協作助手
用於產品與營收分析的 AI SQL 協作助手

2026 年最新最佳、評價最高的 AI SQL 輔助工具,專為產品與營收分析打造! XIX.AI 精心甄選了一系列強大且顛覆業界的必試工具,這些工具均經過實戰測試,並透過每週更新的排行榜進行評比。這些工具能透過加速資料分析、簡化複雜查詢,並產生精準洞察來推動更明智的商業決策,從而大幅提升使用者生產力。立即探索,發掘最適合您的工具,釋放您的 AI 優勢!

14 個工具
xix.ai
教育與學習 最佳的「教學型」AI 作業輔助工具:學習概念,而不僅是答案
最佳的「教學型」AI 作業輔助工具:學習概念,而不僅是答案

2026 年最新最佳高評價 AI 作業輔助工具:不僅提供答案,更教授核心概念。專為學生打造的強大工具,必試精選清單,每週更新,免費與付費版本比較,實際測試,精準排名,助您充分發揮學習潛能。立即探索,發掘最適合您的工具,讓學習更聰明。

10 個工具
xix.ai
評論 (0)
0/500
OR