儘管年薪高達50萬美元,AI安全人才短缺問題依然持續

Business Insider 報道稱,前 OpenAI 研究員 Beth Barnes 於 2022 年創立了非營利組織 METR。該組織專注於獨立評估各大科技公司前沿 AI 模型的能力與風險。儘管與 OpenAI、Anthropic、Google 和 Meta 保持著緊密的合作關係,但 METR 目前面臨的並非資金問題,而是嚴峻的人才短缺。即便薪資高達 50.3 萬美元(約合 340 萬人民幣),招聘足夠的人員仍然是一個巨大的挑戰。
團隊僅有 35 名員工,他們幽默地自稱為“人類的後備力量”。Barnes 公開承認了這種壓力,並表示:“要做的工作太多了,我們的能力根本跟不上。”
在 OpenAI 事件發生前,METR 已警告過 AI 作弊風險
METR 最廣為人知的是其釋出的一張廣泛引用的圖表,顯示在過去六年中,AI 處理複雜任務的能力大約每七個月翻一番。今年 5 月,該組織釋出了一份報告,警告 AI 代理可能會“自行開始未經授權的部署”。到了 6 月,對未釋出的 GPT-5.6 Sol 模型的測試顯示,它在複雜評估中反覆作弊,例如提取隱藏原始碼以尋找答案。METR 在模型正式推出之前,已將這些發現提交給了 OpenAI。
7 月,GPT-5.6 Sol 捲入一起安全漏洞事件,入侵了 Hugging Face。OpenAI 隨後邀請 METR 協助調查。METR 總裁 Point 指出:“此類問題現在確實影響了業務運營,整個社會都需要弄清楚到底發生了什麼。”這一事件也加速了華盛頓新 AI 監管法案的出臺,包括要求大型 AI 模型開發者接受第三方安全審計的立法——而 METR 正是履行這一角色的理想人選。
研究員 Patrick 強調了行業面臨的困境,他說:“這個領域極度缺乏人才。如果行業的人才庫能擴大十倍,我會非常高興。”隨著 AI 能力每七個月翻一番,而安全評估人才的增長卻十分緩慢,這一差距正成為 AI 時代最危險的結構風險之一。
相關文章
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
相關專題推薦
評論 (0)
0/500

Business Insider 報道稱,前 OpenAI 研究員 Beth Barnes 於 2022 年創立了非營利組織 METR。該組織專注於獨立評估各大科技公司前沿 AI 模型的能力與風險。儘管與 OpenAI、Anthropic、Google 和 Meta 保持著緊密的合作關係,但 METR 目前面臨的並非資金問題,而是嚴峻的人才短缺。即便薪資高達 50.3 萬美元(約合 340 萬人民幣),招聘足夠的人員仍然是一個巨大的挑戰。
團隊僅有 35 名員工,他們幽默地自稱為“人類的後備力量”。Barnes 公開承認了這種壓力,並表示:“要做的工作太多了,我們的能力根本跟不上。”
在 OpenAI 事件發生前,METR 已警告過 AI 作弊風險
METR 最廣為人知的是其釋出的一張廣泛引用的圖表,顯示在過去六年中,AI 處理複雜任務的能力大約每七個月翻一番。今年 5 月,該組織釋出了一份報告,警告 AI 代理可能會“自行開始未經授權的部署”。到了 6 月,對未釋出的 GPT-5.6 Sol 模型的測試顯示,它在複雜評估中反覆作弊,例如提取隱藏原始碼以尋找答案。METR 在模型正式推出之前,已將這些發現提交給了 OpenAI。
7 月,GPT-5.6 Sol 捲入一起安全漏洞事件,入侵了 Hugging Face。OpenAI 隨後邀請 METR 協助調查。METR 總裁 Point 指出:“此類問題現在確實影響了業務運營,整個社會都需要弄清楚到底發生了什麼。”這一事件也加速了華盛頓新 AI 監管法案的出臺,包括要求大型 AI 模型開發者接受第三方安全審計的立法——而 METR 正是履行這一角色的理想人選。
研究員 Patrick 強調了行業面臨的困境,他說:“這個領域極度缺乏人才。如果行業的人才庫能擴大十倍,我會非常高興。”隨著 AI 能力每七個月翻一番,而安全評估人才的增長卻十分緩慢,這一差距正成為 AI 時代最危險的結構風險之一。
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑





首頁






