多國要求在大型模型釋出前必須進行安全評估

隨著人工智慧在全球範圍內迅速發展,對大型語言模型的監管正從宏觀原則轉向具體的執行措施。英國、美國和澳大利亞的政府近期出臺了新規定,要求前沿的人工智慧系統在正式上線前必須接受政府主導的安全漏洞與風險邊界測試。
英國的做法正在成為全球政策模板
在這一監管變革中,由英國人工智慧安全研究所(AISI)制定的紅隊測試與風險評估框架正逐漸成為其他國家的參考標準。近期,英國政府宣佈與澳大利亞人工智慧安全研究所建立正式合作伙伴關係,共同監測先進人工智慧在網路攻擊與防禦領域可能帶來的風險,並交流核心能力方面的見解。
這一新模式打破了以往依賴企業自願承諾的做法,讓政府直接參與到測試過程中。今後,大型人工智慧模型在參與市場競爭時將需要經歷類似“上線前安全檢查”的合規流程,而安全測試能力也日益成為產品競爭力的關鍵要素。
美國科技巨頭加入國家安全評估行列
與此同時,美國商務部下屬的人工智慧標準與創新中心(CAISI)也在推進類似的國家安全評估機制。包括谷歌DeepMind、微軟以及埃隆·馬斯克的xAI在內的多家領先人工智慧公司已與該中心達成重要協議,承諾在公開發布其模型之前提供相關資料並接受全面的安全評估。
在此期間,微軟還表示將進一步加強與美國和英國測試機構的合作,共同降低先進模型可能帶來的大規模公共安全風險。這些迅速建立的國際合作夥伴關係傳遞了一個明確訊號:未來的人工智慧監管將不再僅僅關注企業是否制定了安全承諾,而是重點考察這些承諾是否真正經過了測試。
相關文章
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
相關專題推薦
評論 (0)
0/500

隨著人工智慧在全球範圍內迅速發展,對大型語言模型的監管正從宏觀原則轉向具體的執行措施。英國、美國和澳大利亞的政府近期出臺了新規定,要求前沿的人工智慧系統在正式上線前必須接受政府主導的安全漏洞與風險邊界測試。
英國的做法正在成為全球政策模板
在這一監管變革中,由英國人工智慧安全研究所(AISI)制定的紅隊測試與風險評估框架正逐漸成為其他國家的參考標準。近期,英國政府宣佈與澳大利亞人工智慧安全研究所建立正式合作伙伴關係,共同監測先進人工智慧在網路攻擊與防禦領域可能帶來的風險,並交流核心能力方面的見解。
這一新模式打破了以往依賴企業自願承諾的做法,讓政府直接參與到測試過程中。今後,大型人工智慧模型在參與市場競爭時將需要經歷類似“上線前安全檢查”的合規流程,而安全測試能力也日益成為產品競爭力的關鍵要素。
美國科技巨頭加入國家安全評估行列
與此同時,美國商務部下屬的人工智慧標準與創新中心(CAISI)也在推進類似的國家安全評估機制。包括谷歌DeepMind、微軟以及埃隆·馬斯克的xAI在內的多家領先人工智慧公司已與該中心達成重要協議,承諾在公開發布其模型之前提供相關資料並接受全面的安全評估。
在此期間,微軟還表示將進一步加強與美國和英國測試機構的合作,共同降低先進模型可能帶來的大規模公共安全風險。這些迅速建立的國際合作夥伴關係傳遞了一個明確訊號:未來的人工智慧監管將不再僅僅關注企業是否制定了安全承諾,而是重點考察這些承諾是否真正經過了測試。
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可





首頁






