加州總檢察長就深度偽造色情內容起訴 xAI

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
相關文章
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
相關專題推薦
評論 (0)
0/500

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






