埃隆·馬斯克的xAI面臨兒童色情訴訟;未成年人稱Grok曾讓他們脫衣

三名匿名原告在週一於加利福尼亞州聯邦法院提起的訴訟中主張,埃隆·馬斯克的公司xAI應當為允許其人工智慧模型生成可識別未成年人的淫穢性影象承擔責任。
這三位原告希望將此案升級為集體訴訟,旨在代表所有那些童年時期的真實照片被Grok修改成色情內容的人。他們稱xAI未能採用其他前沿實驗室所採取的基本預防措施,以防止其影象模型生成涉及真實人物和未成年人的色情作品。該案件名為“Jane Doe 1”、“Jane Doe 2(未成年人)”和“Jane Doe 3(未成年人)訴X.AI Corp及X.AI LLC”,已提交至加利福尼亞州北區聯邦地區法院。
其他深度學習影象生成工具會運用多種技術來防止從普通照片中生成兒童色情內容。該訴訟指出xAI並未採用這些標準。
值得注意的是,如果某個模型能夠允許從真實圖片生成裸體或色情內容,那麼幾乎就無法阻止其生成涉及兒童的性內容。馬斯克公開宣傳Grok具備生成色情影象以及描繪穿著暴露的真實人物的能力,這一行為在該訴訟中起到了重要作用。
該公司尚未對TechCrunch的置評請求作出回應。
其中一名原告Jane Doe 1的高中返校節照片及年鑑圖片被Grok修改,顯示出她裸體的樣子。一位在Instagram上聯絡她的匿名舉報人告訴她這些照片正在網上流傳,並給她傳送了一個Discord伺服器的連結,上面有她以及她在學校認識的其他未成年人的色情化影象。
另一名原告Jane Doe 2則透過刑事調查人員得知,有一款基於Grok模型的第三方移動應用生成了她的色情化修改圖片。第三名原告Jane Doe 3也同樣收到了刑事調查人員的通知,他們從一名被捕者的手機上發現了她的色情修改影象。原告的律師們認為,由於第三方使用仍需依賴xAI的程式碼和伺服器,該公司應當為此負責。
這三位原告中有兩位仍是未成年人,她們表示這些影象的傳播以及可能對其名譽和社會生活造成的影響令她們極度痛苦。她們依據多項旨在保護受剝削兒童並防止企業疏忽的法律,要求獲得民事處罰。
相關文章
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
相關專題推薦
評論 (0)
0/500

三名匿名原告在週一於加利福尼亞州聯邦法院提起的訴訟中主張,埃隆·馬斯克的公司xAI應當為允許其人工智慧模型生成可識別未成年人的淫穢性影象承擔責任。
這三位原告希望將此案升級為集體訴訟,旨在代表所有那些童年時期的真實照片被Grok修改成色情內容的人。他們稱xAI未能採用其他前沿實驗室所採取的基本預防措施,以防止其影象模型生成涉及真實人物和未成年人的色情作品。該案件名為“Jane Doe 1”、“Jane Doe 2(未成年人)”和“Jane Doe 3(未成年人)訴X.AI Corp及X.AI LLC”,已提交至加利福尼亞州北區聯邦地區法院。
其他深度學習影象生成工具會運用多種技術來防止從普通照片中生成兒童色情內容。該訴訟指出xAI並未採用這些標準。
值得注意的是,如果某個模型能夠允許從真實圖片生成裸體或色情內容,那麼幾乎就無法阻止其生成涉及兒童的性內容。馬斯克公開宣傳Grok具備生成色情影象以及描繪穿著暴露的真實人物的能力,這一行為在該訴訟中起到了重要作用。
該公司尚未對TechCrunch的置評請求作出回應。
其中一名原告Jane Doe 1的高中返校節照片及年鑑圖片被Grok修改,顯示出她裸體的樣子。一位在Instagram上聯絡她的匿名舉報人告訴她這些照片正在網上流傳,並給她傳送了一個Discord伺服器的連結,上面有她以及她在學校認識的其他未成年人的色情化影象。
另一名原告Jane Doe 2則透過刑事調查人員得知,有一款基於Grok模型的第三方移動應用生成了她的色情化修改圖片。第三名原告Jane Doe 3也同樣收到了刑事調查人員的通知,他們從一名被捕者的手機上發現了她的色情修改影象。原告的律師們認為,由於第三方使用仍需依賴xAI的程式碼和伺服器,該公司應當為此負責。
這三位原告中有兩位仍是未成年人,她們表示這些影象的傳播以及可能對其名譽和社會生活造成的影響令她們極度痛苦。她們依據多項旨在保護受剝削兒童並防止企業疏忽的法律,要求獲得民事處罰。
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work





首頁






