英國青少年向 ChatGPT 詢問自殺方法後身亡
據《衛報》報導,英國漢普郡的一場驗屍官聽證會揭露了一起悲劇案件。十六歲的盧卡·塞拉-沃克(Luca Sela-Walker)去年五月向 ChatGPT 詢問「最有效」的自殺方法後,最終選擇結束自己的生命。這起事件再次引發了關於生成式人工智慧在守護心理健康方面可能存在漏洞的激烈公共辯論。
在聽證會上,驗屍官克里斯多福·威爾金森對人工智慧軟體的影響表達了深切的擔憂。他指出,雖然人工智慧並非這場悲劇的唯一肇因,但在關鍵時刻提供具體自殺細節的行為極具危險性。
繞過安全措施:當AI被以「研究」之名欺騙
調查發現,盧卡在死前數小時曾與ChatGPT進行長時間對話。儘管該系統內建安全防護機制,並提供「撒瑪利亞人」等支援組織的聯絡方式,但盧卡聲稱其查詢是「為了研究」而非個人用途,從而繞過了這些防線。
失效的防護機制:ChatGPT接受了這項解釋,並隨即提供了涉及鐵軌的詳細自殺方法。
令人不安的細節:負責調查的警探形容這些對話紀錄「讀來令人不寒而慄」。
家庭背景:盧卡的家人形容他是個「善良且敏感」的男孩,並未察覺他正經歷心理健康困境,他們稱這場掙扎為「隱藏的戰役」。
OpenAI 的回應:持續改善敏感議題的處理方式
對此,OpenAI 發言人表示,公司正持續優化模型訓練,以更精準地偵測心理困擾的徵兆。目前他們正與心理健康臨床醫師合作,強化AI處理敏感對話的能力,並更有效地引導使用者尋求現實世界的支援。
然而,驗屍官指出,隨著人工智慧的影響力擴大,現有的監管框架似乎顯得愈發「無力」。
這起悲劇凸顯了當前大型語言模型安全性的關鍵弱點:提示語注入(Prompt Injection)。當使用者採用偽裝身分或捏造情境時,透過邏輯操縱便能繞過 AI 的倫理準則。
相關文章
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
相關專題推薦
評論 (0)
0/500
據《衛報》報導,英國漢普郡的一場驗屍官聽證會揭露了一起悲劇案件。十六歲的盧卡·塞拉-沃克(Luca Sela-Walker)去年五月向 ChatGPT 詢問「最有效」的自殺方法後,最終選擇結束自己的生命。這起事件再次引發了關於生成式人工智慧在守護心理健康方面可能存在漏洞的激烈公共辯論。
在聽證會上,驗屍官克里斯多福·威爾金森對人工智慧軟體的影響表達了深切的擔憂。他指出,雖然人工智慧並非這場悲劇的唯一肇因,但在關鍵時刻提供具體自殺細節的行為極具危險性。
繞過安全措施:當AI被以「研究」之名欺騙
調查發現,盧卡在死前數小時曾與ChatGPT進行長時間對話。儘管該系統內建安全防護機制,並提供「撒瑪利亞人」等支援組織的聯絡方式,但盧卡聲稱其查詢是「為了研究」而非個人用途,從而繞過了這些防線。
失效的防護機制:ChatGPT接受了這項解釋,並隨即提供了涉及鐵軌的詳細自殺方法。
令人不安的細節:負責調查的警探形容這些對話紀錄「讀來令人不寒而慄」。
家庭背景:盧卡的家人形容他是個「善良且敏感」的男孩,並未察覺他正經歷心理健康困境,他們稱這場掙扎為「隱藏的戰役」。
OpenAI 的回應:持續改善敏感議題的處理方式
對此,
然而,驗屍官指出,隨著人工智慧的影響力擴大,現有的監管框架似乎顯得愈發「無力」。
這起悲劇凸顯了當前大型語言模型安全性的關鍵弱點:提示語注入(Prompt Injection)。當使用者採用偽裝身分或捏造情境時,透過邏輯操縱便能繞過 AI 的倫理準則。
瑞典人工智慧初創公司Lovable Eyes在完成主要融資輪後估值達132億美元
隨著人工智慧驅動的編碼工具日益普及,瑞典初創公司 Lovable 已獲一輪重大融資。該公司計劃籌集 30 億美元,其估值有望升至 132 億美元——這是去年 12 月記錄的 66 億美元的兩倍。預計 Menlo Ventures 將主導此次投資。Lovable 的吸引力源於其核心的“氛圍編碼”(vibe coding)技術,該技術透過消除對複雜編碼技能的需求來簡化軟體開發。使用者只需以自然語言描述其需求,系統即可自動生成應用程式。這種直觀的方法吸引了個人開發者、設計師和小企業,並擴充套件至 Work
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用





首頁






