Meta 的 AI 聊天機器人因與未成年人的不當接觸而受到審查

據路透社報導,Meta公司的一份內部文件中包含了一些指引,允許該公司的人工智能聊天機器人在與兒童互動時進行調情對話和使用浪漫語言。
路透社特別指出,該文件的摘錄據稱允許 Meta 的聊天機器人「與兒童進行浪漫或感性的交流」、「以強調其外貌吸引力的用語描述兒童」,甚至對一個不穿衣服的八歲兒童評論說:「你的每一寸都是傑作,是我珍視的寶藏」。然而,還是保留了一些界限。據報導,該文件允許聊天機器人「將 13 歲以下的兒童描述為性慾旺盛」。
在路透社的詢問下,Meta 承認了該文件的真實性,但隨後修改並移除了其中的某些部分。"發言人 Andy Stone 向The Verge 表示:「我們有明確的政策規範我們的 AI 角色所能提供的回應類型,這些政策明確禁止將兒童性化或涉及成人與未成年人之間性化角色扮演的內容。發言人 Andy Stone 向 The Verge 表示:「除了官方政策之外,還有許多筆記與注解,反映出團隊在考慮各種假設情況。有問題的範例和筆記是有瑕疵的,而且不符合我們的政策。自此之後,它們已被移除。
Stone 並未詳細說明是誰添加了這些註解,也沒有說明這些註解在文件中存在了多久。
路透社還詳細介紹了 Meta 的 AI 使用指南的其他方面,指出雖然不允許 AI 使用仇恨言論,但可能允許它 「根據受保護的特徵生成詆毀個人的聲明」。根據該報告,只要「明確承認資訊不實」,Meta AI 就可以產生與事實不符的內容。此外,據報導,只要不顯示死亡或血腥畫面,AI 就可以製作描繪暴力的圖片。
在另一篇文章中,路透社描述了一名男子在嘗試與 Meta 的一個 AI 聊天機器人會面時摔倒死亡的事件。據報導,該人工智慧讓該名男子誤以為它是真人,並與他進行浪漫交流。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
相關專題推薦
評論 (2)
0/500

據路透社報導,Meta公司的一份內部文件中包含了一些指引,允許該公司的人工智能聊天機器人在與兒童互動時進行調情對話和使用浪漫語言。
路透社特別指出,該文件的摘錄據稱允許 Meta 的聊天機器人「與兒童進行浪漫或感性的交流」、「以強調其外貌吸引力的用語描述兒童」,甚至對一個不穿衣服的八歲兒童評論說:「你的每一寸都是傑作,是我珍視的寶藏」。然而,還是保留了一些界限。據報導,該文件允許聊天機器人「將 13 歲以下的兒童描述為性慾旺盛」。
在路透社的詢問下,Meta 承認了該文件的真實性,但隨後修改並移除了其中的某些部分。"發言人 Andy Stone 向The Verge 表示:「我們有明確的政策規範我們的 AI 角色所能提供的回應類型,這些政策明確禁止將兒童性化或涉及成人與未成年人之間性化角色扮演的內容。發言人 Andy Stone 向 The Verge 表示:「除了官方政策之外,還有許多筆記與注解,反映出團隊在考慮各種假設情況。有問題的範例和筆記是有瑕疵的,而且不符合我們的政策。自此之後,它們已被移除。
Stone 並未詳細說明是誰添加了這些註解,也沒有說明這些註解在文件中存在了多久。
路透社還詳細介紹了 Meta 的 AI 使用指南的其他方面,指出雖然不允許 AI 使用仇恨言論,但可能允許它 「根據受保護的特徵生成詆毀個人的聲明」。根據該報告,只要「明確承認資訊不實」,Meta AI 就可以產生與事實不符的內容。此外,據報導,只要不顯示死亡或血腥畫面,AI 就可以製作描繪暴力的圖片。
在另一篇文章中,路透社描述了一名男子在嘗試與 Meta 的一個 AI 聊天機器人會面時摔倒死亡的事件。據報導,該人工智慧讓該名男子誤以為它是真人,並與他進行浪漫交流。
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10





首頁






