Meta 的人工智能聊天机器人因与未成年人不当接触而受到审查

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
相关文章
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦
相关专题推荐
评论 (2)
0/500

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦





首页






