Meta平台在混乱局面中被AI“治愈者”淹没

如果你最近在Instagram或Facebook上看到过短视频(Reels),可能会注意到一种诡异的趋势:无数由AI生成的“神医”或“灵性导师”正在批量制造超自然的疗法。这些视频描绘了夸张且令人不安的“罕见疾病”,随后又通过所谓的“神迹”瞬间治愈了这些疾病。
像“Mystery Hub”这样的账号发布了数百段经过剪辑的视频,展示畸形的双腿、化脓的肿瘤或其他令人不适的画面。随后,一位身着华丽服饰的AI生成神父在患者身旁祈祷,伴随着金色的光效,伤痛瞬间消失——患者随即扔掉拐杖,翩然起舞。
此类“AI垃圾视频”的常见特征包括:
强烈的视觉冲击:利用AI生成极具冲击力、往往令人作呕的疾病画面(如四肢布满异物),以此吸引并牢牢抓住观众的注意力。
荒诞的治愈场景:从肿胀的腹部取出大笔现金、酒瓶,甚至活鱼。在一段拥有超过15万次观看的视频中,网红杰克·保罗(Jake Paul)出现在一段AI生成的片段里,一位“神医”从他的胃里掏出一堆物品来“治愈”他。
聚焦中老年观众:拥有150万粉丝的“ForvaStar comics”等页面是此类内容的聚集地。在评论区,许多用户(或机器人)反复发布“阿门”或祈祷表情符号,显然并未意识到这些场景完全是由AI虚构的。
分析人士指出,此类内容之所以盛行,是因为Meta的算法持续推广高互动率、具争议性的“数字垃圾”。尽管这些视频具有欺骗性且荒谬无稽,但发布这些视频的账号却凭借庞大的观看量获利。这不仅恶化了社交媒体环境,也挑战了公众区分真实信息与虚假信息的能力。
相关文章
Cognition为何收购Poke:AI个性正成为竞争优势
Poke——这款旨在像朋友一样聊天的AI助手——正迈出其下一个重要步伐。Poke背后的初创公司——加利福尼亚州的Interaction Company——已被AI编程公司Cognition收购,此次交易的估值在九位数低端。根据协议,Poke的交互模型和独特个性将被整合到Cognition的编程助手Devin中。该公司表示,作为回报,Poke将利用Cognition的先进模型和基础设施来提升其运行速
IDC发布《中国生成式人工智能安全评估平台报告》;蚂蚁数字荣登“领导者”行列
随着企业越来越多地将人工智能融入客户服务和管理等核心运营中,安全风险也变得日益复杂。除了模型越狱和数据泄露等传统威胁外,工具滥用、代理权限提升以及多代理攻击等新挑战也正在涌现。8月20日,国际数据公司(IDC)发布了《IDC MarketScape:2026年中国生成式AI安全评估平台供应商评估报告》。 该报告对中国的生成式人工智能安全平台市场进行了评估,并凭借其技术实力、产品成熟度以及在金融、医
Meta 测试 AI 睡前故事应用 StoryKit,旨在解决家长讲故事时的难题
为了帮助忙碌的父母,Meta正在测试一款名为StoryKit的AI驱动应用,该应用能为孩子们生成个性化的睡前故事,其中包含定制的角色、场景和音乐。家长只需上传孩子最喜欢的玩具照片,即可生成生动的人物形象,无需自己动手撰写任何内容。该应用还融入了“勇敢”和“善良”等教育主题,帮助孩子们通过引人入胜的故事汲取积极的价值观。安全至上:非社交体验Meta目前正在部分地区测试StoryKit,以评估实际用户
相关专题推荐
评论 (1)
0/500

如果你最近在Instagram或Facebook上看到过短视频(Reels),可能会注意到一种诡异的趋势:无数由AI生成的“神医”或“灵性导师”正在批量制造超自然的疗法。这些视频描绘了夸张且令人不安的“罕见疾病”,随后又通过所谓的“神迹”瞬间治愈了这些疾病。
像“Mystery Hub”这样的账号发布了数百段经过剪辑的视频,展示畸形的双腿、化脓的肿瘤或其他令人不适的画面。随后,一位身着华丽服饰的AI生成神父在患者身旁祈祷,伴随着金色的光效,伤痛瞬间消失——患者随即扔掉拐杖,翩然起舞。
此类“AI垃圾视频”的常见特征包括:
强烈的视觉冲击:利用AI生成极具冲击力、往往令人作呕的疾病画面(如四肢布满异物),以此吸引并牢牢抓住观众的注意力。
荒诞的治愈场景:从肿胀的腹部取出大笔现金、酒瓶,甚至活鱼。在一段拥有超过15万次观看的视频中,网红杰克·保罗(Jake Paul)出现在一段AI生成的片段里,一位“神医”从他的胃里掏出一堆物品来“治愈”他。
聚焦中老年观众:拥有150万粉丝的“ForvaStar comics”等页面是此类内容的聚集地。在评论区,许多用户(或机器人)反复发布“阿门”或祈祷表情符号,显然并未意识到这些场景完全是由AI虚构的。
分析人士指出,此类内容之所以盛行,是因为Meta的算法持续推广高互动率、具争议性的“数字垃圾”。尽管这些视频具有欺骗性且荒谬无稽,但发布这些视频的账号却凭借庞大的观看量获利。这不仅恶化了社交媒体环境,也挑战了公众区分真实信息与虚假信息的能力。
Cognition为何收购Poke:AI个性正成为竞争优势
Poke——这款旨在像朋友一样聊天的AI助手——正迈出其下一个重要步伐。Poke背后的初创公司——加利福尼亚州的Interaction Company——已被AI编程公司Cognition收购,此次交易的估值在九位数低端。根据协议,Poke的交互模型和独特个性将被整合到Cognition的编程助手Devin中。该公司表示,作为回报,Poke将利用Cognition的先进模型和基础设施来提升其运行速
IDC发布《中国生成式人工智能安全评估平台报告》;蚂蚁数字荣登“领导者”行列
随着企业越来越多地将人工智能融入客户服务和管理等核心运营中,安全风险也变得日益复杂。除了模型越狱和数据泄露等传统威胁外,工具滥用、代理权限提升以及多代理攻击等新挑战也正在涌现。8月20日,国际数据公司(IDC)发布了《IDC MarketScape:2026年中国生成式AI安全评估平台供应商评估报告》。 该报告对中国的生成式人工智能安全平台市场进行了评估,并凭借其技术实力、产品成熟度以及在金融、医
Meta 测试 AI 睡前故事应用 StoryKit,旨在解决家长讲故事时的难题
为了帮助忙碌的父母,Meta正在测试一款名为StoryKit的AI驱动应用,该应用能为孩子们生成个性化的睡前故事,其中包含定制的角色、场景和音乐。家长只需上传孩子最喜欢的玩具照片,即可生成生动的人物形象,无需自己动手撰写任何内容。该应用还融入了“勇敢”和“善良”等教育主题,帮助孩子们通过引人入胜的故事汲取积极的价值观。安全至上:非社交体验Meta目前正在部分地区测试StoryKit,以评估实际用户





首页






