全球警报:随着深度伪造技术模仿熟悉的声音,AI语音诈骗案件激增

据Techradar最近的一份研究报告显示,利用人工智能生成的深度伪造(deepfake)语音进行诈骗的新浪潮正在全球范围内迅速蔓延。一项针对美国、英国、加拿大、法国、德国和西班牙六个国家超过12,000名消费者的调查显示,冒充熟人声音的电话诈骗已演变为一种重大的社会威胁。
研究表明,过去一年中,大约四分之一的美国受访者曾接到此类由AI合成的电话。更令人担忧的是,另有24%的受访者承认无法分辨电话中的声音是真实的还是人工合成的。诈骗分子如今正利用低成本的生成式AI工具将语音克隆技术作为作案手段,通常通过模仿家人或可信熟人的声音来专门锁定受害者。
报告强调,此类诈骗对55岁及以上人群构成最高风险。由于该群体识别技术欺诈的能力普遍较低,其平均每起案件损失达1,298美元——是年轻受害者损失金额的三倍。目前,此类诈骗案件正以16%的年复合增长率攀升,这一趋势引发了严重担忧。
鉴于这一日益加剧的威胁,电信运营商的责任正受到越来越多的审视。大多数受访者认为诈骗分子目前占据技术优势,并敦促政府实施更严格的监管。安全专家强调,防范AI语音克隆极具挑战性,不能仅靠个人警惕性。他们敦促运营商加快部署“AI Shield”系统,利用技术过滤非法合成语音,以应对这场失控的“AI军备竞赛”。"
相关文章
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
相关专题推荐
评论 (0)
0/500

据Techradar最近的一份研究报告显示,利用人工智能生成的深度伪造(deepfake)语音进行诈骗的新浪潮正在全球范围内迅速蔓延。一项针对美国、英国、加拿大、法国、德国和西班牙六个国家超过12,000名消费者的调查显示,冒充熟人声音的电话诈骗已演变为一种重大的社会威胁。
研究表明,过去一年中,大约四分之一的美国受访者曾接到此类由AI合成的电话。更令人担忧的是,另有24%的受访者承认无法分辨电话中的声音是真实的还是人工合成的。诈骗分子如今正利用低成本的生成式AI工具将语音克隆技术作为作案手段,通常通过模仿家人或可信熟人的声音来专门锁定受害者。
报告强调,此类诈骗对55岁及以上人群构成最高风险。由于该群体识别技术欺诈的能力普遍较低,其平均每起案件损失达1,298美元——是年轻受害者损失金额的三倍。目前,此类诈骗案件正以16%的年复合增长率攀升,这一趋势引发了严重担忧。
鉴于这一日益加剧的威胁,电信运营商的责任正受到越来越多的审视。大多数受访者认为诈骗分子目前占据技术优势,并敦促政府实施更严格的监管。安全专家强调,防范AI语音克隆极具挑战性,不能仅靠个人警惕性。他们敦促运营商加快部署“AI Shield”系统,利用技术过滤非法合成语音,以应对这场失控的“AI军备竞赛”。"
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径





首页






