OpenAI 简化了 AI 生成的图像的验证流程

随着人工智能图像生成工具在网络上的普及和日益成熟,区分真实图像与伪造图像的难度也前所未有地增加。本周二,OpenAI公布了两项新措施以应对这一问题。
该公司已采用开放的C2PA标准,该标准会在元数据中嵌入一个清晰信号,表明该图像由AI生成。此外,OpenAI正与谷歌合作,引入名为SynthID的隐形水印——该水印设计得更难被检测到,如果恶意行为者试图掩盖行踪,则更难被移除。
这些保护措施目前仅适用于由OpenAI自有产品生成的图像,因此无法遏制来自信誉较差的AI工具的图像泛滥。不过,这些措施有助于确保OpenAI自身不会加剧这一问题。
OpenAI 还预览了一款公开验证工具,该工具可同时检测上述两种标识,使用户能够轻松验证图片是否由 AI 生成。初期,该工具仅适用于 OpenAI 产品生成的图片,但该公司希望最终将其扩展到其他工具。
成立于2021年的“内容来源与真实性联盟”(C2PA)是一家非营利组织,致力于减少AI生成的图像对公共讨论的有害影响。 C2PA标准已被谷歌的多种产品采用,但整个行业的采用情况仍不尽一致。由于C2PA信号可在每个文件的元数据中轻松获取,因此容易被篡改,这使得该标准在可信用户群体中最为有效。
SynthID是一项较新的举措,旨在提供更强大的防篡改保护。由谷歌开发的SynthID水印经过专门设计,即使恶意行为者试图通过截图、调整尺寸或数字处理来移除它,该水印也能保持不变。
这两个系统旨在相互补充,各自弥补对方的局限性。
“水印在面对截图等转换操作时更具韧性,而元数据则能提供比单纯水印更丰富的信息,”OpenAI 在其公告中指出。“二者结合,使来源追溯的韧性远超单独使用任一层的情况。”
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (0)
0/500

随着人工智能图像生成工具在网络上的普及和日益成熟,区分真实图像与伪造图像的难度也前所未有地增加。本周二,OpenAI公布了两项新措施以应对这一问题。
该公司已采用开放的C2PA标准,该标准会在元数据中嵌入一个清晰信号,表明该图像由AI生成。此外,OpenAI正与谷歌合作,引入名为SynthID的隐形水印——该水印设计得更难被检测到,如果恶意行为者试图掩盖行踪,则更难被移除。
这些保护措施目前仅适用于由OpenAI自有产品生成的图像,因此无法遏制来自信誉较差的AI工具的图像泛滥。不过,这些措施有助于确保OpenAI自身不会加剧这一问题。
OpenAI 还预览了一款公开验证工具,该工具可同时检测上述两种标识,使用户能够轻松验证图片是否由 AI 生成。初期,该工具仅适用于 OpenAI 产品生成的图片,但该公司希望最终将其扩展到其他工具。
成立于2021年的“内容来源与真实性联盟”(C2PA)是一家非营利组织,致力于减少AI生成的图像对公共讨论的有害影响。 C2PA标准已被谷歌的多种产品采用,但整个行业的采用情况仍不尽一致。由于C2PA信号可在每个文件的元数据中轻松获取,因此容易被篡改,这使得该标准在可信用户群体中最为有效。
SynthID是一项较新的举措,旨在提供更强大的防篡改保护。由谷歌开发的SynthID水印经过专门设计,即使恶意行为者试图通过截图、调整尺寸或数字处理来移除它,该水印也能保持不变。
这两个系统旨在相互补充,各自弥补对方的局限性。
“水印在面对截图等转换操作时更具韧性,而元数据则能提供比单纯水印更丰富的信息,”OpenAI 在其公告中指出。“二者结合,使来源追溯的韧性远超单独使用任一层的情况。”
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她





首页






