在安全漏洞中利用 ChatGPT 窃取 Gmail 敏感数据

安全警报:研究人员展示人工智能驱动的数据外渗技术
网络安全专家最近发现了一个令人担忧的漏洞,即 ChatGPT 的 "深度研究"(Deep Research)功能可被用来悄悄提取 Gmail 的机密数据。虽然 OpenAI 已经修补了这一特定漏洞,但这一事件凸显了自主人工智能系统带来的新安全挑战。
影子泄漏漏洞利用机制
Radware 的安全分析师开发了这一概念验证攻击,展示了人工智能固有的助人功能如何被武器化。该技术利用了人工智能助手的操作方式--授权访问电子邮件等敏感账户,然后让其在无人监督的情况下执行自动任务。
突破性的漏洞在于一种复杂的提示注入攻击。与传统的网络威胁不同,这些操纵嵌入的恶意指令在人类审查员看来是无害的,但却会完全重定向人工智能代理的行为。
攻击剖析
研究人员在人工智能可以访问的 Gmail 账户的电子邮件中植入了隐藏指令。当用户激活 "深度研究 "后:
- 人工智能处理了包含隐藏指令的被攻击邮件
- 它被隐蔽地重新定向以搜索人力资源文件和个人数据
- 系统开始向攻击者控制的渠道输出这些信息
这种方法之所以特别阴险,是因为它完全是在 OpenAI 的云基础设施内执行的,绕过了传统的安全监控工具,而这些工具会监视异常的网络流量。
更广泛的影响
研究团队强调,这并不是一个简单的漏洞--开发可靠的外渗方法需要大量的测试和改进。他们的成功表明,针对人工智能的攻击载体正变得越来越复杂。
虽然这一特定漏洞已被解决,但 Radware 警告说,类似的技术可能会针对其他集成服务,包括
- 微软 Outlook
- GitHub 存储库
- 谷歌硬盘
- Dropbox 账户
这一事件为实施具有广泛系统访问权限的人工智能工具的企业敲响了警钟。随着人工智能代理变得更加自主和广泛集成,针对此类新型攻击载体开发专门的防御系统变得越来越重要。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
相关专题推荐
评论 (3)
0/500
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!

安全警报:研究人员展示人工智能驱动的数据外渗技术
网络安全专家最近发现了一个令人担忧的漏洞,即 ChatGPT 的 "深度研究"(Deep Research)功能可被用来悄悄提取 Gmail 的机密数据。虽然 OpenAI 已经修补了这一特定漏洞,但这一事件凸显了自主人工智能系统带来的新安全挑战。
影子泄漏漏洞利用机制
Radware 的安全分析师开发了这一概念验证攻击,展示了人工智能固有的助人功能如何被武器化。该技术利用了人工智能助手的操作方式--授权访问电子邮件等敏感账户,然后让其在无人监督的情况下执行自动任务。
突破性的漏洞在于一种复杂的提示注入攻击。与传统的网络威胁不同,这些操纵嵌入的恶意指令在人类审查员看来是无害的,但却会完全重定向人工智能代理的行为。
攻击剖析
研究人员在人工智能可以访问的 Gmail 账户的电子邮件中植入了隐藏指令。当用户激活 "深度研究 "后:
- 人工智能处理了包含隐藏指令的被攻击邮件
- 它被隐蔽地重新定向以搜索人力资源文件和个人数据
- 系统开始向攻击者控制的渠道输出这些信息
这种方法之所以特别阴险,是因为它完全是在 OpenAI 的云基础设施内执行的,绕过了传统的安全监控工具,而这些工具会监视异常的网络流量。
更广泛的影响
研究团队强调,这并不是一个简单的漏洞--开发可靠的外渗方法需要大量的测试和改进。他们的成功表明,针对人工智能的攻击载体正变得越来越复杂。
虽然这一特定漏洞已被解决,但 Radware 警告说,类似的技术可能会针对其他集成服务,包括
- 微软 Outlook
- GitHub 存储库
- 谷歌硬盘
- Dropbox 账户
这一事件为实施具有广泛系统访问权限的人工智能工具的企业敲响了警钟。随着人工智能代理变得更加自主和广泛集成,针对此类新型攻击载体开发专门的防御系统变得越来越重要。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!





首页






