首页CAMIA 隐私泄露事件暴露了人工智能模型的记忆数据
一种突破性的新型隐私攻击通过检测个人数据是否被用于训练人工智能系统来暴露漏洞。
CAMIA（情境感知成员推理攻击）由Brave和新加坡国立大学的研究人员联合开发，其性能大大优于以往的人工智能模型记忆分析方法。
人工智能行业面临着越来越多的 "数据记忆 "问题，即模型无意中保留了敏感的训练信息。医疗保健领域的人工智能可能会泄露病人记录，而企业训练的模型则可能会反刍机密邮件。
LinkedIn 计划利用用户数据进行人工智能训练等最新进展加剧了对隐私问题的争论，凸显了敏感信息出现在生成内容中的潜在风险。
安全专家采用成员推理攻击（MIAs）来检测数据泄露。这些测试主要是询问模型"这个具体例子是你培训的一部分吗？成功的攻击会确认危险的隐私泄露。
其原理源于模型处理熟悉的训练数据的方式与处理新信息的方式不同--MIA 系统地利用了这些行为差异。
事实证明，传统的 MIA 对现代生成式人工智能无效，因为它们是为更简单的分类模型设计的。大型语言模型是按顺序生成文本的，因此整体评估不足以发现漏洞。
CAMIA 的创新认识到，人工智能的记忆取决于上下文。在不确定后续反应时，模型最依赖于记忆内容。
考虑一下 "哈利-波特是......写的......哈利的世界......"。- 通过上下文线索而不是记忆，模型很容易预测出 "波特"。
然而，如果只给出 "哈利"，预测 "波特 "则需要实际记忆训练数据。在模棱两可的语境中，高置信度的预测结果有力地表明了记忆内容。
CAMIA 是首个专为生成式人工智能设计的隐私攻击工具。它跟踪文本生成过程中的不确定性波动，区分上下文猜测和真正的回忆。
使用 Pythia 和 GPT-Neo 模型在 MIMIR 基准上进行的测试结果令人印象深刻。与参数为 2.8B 的 Pythia 模型相比，CAMIA 将检测准确率提高了近一倍，同时保持了最低的 1%误报率。
这种攻击的运行效率很高--在 A100 GPU 上处理 1,000 个样本大约需要 38 分钟，这使它在实际模型审计中变得可行。
这项研究强调了在未经审核的数据集上训练大规模模型所固有的隐私风险。该团队旨在推广隐私保护技术，在人工智能的实用性和用户保护之间取得平衡。
另请参见：三星为企业人工智能模型的实际生产力设定基准
在阿姆斯特丹、加利福尼亚和伦敦举行的人工智能和大数据博览会上探索人工智能和大数据的发展。这一 TechEx 附属活动与领先的技术会议一起提供全面的见解。
人工智能新闻由 TechForge Media 为您提供。了解即将举行的企业技术活动和网络研讨会。
相关文章
据报道员工浏览了露骨内容，Meta因AI眼镜隐私问题面临诉讼
Meta正面临一起涉及其AI智能眼镜隐私问题的新诉讼。据瑞典媒体调查，一家位于肯尼亚的分包商员工一直在审查客户的视频 footage。据报道，这些视频包含裸露、性行为以及人们如厕等敏感内容。Meta表示会在图像中对人脸进行模糊处理，但新闻报道援引消息人士称，这一措施并非总是有效。这一调查结果促使英国信息专员办公室展开调查。这家科技巨头目前在美国也面临法律诉讼。在最新提交的诉状中，由公益律所克拉克森
OpenAI创始人山姆·阿尔特曼宣告超级智能时代来临
OpenAI首席执行官山姆·奥尔特曼宣布，人类已进入人工智能超级智能时代，且无法回头。"我们已越过不可逆转的临界点，上升阶段正式开启，"奥特曼表示，"人类正站在创造数字超级智能的边缘，而迄今为止，其发展态势竟比想象中更不令人感到陌生。"尽管缺乏明显迹象——街头尚未遍布机器人，疾病依然存在——但奥特曼所描述的深刻变革已悄然启动。在他这样的公司内部，正在研发能够超越人类通用智能的系统。"从重要意义上说
人工智能热潮引发对互联网泡沫时代的担忧
人工智能领域数十亿美元的投资涌入，引发了一场激烈争论：该行业是否正走向互联网泡沫式的泡沫？投资者正警惕着热情降温的迹象，或芯片与基础设施巨额投入未能带来预期回报的征兆。美银全球研究近期调查凸显了这种谨慎态度：54%的基金经理认为人工智能股票已处于泡沫状态，38%持反对意见。与互联网泡沫的相似之处尽管普遍乐观，质疑者仍质疑人工智能的实质影响，部分人将其斥为虚张声势或即将破灭的泡沫。思科亚太、日本及中
相关专题推荐
写作
最适合撰写长篇SEO文章的AI大纲生成器
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
教育与学习
用于作业和考试备考的AI学习工具
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
音乐创作
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
商业
适合中小企业的最佳AI竞品分析工具
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
图像编辑
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
提示词
适用于 ChatGPT 工作流的最佳 AI 提示词库
2026年最新、最受好评的AI提示词库，可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库，均经过严格的实际测试，以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名，这些内容将帮助您挑选出必试的工具，从而提升工作效率并释放您的AI优势。立即探索！
11 个工具
xix.ai
评论 (4)
0/500
![JoeWalker]()
Is my data in there? 🤔 This CAMIA attack by Brave and NUS is pretty scary. It feels like we're just training material for these models without even knowing it. Makes me wonder about the real cost of 'free' AI services.
![BenGarcía]()
This is wild! 🤯 So basically they can tell if my personal data was used to train an AI? That's both cool and terrifying. What if companies get sued over this? Privacy laws need to catch up fast, because memorization is a real issue.
![MarkHarris]()
Also das mit dem CAMIA-Angriff klingt echt nicht gut. KI-Modelle sollen doch keine persönlichen Daten speichern, oder? Wenn jetzt jeder prüfen kann, ob seine eigenen Daten im Training waren, wo soll das hinführen? Da müssen dringend strengere Datenschutzregeln für KI-Entwicklung her. Ist ja fast schon beängstigend, was da alles rauskommen könnte... 🤔
![RalphSmith]()
Слышали про CAMIA? Это кошмар для приватности! Теперь любой может узнать, использовались ли их данные для обучения ИИ. Время удалять свои фото из интернета 📸 А вы как думаете - стоит ли запретить сбор личных данных для ИИ?
一种突破性的新型隐私攻击通过检测个人数据是否被用于训练人工智能系统来暴露漏洞。
CAMIA（情境感知成员推理攻击）由Brave和新加坡国立大学的研究人员联合开发，其性能大大优于以往的人工智能模型记忆分析方法。
人工智能行业面临着越来越多的 "数据记忆 "问题，即模型无意中保留了敏感的训练信息。医疗保健领域的人工智能可能会泄露病人记录，而企业训练的模型则可能会反刍机密邮件。
LinkedIn 计划利用用户数据进行人工智能训练等最新进展加剧了对隐私问题的争论，凸显了敏感信息出现在生成内容中的潜在风险。
安全专家采用成员推理攻击（MIAs）来检测数据泄露。这些测试主要是询问模型"这个具体例子是你培训的一部分吗？成功的攻击会确认危险的隐私泄露。
其原理源于模型处理熟悉的训练数据的方式与处理新信息的方式不同--MIA 系统地利用了这些行为差异。
事实证明，传统的 MIA 对现代生成式人工智能无效，因为它们是为更简单的分类模型设计的。大型语言模型是按顺序生成文本的，因此整体评估不足以发现漏洞。
CAMIA 的创新认识到，人工智能的记忆取决于上下文。在不确定后续反应时，模型最依赖于记忆内容。
考虑一下 "哈利-波特是......写的......哈利的世界......"。- 通过上下文线索而不是记忆，模型很容易预测出 "波特"。
然而，如果只给出 "哈利"，预测 "波特 "则需要实际记忆训练数据。在模棱两可的语境中，高置信度的预测结果有力地表明了记忆内容。
CAMIA 是首个专为生成式人工智能设计的隐私攻击工具。它跟踪文本生成过程中的不确定性波动，区分上下文猜测和真正的回忆。
使用 Pythia 和 GPT-Neo 模型在 MIMIR 基准上进行的测试结果令人印象深刻。与参数为 2.8B 的 Pythia 模型相比，CAMIA 将检测准确率提高了近一倍，同时保持了最低的 1%误报率。
这种攻击的运行效率很高--在 A100 GPU 上处理 1,000 个样本大约需要 38 分钟，这使它在实际模型审计中变得可行。
这项研究强调了在未经审核的数据集上训练大规模模型所固有的隐私风险。该团队旨在推广隐私保护技术，在人工智能的实用性和用户保护之间取得平衡。
另请参见：三星为企业人工智能模型的实际生产力设定基准
在阿姆斯特丹、加利福尼亚和伦敦举行的人工智能和大数据博览会上探索人工智能和大数据的发展。这一 TechEx 附属活动与领先的技术会议一起提供全面的见解。
人工智能新闻由 TechForge Media 为您提供。了解即将举行的企业技术活动和网络研讨会。
据报道员工浏览了露骨内容，Meta因AI眼镜隐私问题面临诉讼
Meta正面临一起涉及其AI智能眼镜隐私问题的新诉讼。据瑞典媒体调查，一家位于肯尼亚的分包商员工一直在审查客户的视频 footage。据报道，这些视频包含裸露、性行为以及人们如厕等敏感内容。Meta表示会在图像中对人脸进行模糊处理，但新闻报道援引消息人士称，这一措施并非总是有效。这一调查结果促使英国信息专员办公室展开调查。这家科技巨头目前在美国也面临法律诉讼。在最新提交的诉状中，由公益律所克拉克森
OpenAI创始人山姆·阿尔特曼宣告超级智能时代来临
OpenAI首席执行官山姆·奥尔特曼宣布，人类已进入人工智能超级智能时代，且无法回头。"我们已越过不可逆转的临界点，上升阶段正式开启，"奥特曼表示，"人类正站在创造数字超级智能的边缘，而迄今为止，其发展态势竟比想象中更不令人感到陌生。"尽管缺乏明显迹象——街头尚未遍布机器人，疾病依然存在——但奥特曼所描述的深刻变革已悄然启动。在他这样的公司内部，正在研发能够超越人类通用智能的系统。"从重要意义上说
人工智能热潮引发对互联网泡沫时代的担忧
人工智能领域数十亿美元的投资涌入，引发了一场激烈争论：该行业是否正走向互联网泡沫式的泡沫？投资者正警惕着热情降温的迹象，或芯片与基础设施巨额投入未能带来预期回报的征兆。美银全球研究近期调查凸显了这种谨慎态度：54%的基金经理认为人工智能股票已处于泡沫状态，38%持反对意见。与互联网泡沫的相似之处尽管普遍乐观，质疑者仍质疑人工智能的实质影响，部分人将其斥为虚张声势或即将破灭的泡沫。思科亚太、日本及中
2026年最新、最受好评的AI大纲生成器，专为长篇SEO文章打造，由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助，显著提升了写作效率。 获取免费版与付费版的对比分析，以及实际测试结果和详细排名，助您找到最适合自身需求、不容错过的理想选择。立即探索，解锁您的AI竞争优势。
8 个工具
xix.ai
2026年最新最佳AI学习工具，助您轻松完成作业和备考！XIX.AI精心筛选出一份广受好评的顶级工具清单，这些功能强大、颠覆传统的工具经过实际测试，能帮助学生提升效率、简化作业流程，并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项，释放你的AI优势。立即探索！
10 个工具
xix.ai
2026 年最新最佳 AI 人声演示工具，专为词曲创作者、旋律创作者和多语言内容团队打造！XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项，帮助您提升创作效率并释放创意潜力。立即探索，发现满足您所有内容需求的完美工具！
9 个工具
xix.ai
2026年最新最佳、评价最高的中小企业AI竞争研究工具！XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具，每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比，从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索，发现最适合您的工具！
9 个工具
xix.ai
2026 年最新最佳 Photoshop AI 修图工具，适用于电商服装、皮肤清洁和色彩一致性！这份顶级精选列表包含强大的变革性解决方案，可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试，并通过每周更新的排名进行验证，同时提供免费与付费版本的详细对比。由 XIX.AI 支持，这是任何希望发挥 AI 优势的人必试指南。立即探索！
10 个工具
xix.ai
2026年最新、最受好评的AI提示词库，可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库，均经过严格的实际测试，以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名，这些内容将帮助您挑选出必试的工具，从而提升工作效率并释放您的AI优势。立即探索！
11 个工具
xix.ai
Is my data in there? 🤔 This CAMIA attack by Brave and NUS is pretty scary. It feels like we're just training material for these models without even knowing it. Makes me wonder about the real cost of 'free' AI services.
This is wild! 🤯 So basically they can tell if my personal data was used to train an AI? That's both cool and terrifying. What if companies get sued over this? Privacy laws need to catch up fast, because memorization is a real issue.
Also das mit dem CAMIA-Angriff klingt echt nicht gut. KI-Modelle sollen doch keine persönlichen Daten speichern, oder? Wenn jetzt jeder prüfen kann, ob seine eigenen Daten im Training waren, wo soll das hinführen? Da müssen dringend strengere Datenschutzregeln für KI-Entwicklung her. Ist ja fast schon beängstigend, was da alles rauskommen könnte... 🤔
Слышали про CAMIA? Это кошмар для приватности! Теперь любой может узнать, использовались ли их данные для обучения ИИ. Время удалять свои фото из интернета 📸 А вы как думаете - стоит ли запретить сбор личных данных для ИИ?
