选项
首页
新闻
AI机器人刮擦您的数据?这种免费工具使那些讨厌的爬行者逐步划定

AI机器人刮擦您的数据?这种免费工具使那些讨厌的爬行者逐步划定

2025-04-15
283

AI机器人刮擦您的数据?这种免费工具使那些讨厌的爬行者逐步划定

人工智能生成内容的兴起,通常被称为合成媒体,带来了若干挑战,包括虚假信息的传播、艺术家作品的未经授权使用以及在线内容信任度的下降。然而,Cloudflare 可能找到了一种人工智能的有益应用,旨在保护原创内容免受人工智能公司的利用。

周三,Cloudflare 推出了 AI Labyrinth,这是一款旨在使用人工智能生成内容来“减缓、迷惑和浪费未经授权的人工智能爬虫资源”的工具。

近期研究显示,人工智能聊天机器人,如 ChatGPT 和 Perplexity,仍然会访问那些已阻止其爬虫的网站内容。Cloudflare 在其公告中指出,这些爬虫每天对其网络产生超过 500 亿次请求,占其观察到的所有网络请求的不到 1%。阻止这些爬虫的方法至关重要。

Cloudflare 解释说,虽然他们拥有多种工具来识别和阻止未经授权的人工智能爬取,但简单地阻止这些机器人可能会警告攻击者,导致持续的规避策略循环。他们希望设计一种新方法来威慑这些不受欢迎的机器人,而不让它们察觉已被检测到。

当 Cloudflare 检测到未经授权的爬取请求时,AI Labyrinth 不会直接阻止爬虫;相反,它会链接到多个人工智能生成的网页,这些网页看似真实,足以欺骗爬虫认为它们是合法的。这样,爬虫会错误地认为它成功抓取了所需内容,而网站的真实数据仍然受到保护。此外,这种方法会消耗爬虫的计算资源,Cloudflare 认为这是一个优势。

Cloudflare 的公告详细说明,该工具在检测到不当机器人活动时会自动部署一组人工智能生成的链接页面,无需客户设置自定义规则。

为了创建这些页面,Cloudflare 利用 Workers AI 和一个开源模型,预先生成关于各种主题的独特、类人合成页面。此预生成流程不仅对内容进行净化以防止 XSS 漏洞,还将其存储在 R2 中以便更快访问。

AI Labyrinth 仅向人工智能爬虫显示这些链接,确保内容对人类访问者不可见,且不会影响网站结构、外观或 SEO。

Cloudflare 强调其致力于不助长虚假信息的传播,确保生成的内容是基于事实且与科学主题相关,但与被爬取的网站无关。

此外,Cloudflare 将 AI Labyrinth 视为一个潜在的诱捕器,用于识别新的非法爬虫。他们指出,真正的人类访问者不太可能浏览“人工智能生成的无意义迷宫”,从而使该工具能够根据点击模式检测新机器人。这一洞察将帮助 AI Labyrinth 更有效地识别恶意行为者。

由于机器人已变得擅长检测传统诱捕技术,Cloudflare 计划让 AI Labyrinth 不断进化,创建更真实的链接 URL 网络,使自动化程序更难识别。

对于担心其内容被用于训练人工智能或被聊天机器人误传的出版商或个人,AI Labyrinth 可能是一个有价值的工具。

所有 Cloudflare 客户,包括免费套餐用户,今天即可通过访问 Cloudflare 仪表板,导航到机器人管理部分,并开启 AI Labyrinth 选项来启用该工具。

[ttpp]

[yyxx]
相关文章
OpenAI 以巨额薪酬和股权吸引华尔街银行家,旨在重塑金融行业 OpenAI 以巨额薪酬和股权吸引华尔街银行家,旨在重塑金融行业 OpenAI正大力进军投资银行业务,最近的招聘信息显示,该公司正在寻找拥有两年以上经验的投资专业人士,以“主题专家”的身份加入其位于旧金山的应用人工智能团队。该职位提供每年18.5万美元至20.5万美元的基本薪资(约合139.4万元人民币),并附带股权激励——鉴于OpenAI正在筹备私有IPO,这是一项极具吸引力的福利。其目标并非雇佣银行家来使用人工智能,而是“教”人工智能如何理解投资银行业务的复杂性。OpenAI的职位描述要求候选人对现实世界中的投资银行运营拥有深入且最新的理解,包括公司和
五部门启动“人工智能+教育”计划,推进各学段人工智能慕课建设 五部门启动“人工智能+教育”计划,推进各学段人工智能慕课建设 4月10日,教育部、国家发展和改革委员会、工业和信息化部、科学技术部、国家数据局联合发布《“人工智能+教育”行动计划》。这一里程碑式的公告确认了国家在各级学术领域开发人工智能驱动慕课资源的承诺。该倡议建立了培养人工智能素养的综合框架,确保每位学习者都能公平地接受人工智能教育。这一战略是中国系统化人工智能人才培养的关键一步。在基础教育阶段,人工智能课程将作为必修地方科目实施,强调智能思维与实践应用。高等教育将把人工智能全面融入核心课程,通过微专业和专项认证提升学术竞争力。与此同时,职业教育将优先
字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才 字节跳动旗下 Seed 启动全球校园招聘,以虚拟股份争夺顶尖大模型人才 在大型语言模型的竞争格局中,争夺顶尖人才仍然是最关键的战略资产。4月1日,字节跳动宣布启动Seed全球校园招聘计划,作为其大模型人才培养项目的一部分。该活动面向2027届毕业生及现有实习生,旨在全球范围内发掘并锁定AI领域的精英研发与工程人才。规模扩张:全球甄选100名“AI种子”在技术快速进步的背景下,字节跳动有限公司今年大幅增加了对基础AI人才的投入:招聘范围: 该计划旨在从全球范围内招聘约100名专注于大模型的杰出候选人,对象为2027届毕业生。发展路径: Seed计划将核心业务
相关专题推荐
文字转语音 适用于长篇播客、主持人广告和音频课程的AI播客语音克隆工具
适用于长篇播客、主持人广告和音频课程的AI播客语音克隆工具

本文精选了2026年最新、最受欢迎且评价最高的人工智能播客语音克隆工具,适用于长篇剧集、主持人广告和音频课程。这些功能强大、具有颠覆性的解决方案均经过实际测试,以确保其可靠性。 您可在此查阅免费版与付费版的对比分析及详细排名。XIX.AI 精选了一系列必试工具,能显著提升工作效率。立即探索,找到最适合您的工具,释放您的 AI 优势。

9 个工具
xix.ai
设计与艺术 适用于角色设定表、灵感板和项目提案演示文稿的 AI 视觉风格参考工具
适用于角色设定表、灵感板和项目提案演示文稿的 AI 视觉风格参考工具

2026年最新最佳AI视觉风格参考工具(适用于角色设定图、灵感板和项目提案)现已登陆XIX.AI!这份精心筛选的高评分清单汇集了经过严格实战测试、功能强大且能彻底改变游戏规则的工具。 您将在此找到免费版与付费版的对比分析、详细排名以及不容错过的精选工具,助您激发创意并优化工作流程。立即探索,发现能有效提升工作效率的理想工具!

11 个工具
xix.ai
搜索引擎优化 最适合制定搜索策略的AI搜索结果页面(SERP)分析工具
最适合制定搜索策略的AI搜索结果页面(SERP)分析工具

2026年最新、最受欢迎且评价最高的人工智能搜索结果页面(SERP)分析工具,均由XIX.AI通过严格的实际测试精心筛选,并每周更新排名。这些强大的工具可助您发掘隐藏的优化机会、提升内容表现,并在搜索领域获得竞争优势。立即寻找最适合您的工具,提升您的搜索策略。现在就来探索吧!

13 个工具
xix.ai
数据分析 适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具
适用于 SaaS 和电商团队的 KPI 监控最佳 AI 异常检测工具

2026 年最新最佳顶级评分 AI 异常检测工具,助力 SaaS 和电商团队的 KPI 监控!XIX.AI 基于严格的真实世界测试和每周更新的排名,精心策划了一套强大且颠覆性的工具合集。您将找到详细的免费与付费对比洞察,帮助您识别必须尝试的解决方案,从而提升生产力并释放您的 AI 优势。立即探索!

10 个工具
xix.ai
写作 最适合撰写长篇SEO文章的AI大纲生成器
最适合撰写长篇SEO文章的AI大纲生成器

2026年最新、最受好评的AI大纲生成器,专为长篇SEO文章打造,由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助,显著提升了写作效率。 获取免费版与付费版的对比分析,以及实际测试结果和详细排名,助您找到最适合自身需求、不容错过的理想选择。立即探索,解锁您的AI竞争优势。

8 个工具
xix.ai
教育与学习 用于作业和考试备考的AI学习工具
用于作业和考试备考的AI学习工具

2026年最新最佳AI学习工具,助您轻松完成作业和备考!XIX.AI精心筛选出一份广受好评的顶级工具清单,这些功能强大、颠覆传统的工具经过实际测试,能帮助学生提升效率、简化作业流程,并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项,释放你的AI优势。立即探索!

10 个工具
xix.ai
评论 (27)
0/500
BruceBrown
BruceBrown 2026-04-08 14:00:57

Wait, so we're giving AI bots a taste of their own medicine? That's pretty ironic and kind of satisfying, not gonna lie! Cloudflare stepping in like this is a clever idea, but I wonder how effective it really is long-term. 🤔 Makes me think we're just entering a new arms race between data protection and data scraping. The web feels like a wild west again!

JasonAnderson
JasonAnderson 2026-04-08 00:01:11

Nützlich, aber ich frage mich, ob solche Tools Privatanwender auch einfach nutzen können, oder ob das eher für Unternehmen gedacht ist. Die Balance zwischen Datenschutz und Zugänglichkeit ist oft schwierig. Auf jeden Fall ein interessanter Ansatz von Cloudflare! 🤔

WillieAnderson
WillieAnderson 2025-12-09 02:30:41

이 내용 너무 유용해요! 특히 크롤러를 미끼로 빙빙 돌게 만드는 아이디어 정말 기발하네요 🤩 AI가 데이터를 수집하는 게 걱정될 때 이런 무료 도구가 있다는 건 정말 다행이에요. Cloudflare, 잘 해내고 있는 것 같아요!

FrankKing
FrankKing 2025-08-20 09:01:15

This Cloudflare tool sounds like a game-changer! 😎 I’m tired of AI bots snooping on my data. Gotta try this to keep those crawlers at bay!

JoseJackson
JoseJackson 2025-08-05 19:00:59

This Cloudflare tool sounds like a game-changer! I’m tired of AI bots scraping my data without consent. Excited to try it out and give those crawlers a headache! 😎

WillieRoberts
WillieRoberts 2025-08-04 19:00:59

This tool sounds like a game-changer! I’m tired of AI bots snooping around my data—hope Cloudflare’s solution keeps those crawlers at bay. 🛡️ Anyone tried it yet?

OR