选项
首页
新闻
微软推出一款工具,帮助开发者根据文本描述创建人工智能行为测试

微软推出一款工具,帮助开发者根据文本描述创建人工智能行为测试

2026-06-26
94

人工智能研究人员和实验室在评估人工智能模型的安全性、合规性、阿谀奉承倾向以及对齐性方面取得了重大进展。然而,企业和开发者现在面临着一个具体的挑战:确保其人工智能系统能够完全按照其特定产品或服务的预期进行运作。

为了简化这一测试流程,微软于本周二发布了ASSERT——该名称是“自适应规范驱动评分评估与回归测试”(Adaptive Spec-driven Scoring for Evaluation and Regression Testing)的首字母缩写。

据微软介绍,这一开源框架可轻松评估特定应用场景下的AI行为。它利用AI技术,将关于目标、政策或预期行为的高层级自然语言描述,转换为可供审查的、经过评分且内容全面的测试。

ASSERT 接受对 AI 模型预期行为和策略的自然语言描述,随后将其转换为一组结构化的可接受与不可接受行为。它会生成问题场景和测试用例,在目标系统上运行这些用例,并对结果进行评分。 该框架还会记录 AI 系统的执行路径,包括中间操作和工具调用,从而让开发人员能够查明故障发生的位置。

开发人员还可以提供系统上下文、工具和约束条件,以进一步自定义评估的范围。

例如,开发人员可以指定:文档检索AI代理不应向公司外部人员发送电子邮件,必须将机密信息仅限于C级高管,并在考虑先前上下文的同时提供简明摘要。随后,ASSERT将利用这些规则生成测试用例,持续检查系统是否遵循这些规则。

微软推出新工具,让开发者能够通过文本描述快速生成AI行为测试

图片来源:微软

据微软称,当AI模型的行为受应用程序或产品上下文、政策及工具的影响时,该框架填补了更广泛、更通用评估方法无法解决的空白。

“我们学到的一点是,评估对于做出正确决策至关重要,”微软负责任人工智能首席产品官莎拉·伯德(Sarah Bird)表示。 “因为如果不了解 AI 系统的行为,就很难判断它是否达到了贵组织的标准[…] 我们发现,如果真的想要一个值得信赖的系统,就应该评估更多与具体应用相关的维度。”

伯德表示,ASSERT 既可用于开发阶段的系统评估,也可用于部署后的评估以及持续监控。

此次发布正值人工智能行业发生渐进但广泛的转变之际。随着模型能力的不断提升,研究人员正将重点放在可重复的测试和回归检查上。斯坦福大学的HELM、MLCommons的AILuminate以及METR等评估组织正在推出基准测试,以衡量模型在不同条件下的表现。

相关文章
微软淘汰失败的 AI 工具并整合 Copilot 应用 微软淘汰失败的 AI 工具并整合 Copilot 应用 两年前,微软将人工智能定义为一种“代际性”的技术变革,并表示其旨在引领这一趋势。如今,该公司正在整合其以 Copilot 为品牌的消费者和企业应用,同时停止运行不佳的几项人工智能功能。正如 GeekWire 首次报道并在微软的支持文档中详细说明的那样,这家科技巨头将把其面向消费者的 Copilot 应用的功能与专注于企业的 Microsoft 365 Copilot 应用的功能合并。此举承认个人和企业人工智能使用往往存在重叠,且微软之前的策略过于复杂,导致 Copilot 无法成为 Chat
据称微软培训销售人员以压低竞争对手 OpenAI 和 Anthropic 的价格 据称微软培训销售人员以压低竞争对手 OpenAI 和 Anthropic 的价格 微软据报正在加强其销售团队,以加大对人工智能领域主要竞争对手的竞争力度。据彭博社报道,高管们于周二举行了一次内部战略会议,指示销售团队突出微软的人工智能产品相较于 OpenAI、Google 和 Anthropic 产品的优势。此次会议聚焦于 27 财年的规划,强调在推销微软专有模型时,应着重阐述其相较于竞争对手解决方案在效率和成本方面的优势。“其他公司都在销售零部件——而我们销售的是完整的端到端系统。这就是我们在 27 财年需要向外界传达的故事,”据报道,执行副总裁 Jay Parikh
这是否会成为代币经济危机的起点? 这是否会成为代币经济危机的起点? 微软近期对 GitHub Copilot 的定价进行了大幅调整,变动幅度之大甚至有 Reddit 用户将企业内部出现的状况称为“代币末日”。在 TechCrunch 的《Equity》播客最新一集中,Kirsten Korosec、Sean O’Kane 与我一同探讨了这些价格变动可能对整个 AI 行业产生的影响。随着 Anthropic 及其他大型 AI 公司准备上市,关于盈利能力的疑问日益增多,企业为控制开支,很可能会再次提高价格并增设使用限制。Sean 提出了一个关键问题:“这些 AI
相关专题推荐
写作 最适合撰写长篇SEO文章的AI大纲生成器
最适合撰写长篇SEO文章的AI大纲生成器

2026年最新、最受好评的AI大纲生成器,专为长篇SEO文章打造,由XIX.AI精心甄选。这些强大的工具在快速创建高质量内容方面提供了颠覆性的帮助,显著提升了写作效率。 获取免费版与付费版的对比分析,以及实际测试结果和详细排名,助您找到最适合自身需求、不容错过的理想选择。立即探索,解锁您的AI竞争优势。

8 个工具
xix.ai
教育与学习 用于作业和考试备考的AI学习工具
用于作业和考试备考的AI学习工具

2026年最新最佳AI学习工具,助您轻松完成作业和备考!XIX.AI精心筛选出一份广受好评的顶级工具清单,这些功能强大、颠覆传统的工具经过实际测试,能帮助学生提升效率、简化作业流程,并轻松通过考试。 获取免费版与付费版的对比分析、详细排名以及必试选项,释放你的AI优势。立即探索!

10 个工具
xix.ai
音乐创作 面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具
面向词曲创作者、旋律片段、主旋律及多语言草稿创作的AI人声演示工具

2026 年最新最佳 AI 人声演示工具,专为词曲创作者、旋律创作者和多语言内容团队打造!XIX.AI 精心整理了一份经过严格真实世界测试的高评分、变革性工具列表。您将找到详细的免费与付费对比数据、全面排名以及必试选项,帮助您提升创作效率并释放创意潜力。立即探索,发现满足您所有内容需求的完美工具!

9 个工具
xix.ai
商业 适合中小企业的最佳AI竞品分析工具
适合中小企业的最佳AI竞品分析工具

2026年最新最佳、评价最高的中小企业AI竞争研究工具!XIX.AI精心精选了一系列功能强大、颠覆行业格局的工具,每周都会根据严格的实际测试和详细排名进行更新。您可以查看全面的免费版与付费版对比,从而找到那些能提升工作效率、助您赢得竞争优势的必试工具。 立即探索,发现最适合您的工具!

9 个工具
xix.ai
图像编辑 用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具
用于电商服装、皮肤清洁和色彩一致性的 Photoshop AI 修图工具

2026 年最新最佳 Photoshop AI 修图工具,适用于电商服装、皮肤清洁和色彩一致性!这份顶级精选列表包含强大的变革性解决方案,可帮助您提升写作效率、简化内容创作并轻松实现完美的视觉效果。每个工具都经过实际测试,并通过每周更新的排名进行验证,同时提供免费与付费版本的详细对比。由 XIX.AI 支持,这是任何希望发挥 AI 优势的人必试指南。立即探索!

10 个工具
xix.ai
提示词 适用于 ChatGPT 工作流的最佳 AI 提示词库
适用于 ChatGPT 工作流的最佳 AI 提示词库

2026年最新、最受好评的AI提示词库,可优化各类ChatGPT工作流程。XIX.AI精心整理了一套功能强大、具有颠覆性的提示词库,均经过严格的实际测试,以确保最佳性能。 您可以查看详细的免费版与付费版对比分析以及专家排名,这些内容将帮助您挑选出必试的工具,从而提升工作效率并释放您的AI优势。立即探索!

11 个工具
xix.ai
评论 (0)
0/500
OR