假评论是一个大问题 - 这是AI可以帮助解决的问题

自2007年创立以来，Trustpilot已成为用户评论的首选平台，积累了惊人的2.38亿条评论，覆盖近百万家企业，涉及50个国家。虽然Trustpilot确实包含对美国企业的评论，但我发现我搜索的本地商店并未列在其中，而Yelp的搜索结果更成功。Trustpilot似乎在欧洲有更强的立足点，但在此讨论中，地理焦点并非我们的主要关注点。相反，我们将深入探讨困扰评论网站的一个关键问题：虚假评论的泛滥。

2023年，Trustpilot成功识别并删除了330万条虚假评论，此前一年删除了260万条。应对虚假评论的持续斗争因生成式AI的兴起而变得更加复杂。根据《美国国家科学院院刊》（PNAS）发表的研究，只有大约一半的消费者能够区分AI生成的内容和人类撰写的内容。这对消费者和Trustpilot这样的平台构成了重大障碍，他们需要过滤虚假评论以确保消费者意见的真实性。

Trustpilot已将应对这一问题作为核心使命。在与Trustpilot首席信任官Anoop Joshi的深入对话中，我们探讨了公司如何对抗AI生成的虚假评论。

Anoop Joshi成为Trustpilot首席信任官的历程

Anoop Joshi在Trustpilot工作超过四年，领导公司的信任与安全以及法律与隐私运营，团队约有80人。他的职责涵盖广泛的活动，包括诉讼、公共事务、全球沟通、商业合同、内容审核、品牌保护和欺诈调查。最初，Joshi负责与执行相关的工作，处理Trustpilot平台上企业和消费者的不当使用，解决虚假评论和各种滥用行为的问题。

他的团队发展成为公司首个平台完整性团队，增强了信任与安全运营方面的能力。这项工作获得了行业认可，使Trustpilot成为可信评论联盟的创始成员，与Amazon、TripAdvisor、Glassdoor、Booking.com和Expedia等主要参与者并肩。Joshi作为律师和软件工程师的背景，使他能够独特地应对法律与技术的交叉点，这对建立和维护平台信任至关重要。

首席信任官的角色定义

据Joshi称，Trustpilot首席信任官的角色是确保公司实现成为信任普遍象征的愿景。这涉及定义Trustpilot的信任含义，包括评论的完整性、网站内容以及公司对待消费者和企业的方式。此外，该角色推动治理和流程，以减轻风险、确保合规，最终在消费者、员工、企业、投资者、政策制定者和记者等利益相关者中培养信任和忠诚。随着技术日益普及和在线参与度增加，C级高管中此类角色的需求预计将增加。

Trustpilot上常见的虚假评论类型

Trustpilot将虚假评论定义为非基于真实体验或旨在误导读者的评论。他们遇到并删除的最常见类型包括：

• 垃圾评论：作为广告或推广其他企业的评论。
• 利益冲突：企业主或员工对自己企业的评论。
• 误导性评论：未实际体验过企业的个人提交的评论。
• 激励性评论：受激励影响的评论，通常包含误导性内容。

AI生成内容对评论真实性的影响

生成式AI的兴起使个人更容易创建内容，降低了生成虚假评论的门槛。Trustpilot检测这些评论的方法侧重于行为，而不仅仅是内容本身。其自动化系统分析评论的提交方式，寻找模式和可疑标记，同时考虑评论者与企业之间的关系。尽管出现了ChatGPT等技术，Trustpilot最新的透明度报告显示，虚假评论的检测率逐年保持一致，表明其系统在应对这一挑战方面表现良好。

Trustpilot如何使用AI和机器学习检测虚假评论

提交到Trustpilot的每条评论都由自动化虚假评论检测引擎进行分析。这些引擎考虑评论的各个方面，如评论者的先前行为和任何促销声明。某些模式可能需要时间显现才能采取行动。此外，Trustpilot依靠其消费者和企业社区来标记可疑评论，随后由内容完整性团队的人工审核员进行审查。如果评论被删除，评论者会收到通知并有机会申诉。这一自动化检测与人工监督的结合有助于不断改进Trustpilot识别和删除虚假评论的方法。

区分真实与虚假评论的挑战

Trustpilot面临的主要挑战之一是某些行为模式并非立即显而易见，需要时间发展和理解。这使得区分真实与虚假评论成为持续的挑战。

处理AI辅助的真实评论

Trustpilot评估评论者是否与企业有真实体验，以及该体验是否在评论中准确反映。包括AI生成文本在内的从其他来源复制的内容，会在判断评论是否可疑时被考虑。如果发现高度可疑，评论将被删除，评论者会被通知并有机会挑战决定。Trustpilot旨在实现平衡，承认AI工具可以帮助评论者表达真实体验，特别是对有accessibility或神经多样性需求的评论者。

平衡自动化检测与人工监督

Trustpilot确保人类参与其自动化软件的设计和实施。尽管自动化对扩展运营至关重要，但Trustpilot解决的问题本质上是人类的，这些挑战随时间演变。因此，自动化必须根据人类行为的洞察进行调整。

虚假评论检测率的变化

尽管总评论量从2022财年的4600万增加到2023财年的5400万，删除的虚假评论比例保持在6%。2023年，Trustpilot的系统检测并删除了79%的虚假评论，展示了其对技术的持续投资效果。虽然AI和机器学习不断发展，Trustpilot对行为模式和社区报告的关注有助于维持强大的检测系统。

虚假评论对信任和声誉的长期影响

虚假评论可能显著影响消费者决策，导致负面体验和对在线平台的信任丧失。如果平台不能有效处理虚假评论，消费者可能对用于购买决策的平台失去信心，影响消费者信任和企业声誉。

AI在评论审核中的伦理考虑

透明度是Trustpilot在评论审核中使用AI的伦理方法核心。公司公开其使用AI进行自动化决策的做法，符合其促进消费者与企业之间信任的承诺。

教育消费者识别真实评论

Trustpilot使用信任信号来突出经过验证的评论，并允许评论者验证自己，确保消费者能够区分不同类型的评论。此外，当对企业因平台滥用采取执法行动时，Trustpilot会显示消费者警告，帮助消费者做出明智选择。

AI在对抗虚假评论中的未来

未来在利用AI对抗虚假评论方面具有巨大潜力，特别是生成式AI的模式预测能力。Trustpilot自2007年以来积累的广泛数据和经验使其能够开发更好的虚假检测模型。此外，AI可以增强透明度并指导用户在线行为，但随着技术复杂性的增加，责任也随之增加。

在线评论的未来发展

随着人类生成内容与AI生成内容的区别日益明显，基于真实体验的内容价值将增加。像Trustpilot这样投资于技术、人员、社区和流程以突出真实声音的平台，将对消费者和企业越来越有价值。

我们衷心感谢Anoop Joshi的这次深入访谈。他的观点为我们提供了宝贵的见解，帮助我们理解如何在复杂的在线评论世界中导航。你的想法是什么？这些见解是否帮助你更好地理解如何筛选在线评论？请在下方评论中分享你的想法。

在社交媒体上关注我的每日项目更新。别忘了订阅我的每周简讯，并在Twitter/X上关注我，账号为@DavidGewirtz，在Facebook上为Facebook.com/DavidGewirtz，在Instagram上为Instagram.com/DavidGewirtz，在YouTube上为YouTube.com/DavidGewirtzTV。