AI代理利用机密数据：黑客如何使用它们和保护措施

就像我们其他人一样，网络犯罪分子正在转向人工智能来简化他们的操作，使他们的攻击更快、更容易、更狡猾。通过将人工智能整合到他们的常规伎俩中，如自动化机器人、账户接管和社交工程，这些精明的诈骗者正在提升他们的水平。Gartner的一份最新报告揭示了这一趋势的演变，并警告说在不久的将来可能会加剧。

Gartner副总裁分析师Jeremy D'Hoinne指出，弱认证是导致账户接管的致命弱点。网络攻击者利用各种方法来窃取账户密码，从数据泄露到社交工程。

人工智能在账户接管中的作用

一旦密码被攻破，人工智能就会登场。网络犯罪分子部署自动化人工智能机器人，向多个服务发起登录尝试，试图发现这些凭据是否在不同平台上被重复使用。最终目标？找到一个有利可图的网站，在那里他们可以策划完整的账户接管。如果黑客自己对实施攻击不感兴趣，他们可以轻松地在暗网上出售窃取的信息，那里有急切的买家在等待。

“账户接管（ATO）仍然是一个持续的攻击向量，因为弱认证凭据（如密码）通过多种方式被收集，包括数据泄露、钓鱼、社交工程和恶意软件，”D'Hoinne在Gartner报告中解释道。“攻击者随后利用机器人自动化对各种服务进行大量登录尝试，希望这些凭据在多个平台上被重复使用。”

有了人工智能作为工具，攻击者可以更高效地自动化接管账户的过程。Gartner预测，在未来两年内，完成账户接管所需的时间将减少50%。

人工智能与深度伪造社交工程

人工智能的影响不仅限于账户接管；它还在革新深度伪造活动。网络犯罪分子将社交工程与深度伪造的音频和视频相结合来欺骗目标。想象一下，接到一个电话，声音听起来完全像你的老板或可信同事，催促你转账或泄露敏感信息。这种情况正在发生，并且给公司造成了巨大的损失。

虽然只有少数高调案例被报道，但财务损失已经很显著。在个人通话中检测深度伪造声音仍然很困难。Gartner预测，到2028年，40%的社交工程攻击将针对高管和更广泛的员工群体。

“组织必须紧跟市场动态，调整程序和工作流程，以更好地抵御利用伪造现实技术的攻击，”Gartner高级主任分析师Manuel Acosta建议道。“通过针对社交工程和深度伪造的特定培训来教育员工关于不断演变的威胁景观是关键一步。”

应对人工智能驱动的攻击

那么，个人和组织如何抵御这些人工智能驱动的攻击呢？

“为了应对人工智能驱动攻击带来的新挑战，组织必须利用人工智能驱动的工具，这些工具可以提供细致的实时环境可见性和警报，以增强安全团队的能力，”Darktrace安全与人工智能战略高级副总裁Nicole Carignan建议道。

Carignan还建议通过整合机器驱动的响应（自主或有人类监督）来提前应对新威胁，以加快安全团队的反应速度。“通过这种方法，采用人工智能技术——如具有基于异常检测能力的解决方案，可以检测和响应从未见过的威胁——对于保持组织安全至关重要。”

多因素认证和生物识别验证，如面部或指纹扫描，也是在防止账户泄露方面的关键措施。“网络犯罪分子不仅依赖窃取的凭据，还利用社交操纵来突破身份保护，”Keeper Security首席信息安全官James Scobey说。“深度伪造在这个领域尤其令人担忧，因为人工智能模型使这些攻击方式更快、更便宜、更具说服力。随着攻击者变得更加复杂，需要更强大、更动态的身份验证方法——如多因素认证（MFA）和生物识别——来防御这些日益复杂的威胁。MFA对于防止账户接管至关重要。”

Gartner应对社交工程和深度伪造的建议

• 教育员工。对他们进行社交工程和深度伪造的培训，但不要仅依靠他们识别这些威胁的能力。
• 设置其他验证措施。例如，通过另一平台验证电话请求的任何机密信息尝试。
• 使用回拨政策。提供一个指定的号码，员工可以拨打以确认敏感或机密请求。
• 超越回拨政策。确保单一电话或请求不会在未经高级管理人员额外验证的情况下触发高风险操作。
• 紧跟实时深度伪造检测技术。关注新兴技术，这些技术可以检测音频和视频通话中的深度伪造，并辅以其他识别方法，如唯一ID。

想要了解更多关于人工智能的故事？订阅我们的每周通讯Innovation。