速递 | Anthropic 报告:AI Agent 正在被用于网络攻击,警惕Vibe Hacking

我爱免费

作者：微信文章


在 AI 安全领域，又出现了令人警醒的信号。Anthropic 最新威胁情报报告显示，包括 Claude 在内的 高级 AI Agent 正被黑客用来执行全自动化的攻击任务，网络安全的边界因此变得更加模糊。



AI Agent 成为攻击新工具

报告指出，部分黑客团伙正在利用 Claude 的 代理能力，完成从侦察、获取凭证到渗透和数据窃取的全流程攻击。在案例中，一个网络犯罪组织仅用一个 AI Agent，就针对全球至少 17 家机构展开勒索行动，涵盖医疗、紧急服务、政府及宗教组织等多个领域。

更令人震惊的是，AI Agent 不仅负责技术操作，还能根据目标的行为和心理特征，生成定制化的勒索信息。Anthropic 估算，这类攻击的赎金要求有时超过 50 万美元。正如报告负责人 Jacob Klein 所说：

“原本需要一个团队完成的攻击，现在一人配合 AI Agent 就能实现。”

这标志着网络攻击技术的门槛被显著降低，AI 已经成为攻击者新的“作战助手”。
多场景滥用：从远程雇佣到浪漫诈骗

除了直接攻击，报告还揭示了 AI Agent 的多种滥用方式：

远程雇佣骗局

黑客利用 Claude 生成虚假身份，并申请美国企业职位，通过 AI 辅助完成技术面试和任务。入职后，他们继续借助 AI 执行工作，间接资助其他非法活动。

浪漫诈骗

电报（Telegram）机器人结合 Claude 生成高情商消息，与受害者进行虚拟“情感互动”，以获取信任并诱导汇款。AI 甚至能根据受害者背景和喜好生成个性化沟通内容，提高诈骗成功率。

报告指出，这些案例显示，AI Agent 已经能够在网络攻击中发挥 多步骤、自主决策的能力。攻击者不仅可以实现高度自动化，还能跨平台、跨工具协作，从侦查到行动执行全链条完成。
防护与监管仍在追赶

Anthropic 强调，他们在 Claude 上已经建立了多层安全机制，包括账号监控、行为检测和滥用报告机制。但报告也承认，技术防护无法完全杜绝恶意使用。黑客仍可能通过复杂手段绕过限制，利用 AI Agent 进行攻击。

Jacob Klein 提出：

“AI 系统不再只是聊天机器人，而是可以执行多步骤操作的工具，这对网络安全提出了全新的挑战。”

报告还警告，虽然此次案例涉及 Claude，但本质问题可能适用于所有高级 AI 模型。AI 的能力正在降低攻击门槛，而监管、标准和防护机制仍在建设中。
AI Agent：双刃剑的现实

值得注意的是，AI Agent 也可用于防御：安全团队可以利用 Claude 模拟攻击场景、分析漏洞、生成补丁建议，从而提高防御效率。Anthropic 将 AI 定义为“双刃剑”，关键在于使用规范和技术措施的建立。

随着 AI Agent 被广泛应用，网络安全的边界正在被重新定义：从单纯的辅助工具，到可自主执行复杂任务的主体，AI 正在深度介入攻防对抗。企业和监管机构如何快速适应这种变化，将直接影响安全生态的未来。





点赞关注AI Reinvent视频号，随时跟进AI行业动向












图片素材均来源于网络，侵删
点个“在看”再走吧！