Tech
[人工智能] 这就是为什么我们需要开源 AI 模型的原因
7 月 16 日,全球最大的 AI 模型平台 Hugging Face,发表了一篇文章,宣布他们被一个全自动 AI Agent 攻入了他们的服务器。
整个过程中几乎没有人类操作。
攻击从一个恶意数据集开始,Agent 串联了数据处理系统中的两个代码执行漏洞,获得节点级权限,窃取云端和集群凭据,并在多个内部集群之间横向移动。
它调用了数千次自动操作,运行在大量短生命周期沙箱中,甚至建立了可以自行迁移的 C2 控制系统。
Hugging Face 最终记录了超过 17000 个攻击事件。
但更荒诞的事情发生在调查阶段。
Hugging Face 最初尝试用美国闭源前沿模型 @ ChatGPTapp @ claudeai 的 API 分析日志,但真实的攻击命令、漏洞 Payload 和 C2 数据触发了安全护栏,模型直接拒绝工作。
最后,他们只能在自己的服务器上运行中国 @ Zai_org 的开源模型 GLM 5.2。
GLM 5.2 在几个小时内分析完 17000 多条记录,重建攻击时间线,定位被窃取的凭据,并区分真实攻击和诱饵行为。
如果不是世界...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX