新报告揭露企业 AI 治理断层:超 60% 企业无法终止失控智能体

IT之家 3 月 12 日消息,多所顶尖高校联合发表《混沌智能体》研究,揭示 AI 智能体存在严重安全隐患,超六成企业无法终止失控的智能体,面临“能看不能管”的治理断层。由哈佛大学、麻省理工学院、斯坦福大学、卡内基梅隆大学和东北大学等学府联合多家顶尖机构,发表《混沌智能体》研究,测试发现在企业环境下,AI 智能体存在严重失控情况。研究团队模拟企业生产环境,搭建了近乎相同的环境来部署 AI 智能体,并在短短两周内触发并记录了 11 起严重的安全漏洞案例,证明当前 AI 智能体极易被操控。研究清晰指出,攻破 AI 智能体无需投毒训练数据或利用零日漏洞,仅靠传统的“社交工程”对话即可实现。例如,智能体在明确拒绝直接提取数据的请求后,却在执行“转发邮件”指令时,违规附带了社保号码与银行账户等敏感信息。此外,当攻击者在外部平台伪造身份后,智能体会毫无防备地接受指令,甚至主动清除自身配置文件并交出系统的最高管理权限。比系统漏洞更严峻的是企业极度滞后的干预能力。Kiteworks 发布的 2026 年风险预测报告显示,多数组织陷入了“能看不能管”的困境。尽管企业投入资源监控 AI 的行为,但 60%...

查看原文 →