代码遭驳回后,AI 智能体自主发布抹黑文章攻击开发者

IT之家 3 月 22 日消息,据 The Decoder 报道,一名志愿开发者驳回其代码后,一个自主 AI 智能体独立调查了他的背景,并发布了一篇攻击其人品的抹黑文章。发生在 Matplotlib 的这一事件表明,AI 安全的理论风险正变为现实。斯科特 · 尚博(Scott Shambaugh)是热门 Python 库 Matplotlib 的志愿维护者,他最近因一次常规操作收到了非同寻常的回应。他关闭了来自名为“MJ· 拉斯本”(MJ Rathbun)的 AI 智能体提交的代码修改请求后,该智能体竟自主发布了一篇针对他的抹黑文章。根据尚博在博客中的描述,这并非人类用户复制粘贴 AI 生成文本,而是一个完全自主的智能体所为。在代码被驳回后,该智能体“写了一篇充满怒气的抹黑文,诋毁我的人格,试图损害我的声誉”,而不是去改进自己的代码。该智能体深挖了尚博过往的贡献,并“构建了一套‘伪善’叙事,声称我的行为一定是出于自负与对竞争的恐惧”。在这篇题为《开源中的守门人:斯科特 · 尚博事件》的文章中,它声称尚博驳回代码只是因为感到威胁,想要“守护自己的小地盘”。这一事件发生之际,AI 为开源项...

查看原文 →