驯服“龙虾”,Agent也要服从基本法

终于,人类还是感受到了AI 失控的恐惧。2月23日,Meta超级智能实验室的AI对齐与安全总监Summer Yue,一个专门研究"怎么让AI听话"的人,被OpenClaw狠狠地"上了一课"。她把OpenClaw连上了自己的工作邮箱,但当OpenClaw处理她的收件箱时,却开始不受控制地疯狂删除邮件。Yue连喊三次"Stop",OpenClaw全部无视。她不得不"像拆炸弹一样,狂奔到Mac Mini前面,强制拔掉了电源。此时,距离OpenClaw成为科技圈新宠,才不到两个月。今年1 月, PSPDFKit 创始人 Peter Steinberger 通过AI编程打造的本地、自托管 AI 个人智能助手Clawdbot,它能将WhatsApp、Slack等即时通讯平台与 LLM 、智能体深度整合,还有第三方集成能力,能实现全场景的自动化操作。一经推出,即使没有大厂背书,也没有造势,甚至名字都改了两次,最终命名为OpenClaw ,但就仅凭开源社区的传播,就使得其成为现象级的产品。2月15日,情人节当天, Peter Steinberger正式加入OpenAI,将"负责推动下一代persona...

查看原文 →