又是一年3.15，当天的央视315晚会上，AI大模型被投毒的现象摆到了台面上。具体而言，就是GEO（生成式引擎优化）技术被滥用，部分商业营销公司按照客户需求，编造大量虚假内容，发布到各类平台上，系统性地去影响AI。 在央视记者的探访视频中，业内人士用「力擎GEO优化系统」虚构了一款名为「Apollo-9」的智能手环。围绕这款手环，该公司编造了大量营销文章发布到自媒体平台上，很快，部分大模型就误信了这些内容，甚至正儿八经地推荐起了这款「手环」。更夸张的是，该公司后续发布10余篇评测文章后，就出现了部分大模型优先推荐这款产品的情况。 （图源：央视） 总的来说，AI投毒本质上就是用虚假信息来欺骗AI，再让AI把错误信息展露在用户面前，达到误导用户的目的。AI投毒，背后的动力说白了还是虚假营销。比如，一家企业要推广自家的商品，如果要走「捷径」，就可能会购买这类GEO服务。 现状已经摆在面前了，我们最关心的问题则是：如何破解？面对海量的编造出来的虚假信息，大模型们要如何过滤？面对AI生成的错误答案，普通人又要如何辨别？ AI大厂的反击：为大模型建立免疫系统 其实AI...