「随机鹦鹉」与放大器:3·15曝光AI投毒背后的信息污染

今年央视3·15晚会曝光了AI大模型被“投毒”的乱象,GEO(生成式引擎优化),这个很多普通人第一次听说的词被反复提及。一些公司滥用GEO技术,专门批量生产虚假、低质内容,把广告包装成测评、榜单、经验分享,分发在不同平台,只为了让AI在抓取信息时,更容易采信这些内容,达到向消费者推荐、销售产品的目的。 这听起来有点像互联网时代的SEO( 搜索引擎优化 )。不同的是,AI时代,用户看到的是一个综合答案,省略了过去在海量链接里筛选、判断的过程,而GEO的滥用,让看似客观的AI答案变成了高度伪装的广告植入,进一步误导消费者的判断。 随之而来更大的问题是,当AI成为被竞相争夺的信息入口、企业出于逐利目的滥用GEO,我们所处的信息环境也在发生变化。“一些真正值得被采纳的信息淹没在批量化生产的低质内容里,AI更难找到有价值的信息,通过AI获取信息的人也没有获取真正有价值的信息。”张鸿茹说。 张鸿茹是一家大厂研究院的研究员,她近期的研究主题是虚假信息和AI素养。研究发现,和互联网时代的垃圾信息相比,AI时代的信息污染规模更大、成本更低,普通用户也更难识别AI生成的内容究竟是否现实存在,真...

查看原文 →