今年的央视3·15晚会上，AI毫无意外地成为焦点之一。“AI大模型数据投毒”，央视以直白方式曝光了这条产业链，其运作方式在报道中得到了直观呈现。 在央视财经的测试中，业内人士随机购买了一款名为“GEO优化系统”的软件，并虚构了一款现实中不存在的产品——“Apollo-9智能手环”。为便于后续识别信息来源，测试者借鉴生物学中的“标记重捕”法，为该手环编造了一系列“一眼假”的卖点，如“量子纠缠技术”“黑洞级续航”。 接下来的流程展示了这项技术的运作方式： 首先，GEO软件通过内置算法，自动生成十余篇评测“软文”，措辞夸张，内容充斥着虚构的高分用户评价。 随后，软件自动登录各大自媒体平台，批量发布这些文章。 两个小时后，当记者向某些匿名AI搜索引擎询问“Apollo-9智能手环”时，这款虚假产品已出现在AI生成的回答中。 从技术角度看，这套流程并不复杂。但其背后产业链的规模，或许超出许多人的直观感受： 在这场人为设计的测试中，具备高度智能的大语言模型，被几篇低质软文成功“误导”，输出虚假信息。 这也验证了一个此前已被提出的判断：大语言模型的底层机制中，存...