「你是专家」竟成AI幻觉毒药?新论文一巴掌揭穿提示词最大骗局

AI最强幻觉,原来不是不会,而是太会「装会」。 「你是专家」这句咒语,可能骗了整个AI圈一年。 人生如戏,全靠演技,但AI不行—— 最新论文证实,「让AI装专家」会可测量、持续地降低模型的准确率。 链接:https://arxiv.org/pdf/2603.18507 过去一年,AI圈最成功的骗局之一,可能就是这句话: 你是XX专家。 无数教程把它吹成神级提示词。 这句话几乎被包装成了大模型时代的「黑魔法」:只要人设立住,AI就会突然开窍。 但现在,最新论文给了所有人一记耳光: 这句神提示词,可能根本不是外挂,而是毒药。 研究发现,当AI被要求扮演「专家」时,它并不总是更聪明,反而会更像一个坚持人设的「假专家」: 不愿承认不知道,不愿暴露犹豫,不愿停下来仔细想,最后选择用一种极其专业、极其自信、极其像那么回事的方式, 把错话说圆。 图 1: 专家角色在不同模型、任务类型、信息粒度及位置的影响分析 上图1中给出的结果非常直观: 长专家人设在5个生成类别上有显著提升,但在硬核的MMLU知识基准上,加了人设后准确率全面...

查看原文 →