2017年6月，谷歌的8位AI研究员发表了一篇名为《Attention Is All You Need》的论文，提出了Transformer架构。 Transformer就是ChatGPT里的“T”，大公司的大模型、各种各样的AI Agent、自动驾驶的算法、几乎所有人工智能的创造，底座都是Transformer。 不夸张地说，Transformer诞生的那一刻，人工智能的历史进程骤然加速。 《Attention Is All You Need》的8位作者 然而，这篇开山之作发表时，论文的8位作者、他们供职的谷歌、全球高科技公司都远远低估了Transformer的革命性。对它最准确的评价来自《连线》杂志[1]：一个不是秘密的秘密武器。 当时，社会公众对人工智能的想象还集中在下围棋的AlphaGo。论文发表一个月前，AlphaGo在乌镇3:0横扫围棋选手柯洁，直观塑造了社会公众对AI的认知。 这似乎解释了为什么最不该低估Transformer的谷歌，会大大低估论文的重要性： AlphaGo的发明者DeepMind在2014年被谷歌收购，击败柯洁同期，De...