马斯克亲自点赞,Kimi 动了十一年没人敢碰的东西

科技博主Avi Chawla在X上发了一条长帖,详细拆解了月之暗面Kimi团队刚刚发布的一篇技术报告。 帖子发出后不久,马斯克本人在下面回复了一句:“月之暗面做出了令人印象深刻的结果”(Impressive work from Kimi.) 马斯克在AI领域的表态向来以挑剔著称,没少骂过Anthropic和OpenAI,甚至曾直言说Anthropic的图标像是某种人体器官。 他自己的xAI最近还在经历大规模重组,多位华人联合创始人离职,Grok的表现也不尽如人意。 可就在这个节骨眼上,他主动对一家中国AI公司的技术论文表示认可,多少有些出人意料。 说回被马斯克点赞的这个东西,其实是有点抽象的,因为它压根不是一个模型。 Kimi团队提出了一种新的方式,试图替换掉Transformer架构里一个自2015年以来就几乎没人动过的基础组件。 这是一篇纯粹的架构层面的技术论文。 虽然说这篇论文的影响,未必会被普通用户感知到,可实际上,它触碰的是整个深度学习的基石。 01 月之暗面到底改了什么 要理解这篇论文在做什么,得先搞清楚一个背景。现代大语言...

查看原文 →