美股存储芯片股为何今日重挫?

周三美股盘中,存储芯片板块遭遇显著回调。西部数据(WDC)和美光科技(MU)均跌超4%,希捷科技(STX)跌幅超5%。 引发这一轮集体走弱的直接原因,是谷歌刚刚发布了一项名为TurboQuant的新型AI内存压缩技术,引发了市场对存储硬件中长期需求前景的担忧。 要理解为什么一个“软件算法”的进步会吓坏“卖硬件”的公司,我们得先搞清楚大模型运行时最占资源的地方——键值缓存(KV Cache)。 当你在和AI对话,或者让它处理长文章时,为了记住前面的内容(上下文),AI必须在内存里实时暂存大量数据。这就像一个人为了记住长篇大论,脑子里得塞满临时的笔记。这些“临时笔记”不仅极其占用昂贵的存储空间,还拖慢了AI的反应速度,限制了它能同时服务多少人。 谷歌推出的TurboQuant技术,正是为了精准攻克这一硬件痛点。根据公开测试数据,该技术能够在完全不损失大模型准确性、且无需重新训练的前提下,将键值缓存直接压缩至原先的六分之一。 同时,在英伟达H100加速器上,处理性能最高提升了8倍。这意味着,原本需要大量高昂内存硬件才能支撑的长上下文推理运算,现在通过底层数据结构的“瘦身”...

查看原文 →