HBM之父断言AI=内存,推理时代存储价值被持续重新定价


金正浩教授受访指出AI本质是内存而非GPU,GPU利用率难超30%,推理时代内存重要性正被重新定价。HBM通过3D堆叠向上扩展,容量与带宽持续翻倍。今日重要性:✨

近日被业界称为"HBM之父"的韩国KAIST教授金正浩接受视频专访,围绕HBM技术演进和AI算力格局作出系统性阐述。

其给出了一个令人震动的判断:"GPU装100万台,真正工作的时间只有10%。"每当AI输出一个词,系统需从HBM读取数据、完成计算、再写回内存,"读和写几乎占掉全部时间,GPU就在旁边干等着",即便通过算法优化,GPU利用率也很难突破30%。

金正浩据此提出核心主张:"AI等于内存(AI=Memory)。"他解释,从训练时代转向推理时代,内存的重要性正在被重新定价,谷歌Gemini、OpenAI、Anthropic Claude"谁更强,是由内存决定的"。

其表示,GPU因散热限制无法垂直堆叠陷入"外通死局",而HBM通过3D堆叠向上扩展,容量以每年翻倍速度增长——"10年就是1000倍"。带宽方面,"传统内存是8车道,HBM现在已是2048车道,几年后可能达到100万车道"。

东吴证券研报指出,HBM凭借高带宽、低延迟、低功耗优势已成为应对"内存墙"的核心技术方案,在AI服务器BOM中的价值量占比快速提升。而HBM采用3D堆叠架构,测试道数由传统DRAM的3-4道提升至15道以上,存储测试机需求约为传统DRAM的5-6倍,驱动相关设备市场扩容。

公司方面,据上市公司互动平台、公告及券商研报表示,

精智达:国产存储测试设备新锐,在KGSD(已知良好堆叠裸片)测试等HBM关键环节布局。

长川科技:国内存储测试机领先厂商。

*免责声明:文章内容仅供参考,不构成投资建议

*风险提示:股市有风险,入市需谨慎

本资讯中的内容来自持牌证券机构,意见仅供参考,并不构成对所述证券买卖做出保证。投资者不应将本资讯作为投资决策的唯一参考因素。亦不应以本资讯取代自己的判断。

本文内容和观点不代表选股通APP平台观点,请独立判断和决策。在任何情况下,选股通APP不对任何人因使用本平台中的内容所引致的任何损失负任何责任。

    联系微信二维码 联系微信
    回到顶部