据行业媒体报道,字节跳动正在讨论训练一个参数规模超5万亿的模型,该计划由Seed Foundation负责人项亮主导,与大语言模型预训练数据负责人沈科合作。此举意在超越现有竞争对手——阿里的Qwen 3.8-Max(2.4万亿参数)和月之暗面的K3(2.8万亿参数),成为国内参数规模最大的大模型。为此,Seed团队正在重新梳理组织、划分职责、分配资源。多位字节人士表示,与其在现有尺寸上继续追赶,不如把参数规模一次推到同行的数倍,争取领先位置。目前该计划仍处于早期阶段,并不代表模型最终一定会发布。
国盛证券此前在字节跳动专题报告中指出,字节Seed团队在Seedance 2.5上已展现多模态生成的全面突破,模型单次视频生成时长从15秒跃升至30秒,多模态参考输入上限达50个,并从内容创作拓展至具身智能、智能驾驶和制造等实体产业。此次讨论5万亿参数模型,意味着字节正从多模态应用优势向底层模型参数规模发起全面冲击,国内大模型进入参数规模跃迁和基础设施竞速的新阶段。
基建方面,金元证券提到,字节AI基础设施布局已先行一步。此前发布的AI Rack 3.0兆瓦级算力系统单机柜功率达500KW、双柜集群突破1MW,可容纳576颗XPU芯片,较上代算力密度和集群带宽翻倍提升,并采用800V HVDC高压直流供电与100%全液冷散热方案。该机构认为这标志着字节算力基础设施正从百千瓦级向兆瓦级演进,为超大规模模型训练储备了充足的硬件底座。
公司方面,据上市公司互动平台、公告及券商研报表示,
寒武纪:国产AI芯片核心企业,思元系列AI加速卡覆盖训练与推理场景。
润泽科技:行业领先的超大规模园区级算力中心服务商,与字节跳动有合作。
中科曙光:国产AI超算和服务器龙头,直接受益于国内大模型训练对高性能算力集群的需求扩容。
*免责声明:文章内容仅供参考,不构成投资建议
*风险提示:股市有风险,入市需谨慎
沪公网安备31011802004900号