国产SSD突破关键一步,华为发布AI SSD意图打破“两堵墙”
中国基金报记者 邱德坤
“智能时代,呼唤一场存储介质应用创新的革命。”在8月27日举行的华为数据存储AI SSD发布会上,华为公司副总裁、数据存储线总裁周跃峰表示,AI SSD(固态硬盘)将以技术创新提升AI业务体验,攻克效率与成本难关。
中国基金报记者拍摄
当前AI算力卡的显存容量,难以承载大模型记忆数据的爆炸式增长,传统SSD也因性能局限拖慢了大模型的响应速度,影响AI应用体验。
华为发布AI SSD意在打破“两堵墙”:向上打破内存墙、向下打破容量墙。
AI SSD是一款专为AI工作负载优化的高性能、大容量固态硬盘。该产品结合华为自研的多项核心技术,有望成为国产SSD突破的关键一步。
AI时代存储介质迎来挑战
华为意图解决AI行业化落地“两堵墙”
“AI时代是数据的黄金时代。”周跃峰表示,随着AI大模型走出实验室,走进千行万业的生产系统,数据规模迎来指数级增长。数据效率直接影响企业的生产力效能,数据的可靠存储成为企业资产管理的基础要求。
AI时代的数据采集、模型训练与推理,均对存储介质提出了挑战,存在的问题包含数据采集存不下、模型训练训不动、模型推理推得慢等。
以数据采集存不下为例,训练67.1亿个参数的AI大模型,需要采集3.5PB(千万亿字节)的数据,并且AI大模型的参数每两年增长750倍,对SSD的容量提出更大的挑战。
对此,华为AI SSD聚焦提升训练效率和推理体验,可以降低每Token(词元)的成本,深度加固AI数据的可靠性,解决AI行业化落地的“两堵墙”。
中国基金报记者拍摄
一是AI SSD将向上打破内存墙。HBM(高带宽内存)和DRAM(动态随机存取存储器)的速度快但容量小,经常存不下大模型参数和历史KV Cache(键值缓存),导致大模型无法运行或经常失忆,AI SSD性能盘除了可以应对前述问题,还能与HBM智能协同提升系统的整体效率。
二是AI SSD将向下打破容量墙。虽然机械硬盘的容量大,但占空间、速度慢、功耗高。AI SSD容量盘最大单盘可提供245TB,容量密度比机械硬盘提升13倍,并且每TB仅消耗0.1W,成为更具性价比的选择。
AI SSD或将打破AI存储器市场现有格局
据悉,华为意图通过AI SSD在AI存储器领域树立新标杆,改变HBM当前在AI存储器领域一枝独秀的地位,或将对中国AI存储器市场的现有格局产生重要影响。
HBM在AI存储器中占据核心地位,是GPU(图形处理器)和AI加速器的关键组件,可以最大限度利用AI加速器的强大算力,显著缩短训练时间和提高推理吞吐量。
问题在于,HBM通过牺牲容量换取极致带宽和能效,导致现有算力卡上的HBM容量都比较有限。比如,英伟达的H20芯片仅有96GB的HBM。
未来,AI存储架构将形成HBM与AI SSD智能协同的格局,通过存储层级优化和智能数据调度,形成三层缓存架构(HBM-DRAM-AI SSD),从而实现性能与成本的最佳平衡。
中国基金报记者拍摄
比如,训推一体机在算力卡数量有限的情况下,要运行尽可能大的模型和尽可能长的序列,可以使用AI SSD的性能盘与HBM智能协同。
华为在发布AI SSD之后,将与国内训推一体机厂商合作,推动国内AI产业链协同升级,构建完整生态,为我国企业发展AI提供更高效、经济的解决方案。
编辑:杜妍
校对:乔伊
制作:小茉
审核:陈思扬
版权声明
《中国基金报》对本平台所刊载的原创内容享有著作权,未经授权禁止转载,否则将追究法律责任。
授权转载合作联系人:于先生(电话:0755-82468670)