丹羿深度 | AI时代近存计算腾飞:新型定制化存储3D DRAM
2025-09-16
DANYITZ
丹丨心丨羿丨力丨专丨注丨价丨值丨成丨长
AI时代产业链百花齐放,从海内外大厂如谷歌、亚马逊、Meta、open AI,以及国内BBAT从进行军备竞赛到模型推理反哺自身业务。AI云计算帮助提高各行各业的生产效率,以及渗透进入人们的日常生活中,出现AI端侧的创新设备如AI手机、AI PC、AI眼镜、AI耳机、AI玩具等等。AI模型推理场景,不仅需要大家熟知的 “ 算力 ” 芯片,数据存储的带宽和降本需求也是关键,基于先进封装的近存计算应运而生。
█ 什么是定制化存储技术?
3D DRAM需要高度定制化,DRAM厂家根据逻辑计算芯片的需求来修建。本身DRAM颗粒需要做特殊设计,不是标准接口。如下图,CUBE是台湾的华邦电子开发的定制化存储器,采用TSV+Microbump工艺(与HBM类似),将堆叠了多层的CUBE放在逻辑芯片下面。具体的尺寸、层数都可以根据与逻辑芯片的适配去定制。
资料来源:华邦电子白皮书《CUBE 技术助力变革边缘 AI 计算》
国内A股上市公司兆易创新有领先的技术积累,采用wafer on wafer堆叠工艺(切割成颗粒前就进行存储晶圆的键合),并将3D DRAM放置在逻辑芯片之上。
3D DRAM相较于我们之前讨论过的HBM(丹羿深度 | AI时代的存力明珠HBM)和传统DDR的优势:一是3D DRAM比HBM的功耗更低,适合端侧低功耗场景; 二是定制化实现更高带宽, 可通过定制更多I/O接口实现超高带宽,而传统DDR的带宽偏低;三是成本更低,对比海外存储大厂HBM颗粒十几美元/GB的价格,国产定制化存储有望实现显著的降本,更加适合端侧海量设备的普及。
3D DRAM 潜在限制为存储容量,这一点相较于HBM具有劣势。海外HBM3e颗粒适用于大算力芯片,存储容量达到百GB以上(HBM 单die是2GB, 堆叠8-12层是16-24GB,一个GPU周围放置6颗HBM)。3D DRAM能做到几十GB的水平,能够适用于部分云端的场景。
█ 目前定制化存储技术的落地情况如何?
瑞芯微于今年7月17日开发者大会发布多款产品,旗舰新品包括全球第一颗3D堆叠的协处理器芯片RK182X系列(NPU),就搭载了兆易创新为其定制的存储器,实现百GB 级别DRAM带宽,端侧模型突破百Token/s,端到端响应延时低至0.1s。
预计未来几年内,我们会看到3D DRAM在更多的终端产品上落地,比如机器人、AI手机、AI PC、汽车里的智能座舱等等。
把握科技发展趋势和研究前沿技术是硬科技投资的灵魂,3D DRAM是具有巨大想象力的新型存储技术路线。这个新技术路线的问世,也证明了国内芯片公司从追赶复制海外厂商,到自身创新 “ 敢为天下先 ” 的实力跨越。
END
往期·点睛
重要声明
请您细阅此重要提示,并完整阅读根据您的具体情况进行选择。 请您确认您或您所代表的机构是符合《中华人民共和国证券投资基金法》、《中华人民共和国信托法》、《私募投资基金监督管理暂行办法》、《信托公司集合资金信托计划管理办法》、《证券公司客户资产管理业务管理办法》、《证券公司集合资产管理业务实施细则》、《基金管理公司特定客户资产管理业务试点办法》及其他相关法律法规所认定的合格投资者。 一、根据我国《私募投资基金监督管理暂行办法》的规定,私募基金合格投资者的标准如下: 1、具备相应风险识别能力和风险承担能力,投资于单只私募基金的金额不低于100万元且符合下列相关标准的单位和个人: (1)净资产不低于1000万元的单位; (2)个人金融资产不低于300万元或者最近三年个人年均收入不低于50万元。(前款所称金融资产包括银行存款、股票、债券、基金份额、资产管理计划、银行理财产品、信托计划、保险产品、期货权益等。) 2、下列投资者视为合格投资者: (1)社会保障基金、企业年金、慈善基金; (2)依法设立并受国务院金融监督管理机构监管的投资计划; (3)投资于所管理私募基金的私募基金管理人及其从业人员; (4)中国证监会规定的其他投资者。 二、根据我国《信托公司集合资金信托计划管理办法》的规定,信托计划合格投资者的标准如下: 1、投资一个信托计划的最低金额不少于100万元人民币的自然人、法人或者依法成立的其他组织; 2、个人或家庭金融资产总计在其认购时超过100万元人民币,且能提供相关财产证明的自然人; 3、个人收入在最近三年内每年收入超过20万元人民币或者夫妻双方合计收入在最近三年内每年收入超过30万元人民币,且能提供相关收入证明的自然人。 三、根据我国《证券公司客户资产管理业务管理办法》的规定,集合资产管理计划合格投资者的标准如下: 1、个人或者家庭金融资产合计不低于100万元人民币; 2、公司、企业等机构净资产不低于1000万元人民币。 依法设立并受监管的各类集合投资产品视为单一合格投资者。 如果确认您或您所代表的机构是一名“合格投资者”,并将遵守适用的有关法规请点击“接受”键以继续浏览本公司网站。如您不同意任何有关条款,请直接关闭本网站。 “本网站”指由上海丹羿投资管理合伙企业(普通合伙)(以下简称“本公司”)所有并及其网站内包含的所有信息及材料。本网站所发布的信息、观点和数据有可能因所基于的信息发布日之后的情势或其他因素的变更而不再准确或失效,本公司不承诺及时更新不准确或过时的信息、观点以及数据。 本网站介绍的信息、观点和数据仅供一般性参考,不应被视为购买或销售任何金融产品的某种要约,亦非对任何交易的正式确认。投资有风险,投资产品的过往业绩并不预示其未来表现,本公司不对产品财产的收益状况做出任何承诺或担保,投资者不应依赖本网站所提供的数据做出投资决策,在做出投资决策前应认真阅读相关产品合同及风险揭示等宣传推介文件,并自行承担投资风险。