“回想过去十年,人工智能取得了巨大的进步,现在能够进行语言处理。新的应用之所以成为可能,实际上是因为有了更好的硬件,而HBM4控制器IP对内存行业的意义在于,我们正在支持下一代应用程序,这将使用户以及硬件和软件开发人员受益。”Rambus研究员与杰出发明家Steven Woo说道。
在数字经济高速发展的背景下,数据的迅速响应和处理成为了获取竞争优势的关键,而这一切都离不开内存的支持。与此同时,以大模型为代表的AI技术的发展也日新月异,对内存性能提出了更高的要求。
其中,在AI训练阶段,为了向AI模型输入海量数据,让其充分学习并分析各类数据信息,这就要求内存具备速度快、性能强,尺寸小的特点。而在AI推理阶段,为了确保AI模型能够实时处理新数据,并迅速生成预测和可执行的结论,内存则需拥有更低的延迟和更高的带宽,以满足实时性的严苛需求。
AI需求推动内存升级
为支持不断演进的AI工作负载和海量的数据传输,行业需要依赖更高性能、高密度的内存。
从目前来看,DRAM内存技术主要分为DDR、LPDDR、GDDR、HBM等类型,各有其独特的用途。例如,DDR是当前最标准的内存形式,广泛应用于全球各地的服务器和数据中心;LPDDR是一种低功耗的DDR内存,适用于手机、AI边缘推理系统;GDDR是一种专为图形处理设计的DDR内存,被用于AI推理任务;而HBM具有超高的带宽和密度,远高于市面上常见的普通DRAM,特别适用于AI训练、高性能计算和网络应用。
据了解,HBM的DRAM内存通过一个中介层的物理线与处理器进行连接。该中介层与下方的基板相接,最终整个结构会被焊接在PCB上。HBM的DRAM堆栈采用多层堆叠架构,这种设计带来了极高的内存带宽、大容量和高能效。
HBM技术的发展经历了几个阶段,自HBM初代问世,历经第二代、2E、3E之演变,每一代的显著变化主要体现在单个堆栈带宽的急剧增加上。到了HBM3E阶段,单一设备的带宽已突破1.2TB/s的大关。
面对持续增长的高带宽内存需求,整个存储器产业界正积极投入资源,致力于新一代HBM技术的研发工作,其中HBM4就是当前正处在开发阶段的下一代技术,技术标准由JEDEC组织负责制定。尽管其各项性能指标仍在研发调整中,但初步数据显示,其单个堆栈的带宽已超越HBM3E。
打破内存瓶颈
基于此,芯片和半导体IP供应商Rambus宣布推出HBM4内存控制器IP,使设计人员能够应对下一代AI加速器和图形处理器(GPU)对内存带宽所提出的苛刻需求。
据悉,HBM4的控制器IP提供了32个独立通道的接口,总数据宽度可达2048位。基于这一数据宽度,当数据速率为6.4Gbps时,HBM4的总内存吞吐量将比HBM3高出两倍以上,达到1.64TB/s。
为满足不同客户在多样化应用场景中的特定需求,Rambus公司提供了高度定制化的服务方案,覆盖了内存模块的尺寸、性能以及功能等多个方面。在功能定制上,Rambus特别提供了包括错误检查和纠正(ECC)、读写修改(RMW)以及错误清理等关键可选功能。
除此之外,为确保流片过程的一次性成功,Rambus提供了以下三大核心支持:
第一,控制器测试平台。该平台使客户能够对整个控制器代码库进行彻底地回归测试。Rambus不仅为客户提供了丰富的测试序列,以执行特定控制器和物理层的测试,还采用了基于功能覆盖率的验证计划,从而确保测试的完整性。
第二,验证IP。Rambus通过与西门子旗下子公司Avery Design Systems的紧密合作,提供了包括内存模块BFM、主机内存控制器BFM和PHY BFM在内的多种验证IP。
第三,物理层(PHY)支持。Rambus支持各种第三方PH/控制器,可与Rambus通用PHY模型一起即刻交付,并提供对控制器和控制器/PHY集成的全面支持。
“Rambus非常自豪地宣布推出业内首款HBM4控制器IP,旨在加速下一代AI工作负载,”Steven Woo指出,“Rambus HBM4控制器可以支持新一代HBM内存的部署,适用于先进的处理器,包括AI加速器、图形处理器和高性能计算应用。”
Rambus研究员与杰出发明家 Steven Woo
值得一提的是,Rambus提供的半导体IP解决方案组合不仅涵盖了构建高性能芯片和处理器所需的核心模块,如HBM和GDDR内存控制器、PCIe和CXL协议控制器,还包括后量子密码学、Root of Trust和加密技术等全方位的安全功能。
Rambus大中华区总经理苏雷表示:“凭借在HBM领域积累的丰富经验和深厚专业知识,Rambus不仅在中华区,而且在全球市场都稳居领先地位。首先,Rambus的HBM技术极为先进,无论是在信号完整性、电源完整性方面,还是在应对Steven Woo提到的其他技术挑战上,都展现出了卓越的实力。其次,Rambus高度重视售中和售后服务,会根据客户的项目需求和产品规格、配置,提供最优化的技术建议和参考方案。”
Rambus大中华区总经理 苏雷
写在最后:
在数字化浪潮和AI技术的共同推动下,内存技术正迎来前所未有的发展机遇。HBM4作为新一代高性能内存技术,以其超高的带宽和密度,为AI训练、高性能计算等领域带来了突破性的进展。Rambus所推出的HBM4控制器IP,不仅彰显了其在技术研发方面的深厚积累,更为加速下一代AI工作负载及高性能计算应用的发展奠定了坚实基础。