Rambus通过9.6 Gbps HBM3内存控制器IP大幅提升AI性能
中国北京,2023年12月7日—作为业界领先的芯片和IP核供应商,致力于使数据传输更快更安全,Rambus Inc.(纳斯达克股票代码:RMBS)今日宣布Rambus HBM3内存控制器IP现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。相比HBM3 Gen1 6.4 Gbps 的数据速率,Rambus HBM3内存控制器的数据速率提高了50%,总内存吞吐量超过1.2 TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。
Rambus HBM3控制器模块图
“大语言模型要求高性能内存技术的不断进步,使得HBM3成为AI/ML训练的首选内存。依靠Rambus的创新和卓越的工程技术,我们的HBM3内存控制器IP可提供业界领先的9.6 Gbps性能。”
——Neeraj Paliwal
Rambus IP核部门总经理
“HBM 是更快速且更高效的处理大型 AI 训练和推理集的关键内存技术,比如用于生成式 AI 的训练和推理。对于像Rambus这样的 HBM IP供应商来说,持续提高性能来支持满足市场苛刻要求的领先 AI 加速器的意义重大。”
——Soo-Kyoum Kim
IDC内存半导体副总裁
HBM采用创新的2.5D/3D架构,为AI加速器提供具有高内存带宽和低功耗的解决方案。凭借极低的延迟和紧凑的封装,HBM已成为AI训练硬件的首选。
Rambus HBM3 内存控制器 IP 专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。对于选择第三方HBM3 PHY的客户,Rambus还提供HBM3控制器的集成与验证服务。