Micronは、256GB容量で転送速度9200MT/sのDDR5 RDIMMモジュールの出荷を開始した。1‑ガンマDRAMとTSVを採用した本製品は、従来型RDIMMと比較して40%以上の速度向上を実現し、AIサーバー向けにギガバイトあたりの消費電力を削減する。
Micron Technologyは、256GB容量で実効周波数9200MT/sという記録的な性能を持つDDR5 RDIMMメモリモジュールの出荷開始を発表した。本製品は大規模言語モデルやレコメンデーションアルゴリズムを処理するサーバーシステム向けに設計されている。量産型DDR5 RDIMMと比較して速度が40%以上向上しており、ニューラルネットワークのウェイトスワッピング時の遅延を削減できる。
主要な技術的基盤は、3D積層とシリコン貫通電極(TSV)を備えた1‑ガンマDRAMの製造技術である。この構成により、1つの物理モジュールに256GBを搭載することが可能となる。Micronは、256GBモジュール1本の消費電力が、従来の128GBモジュール2本の合計と比較して40%少ないと強調している。これによりデータセンターのラックにおける冷却システムの要件が軽減される。
同社は、現行および将来のサーバープラットフォーム上で、人工知能分野のパートナーと共同で新しいRDIMMのバリデーションを実施している。エンジニアは、既存インフラの熱設計電力および電力制限の範囲内で、ソケットあたりのメモリ容量を増強できる。モジュールの価格は非公表だが、業界関係者は卸売り供給時に1本あたり4,000～5,500ドルの範囲になると見積もっている。
1‑ガンマDRAMチップは、高密度記憶用のベースダイを形成する。シリコン貫通電極(TSV)を介してダイを垂直に積層し1つのスタックとすることで、基板面積を増やさずに容量を拡大する。このスタックはDDR5 RDIMMのプリント基板上に配置され、レジスタードバッファ(クロックおよびコマンド用レジスタードドライバ)がプロセッサのメモリコントローラへの負荷を低減する。その結果、サーバーCPUのコントローラは256GBの単一論理ランクを認識し、DDR5バスを介して最大9200MT/sの速度でデータを交換する。
128GBモジュール2本から256GB RDIMM1本への移行時に速度が9200MT/sに向上することで、容量・帯域幅・エネルギーのジレンマが同時に解決される。AIシステムにおいては、メモリチャネルあたりの物理ランク数が減少し、相対的なCASレイテンシが低減され、メモリ領域のTDPを増加させずにテンソル演算に対する持続的な帯域幅が向上する。