Micron ha comenzado el suministro de módulos DDR5 RDIMM de 256 GB con un ancho de banda de 9200 MT/s. Los dispositivos basados en DRAM 1-gamma y TSV ofrecen un aumento de velocidad superior al 40% frente a los RDIMM típicos, reduciendo el consumo de energía por gigabyte para servidores de IA.
Micron Technology anunció el inicio de los envíos de módulos de memoria RAM DDR5 RDIMM con una capacidad de 256 GB y una frecuencia efectiva récord de 9200 MT/s. El producto está orientado a sistemas de servidor que procesan grandes modelos de lenguaje y algoritmos de recomendación. En comparación con los módulos DDR5 RDIMM de serie, la velocidad ha aumentado más de un 40%, lo que permite reducir las latencias en el intercambio de pesos de redes neuronales.
La base técnica clave es la tecnología de fabricación DRAM 1-gamma con apilamiento 3D y orificios de paso de silicio (TSV). Dicha disposición permite albergar 256 GB en un único módulo físico. Micron destaca que un solo módulo de 256 GB consume un 40% menos de energía que dos módulos tradicionales de 128 GB sumados. Esto reduce los requisitos de los sistemas de refrigeración en los racks de centros de datos.
La empresa está realizando una validación conjunta de los nuevos RDIMM con socios del sector de inteligencia artificial en plataformas de servidor existentes y futuras. Los ingenieros pueden aumentar la capacidad de memoria por zócalo manteniéndose dentro del presupuesto térmico asignado y los límites de potencia de la infraestructura actual. El precio de los módulos no se revela, pero fuentes del sector estiman un coste de entre 4000 y 5500 dólares por unidad para suministros al por mayor.
Los chips DRAM 1-gamma forman los dados base con densidad de almacenamiento. A través de los orificios de paso de silicio (TSV), los dados se unen verticalmente en una sola pila, aumentando la capacidad sin incrementar el área del sustrato. Esta pila se coloca en la placa de circuito impreso del módulo DDR5 RDIMM, donde un búfer registrado (driver registrado de relojes y comandos) reduce la carga sobre el controlador de memoria del procesador. El resultado: el controlador de la CPU del servidor ve un único rango lógico de 256 GB e intercambia datos a través del bus DDR5 a velocidades de hasta 9200 MT/s.
El aumento de velocidad hasta 9200 MT/s al pasar de dos módulos de 128 GB a un único RDIMM de 256 GB resuelve simultáneamente el dilema de capacidad, ancho de banda y energía. En sistemas de IA, esto reduce el número de rangos físicos por canal de memoria, disminuyendo la latencia CAS en términos relativos y mejorando el ancho de banda sostenido para operaciones tensoriales sin aumentar el TDP de la zona de memoria.