A Micron iniciou o fornecimento de módulos DDR5 RDIMM de 256 GB com largura de banda de 9200 MT/s. Os componentes baseados em DRAM 1-gama e TSV proporcionam um aumento de velocidade superior a 40% em relação aos RDIMM típicos, reduzindo o consumo de energia por gigabyte para servidores de IA.
A Micron Technology anunciou o início das remessas de módulos de memória RAM DDR5 RDIMM com capacidade de 256 GB e frequência efetiva recorde de 9200 MT/s. O produto é direcionado a sistemas de servidor que processam grandes modelos de linguagem e algoritmos de recomendação. Em comparação com os módulos DDR5 RDIMM de série, o indicador de velocidade cresceu mais de 40%, o que permite reduzir as latências na troca de pesos de redes neurais.
A principal base técnica foi a tecnologia de fabricação DRAM 1-gama com empilhamento 3D e orifícios de passagem de silício (TSV). Tal disposição permite colocar 256 GB em um único módulo físico. A Micron destaca que um único módulo de 256 GB consome 40% menos energia do que dois módulos tradicionais de 128 GB somados. Isso reduz os requisitos para sistemas de refrigeração nos racks de data centers.
A empresa está realizando a validação conjunta dos novos RDIMM com parceiros do setor de inteligência artificial em plataformas de servidor existentes e futuras. Os engenheiros podem aumentar a capacidade de memória por soquete mantendo-se dentro do orçamento térmico designado e dos limites de energia da infraestrutura atual. O preço dos módulos não é divulgado, mas fontes do setor estimam o custo na faixa de 4000 a 5500 dólares por unidade para fornecimentos no atacado.
Os chips DRAM 1-gama formam os dados base com densidade de armazenamento. Através dos orifícios de passagem de silício (TSV), os dados são unidos verticalmente em uma única pilha, aumentando a capacidade sem aumentar a área do substrato. Essa pilha é colocada na placa de circuito impresso do módulo DDR5 RDIMM, onde um buffer registrado (driver registrado de clocks e comandos) reduz a carga no controlador de memória do processador. O resultado: o controlador da CPU do servidor vê uma única classificação lógica de 256 GB e troca dados através do barramento DDR5 a velocidades de até 9200 MT/s.
O aumento de velocidade para 9200 MT/s ao passar de dois módulos de 128 GB para um único RDIMM de 256 GB resolve simultaneamente o dilema de capacidade, largura de banda e energia. Em sistemas de IA, isso reduz o número de classificações físicas por canal de memória, diminuindo a latência CAS em termos relativos e melhorando a largura de banda sustentada para operações de tensor sem aumentar o TDP da zona de memória.