SK Hynix ha comenzado oficialmente la producción en serie de sus innovadores módulos de memoria SOCAMM2 de 192GB. Este importante desarrollo está preparado para redefinir los estándares de rendimiento de los servidores de IA de nueva generación que respaldan la próxima plataforma Vera Rubin de NVIDIA. Los nuevos módulos prometen mejoras significativas en ancho de banda y eficiencia energética al abordar los cuellos de botella críticos en el entrenamiento y la inferencia de modelos de IA.

Puntos Clave

  • SK Hynix ha comenzado la producción en serie de módulos de memoria SOCAMM2 de 192GB.
  • Diseñado para la plataforma de IA Vera Rubin de NVIDIA, con potencial soporte para AMD EPYC.
  • Ofrece el doble de ancho de banda en comparación con los RDIMM tradicionales y más del 75% de eficiencia energética.
  • Apunta a resolver los cuellos de botella de memoria en el entrenamiento y la inferencia de grandes modelos de lenguaje (LLM).
  • La tecnología SOCAMM2, utilizada anteriormente en dispositivos móviles, ahora está adaptada para entornos de servidor.

Renovando Revolucionariamente el Rendimiento de los Servidores de IA

Los nuevos módulos SOCAMM2 de 192GB de SK Hynix están construidos utilizando un avanzado proceso de 1cnm basado en la tecnología DRAM LPDDR5X de bajo consumo de sexta generación de 10 nanómetros de la compañía. Este diseño innovador mejora significativamente el rendimiento al ofrecer más del doble del ancho de banda de las soluciones RDIMM tradicionales. Además, estos módulos logran más del 75% de eficiencia energética, proporcionando un factor crítico para las crecientes demandas de los centros de datos de IA.

Atendiendo las Crecientes Demandas de la IA

La transición del mercado de IA de la fase de inferencia a la fase de entrenamiento requiere soluciones de memoria que puedan gestionar conjuntos de datos masivos y cálculos complejos de manera más eficiente. El SOCAMM2 de SK Hynix ha sido diseñado específicamente para enfrentar estos desafíos. Al posicionar el módulo de memoria más cerca de las unidades de procesamiento, aumenta la integridad de la señal y la escalabilidad, mientras que la capacidad de extracción y reemplazo ofrece ventajas prácticas.

Un Nuevo Estándar para la Memoria de IA

“Al presentar el SOCAMM2 de 192GB, SK Hynix ha establecido un nuevo estándar en el rendimiento de la memoria de IA,” dice Justin Kim, presidente y CEO responsable de la infraestructura de IA en SK Hynix. “Colaborando estrechamente con nuestros clientes globales de IA, consolidaremos nuestra posición como el proveedor de soluciones de memoria de IA más confiable.”

La compañía anticipa que estos módulos desempeñarán un papel importante en acelerar la velocidad de procesamiento de los sistemas generales al resolver fundamentalmente los cuellos de botella de memoria encontrados durante el entrenamiento y la inferencia de grandes modelos de lenguaje con cientos de miles de millones de parámetros. Se espera que este desarrollo reduzca significativamente el consumo de energía y los costos de refrigeración en los centros de datos, mejorando en última instancia el costo total de propiedad de la infraestructura de IA.