Samsung desarrolla la primera memoria de gran ancho de banda con potencia de procesamiento de IA

0

Samsung Electronics desarrolla la primera memoria de gran ancho de banda (HBM) de la industria integrada con potencia de procesamiento de inteligencia artificial (IA): el HBM-PIM. La nueva arquitectura de procesamiento en memoria (PIM) ofrece poderosas capacidades de computación de IA dentro de la memoria de alto rendimiento, para acelerar el procesamiento a gran escala en centros de datos, sistemas de computación de alto rendimiento (HPC) y aplicaciones móviles habilitadas para IA.

“Nuestra innovadora HBM-PIM es la primera solución programable del sector adaptada a diversas cargas de trabajo, impulsadas tanto por la IA como el HPC, el entrenamiento y la inferencia” explica Kwangil Park, vicepresidente de planificación de productos de memoria de Samsung Electronics. Y señaló que la intención de la compañía es desarrollar este avance mediante la colaboración de proveedores de soluciones IA para conseguir aplicaciones más avanzadas impulsadas por el PIM.

HBM-PIM es la primera solución programable del sector adaptada a diversas cargas de trabajo, impulsadas tanto por la IA como el HPC, el entrenamiento y la inferencia.

Rick Stevens, Director Asociado del Laboratorio de Argonne para Computación, Medio Ambiente y Ciencias de la vida, señaló: “El diseño HBM-PIM ha demostrado un impresionante rendimiento y aumento de potencia en importantes clases de aplicaciones de IA, por lo que estamos deseando trabajar juntos para evaluar su rendimiento en otros problemas de interés para el Laboratorio Nacional Argonne.”

La ponencia de Samsung sobre HBM-PIM se presentará en la Conferencia Virtual de Circuitos de Estado Sólido (ISSCC) que se celebra el 22 de febrero. El HBM-PIM de Samsung está siendo probada en aceleradores de IA por los principales partners de soluciones de IA, y se espera que todas las validaciones se completen en la primera mitad de este año.

 

M-PIM lleva la potencia de procesamiento directamente al lugar donde se almacenan los datos

La mayoría de los sistemas informáticos actuales se basan en la arquitectura von Neumann, que utiliza unidades de procesador y memoria separadas para llevar a cabo millones de tareas complicadas de procesamiento de datos. Este método de procesamiento secuencial requiere que los datos se muevan constantemente de un lado a otro, lo que provoca una saturación en el sistema, especialmente cuando se manejan volúmenes de datos cada vez mayores.

La nueva arquitectura duplicará el rendimiento del sistema y reducirá el consumo de energía en más del 70%

En su lugar, el HBM-PIM lleva la potencia de procesamiento directamente al lugar donde se almacenan los datos, colocando un motor de IA optimizado para la DRAM dentro de cada banco de memoria – una subunidad de almacenamiento – que permite el procesamiento en paralelo y minimiza el movimiento de datos. Cuando se aplica a la solución HBM2 Aquabolt de Samsung, la nueva arquitectura es capaz de ofrecer más del doble de rendimiento del sistema, al tiempo que reduce el consumo de energía en más de un 70%. El HBM-PIM tampoco requiere ningún cambio de hardware o software, lo que permite una integración más rápida en los sistemas existentes.

About Author

Avatar

Leave A Reply