Hot Chips 33: Samsung demonstra os últimos avanços na tecnologia PIM
Na conferência anual Hot Chips 33, hoje, a Samsung revelou seus mais recentes avanços em tecnologia de processamento em memória (PIM), incluindo a primeira integração bem-sucedida de sua memória de alta largura de banda habilitada para PIM (HBM-PIM) em um sistema acelerador comercializado.
Desde a sua introdução em fevereiro de 2021, o HBM-PIM (Aquabolt-XL) foi testado no acelerador Xilinx Virtex Ultrascale + (Alveo) AI, onde entregou um aumento de quase 2,5 vezes no desempenho do sistema, reduzindo o consumo de energia em mais de 60%. A Samsung anunciou isso em um comunicado à imprensa na terça-feira.
HBM-PIM é a primeira solução de armazenamento sob medida para IA do setor que está sendo testada em sistemas aceleradores de IA por clientes e apresenta um enorme potencial comercial. Com a padronização da tecnologia, os aplicativos estão se tornando numerosos, incluindo HBM3 para supercomputadores de próxima geração e aplicativos de IA, e até mesmo armazenamento móvel para IA interna do dispositivo, bem como módulos de memória usados em centros de dados.
Em seguida, o DIMM de aceleração (AXDIMM) minimiza grandes movimentos de dados entre a CPU e a DRAM, trazendo o processamento para o próprio módulo DRAM. Com um mecanismo AI integrado no chip de buffer, o AXDIMM pode processar várias classificações de memória em paralelo, em vez de acessar apenas uma classificação por vez, o que melhora significativamente o desempenho e a eficiência do sistema.
O AXDIMM oferece cerca de duas vezes o desempenho em aplicativos de recomendação baseados em IA e uma redução de 40% no consumo de energia em todo o sistema.
Além disso, a tecnologia de armazenamento móvel LPDDR5-PIM da Samsung é capaz de fornecer funções de IA independentes sem conectividade de data center a aplicativos.
Finalmente, a Samsung anunciou planos para expandir seu portfólio de armazenamento de IA por meio de uma colaboração com outros líderes do setor para concluir a padronização da plataforma PIM no primeiro semestre de 2022.
