4月19日,韓國存儲廠商SK海力士(SK hynix)宣布,已開始量產192GB SOCAMM2,該內存模塊是為英偉達Vera Rubin平臺所設計。
據介紹,SOCAMM2(小輪廓壓縮附加內存模塊2)是一種基于1cnm工藝(10納米技術第六代)LPDDR5X低功耗DRAM的新一代面向AI服務器的內存模塊,提供了纖薄的外形和高可擴展性,同時其壓縮連接器增強了信號完整性,便于模塊更換。
SK海力士強調,目前量產的基于1c nm的SOCAMM2產品帶寬翻倍,且與傳統RDIMM相比提升了75%以上的功耗效率,為高性能AI操作提供了優化解決方案。
SK海力士預計,這款新SOCAMM2產品將從根本上解決在訓練和推斷數千億參數大型語言模型(LLM)過程中遇到的內存瓶頸,從而在大幅加速整體系統處理速度方面發揮關鍵作用。
SK海力士表示,隨著人工智能市場從推理轉向訓練,SOCAMM2正作為一款能夠以低功耗運行大型語言模型的下一代內存解決方案,備受關注。為了滿足全球云服務提供商(CSP)客戶的需求,SK海力士不僅提供了供應組合,還早期穩定了量產體系。
SK海力士AI基礎設施總裁兼負責人(首席營銷官兼首席營銷官)Justin Kim表示:“通過供應192GB SOCAMM2,SK海力士為AI內存性能樹立了新的標準。”“我們將通過與全球人工智能客戶的緊密合作,鞏固我們作為最值得信賴的人工智能內存解決方案提供商的地位。”