HBM-PIM 등 차세대 고성능 메모리 대거 공개
삼성전자가 글로벌 AI 반도체 학회 ‘멤콘(MemCon) 2023’에 참석해 초거대AI에 적용할 수 있는 차세대 메모리 솔루션을 대거 공개했다.
28일(현지시간) 최진혁 미주법인 메모리연구소장(부사장)은 미국 캘리포니아주에서 열린 ‘멤콘 2023’에 참석해 ‘데이터 중심 컴퓨팅 시대의 메모리 혁신’을 주제로 기조연설을 진행했다. ‘멤콘 2023’은 AI 메모리 솔루션을 주제로 하는 학기로 올해 처음 개최됐다. 삼성전자는 설립 멤버 자격으로 참석했고 삼성전자 외에도 구글, 마이크로소프트 등 글로벌 IT 기업과 메모리, 디바이스, 서버 부문의 업체들이 다수 참석했다.
최 부사장은 기조강연을 통해 프로세서와 메모리 간 병목현상을 해결할 수 있는 삼성전자의 차세대 메모리 기술을 소개했다. 고성능 메모리에 연산 기능을 내장한 ‘HBM-PIM(지능형 메모리)’, 연산 기능을 메모리 옆에 위치시킨 ‘PNM(프로세싱 니어 메모리)’, 시스템의 메모리 용량을 테라바이트(TB)급까지 확장할 수 있는 ‘CXL(컴퓨트 익스프레스 링크) D램’ 등이다.
삼성전자는 “초거대 AI인 챗GPT가 활성화되면서 차세대 메모리 기술이 새롭게 떠오르고 있다”고 강조하면서 “HBM-PIM와 CXL-PNM는 AI 응용처에 적용했을 때 기존 솔루션 대비 GPU 가속기의 성능을 획기적으로 향상시킬 수 있는 제품”이라고 소개했다.
그러면서 “챗GPT와 같은 대규모 AI 모델들은 메모리 병목현상으로 지연되는 경우가 80%에 달하는 것으로 추정되는데 이 경우 문장 생성 속도가 지연되는 등의 문제가 발생한다”며 “대규모 AI 모델에 HBM-PIM 기술을 적용할 경우, 기존 HBM이 탑재된 GPU(그래픽처리장치) 가속기에 비해 AI 모델의 생성 성능이 3.4배가량 개선된다”고 설명했다.
CXL 기반 PNM 솔루션은 메모리 용량의 추가가 용이한 CXL 인터페이스를 활용해 메모리 용량을 기존 GPU 가속기 대비 4배로 늘릴 수 있다. 이는 데이터 이동을 줄여 AI 모델의 로딩 속도가 2배 이상 빨라지는 효과도 있다.
차세대 저장장치 '2세대 SmartSSD'는 1세대 대비 크게 향상된 성능을 토대로 데이터 연산처리 시간과 에너지 소모량을 줄일 수 있다. 또 Memory-Semantic SSD는 일반 SSD 대비 20배에 달하는 임의 읽기 속도와 응답속도를 제공해 데이터센터 AI와 머신러닝에 적합한 제품이다.
최근 반도체 업계는 AI 반도체의 성능 고도화에 집중하고 있다. 자율주행과 휴먼 로봇, 음성인식, 메타버스 등 다양한 미래 기술이 융합되는 사례가 늘어나고 있다. 특히 데이터 흐름이 복잡해지고 데이터 양이 폭증하고 있는 상황에서 AI 반도체의 주목도가 커지고 있다.
최근 AI 반도체 시장은 자율주행, 휴먼 로봇, 음성인식, 메타버스 등 다양한 미래 기술의 융합으로 급성장하고 있다. 시장조사업체 가트너에 따르면 지난해 AI 반도체 시장 규모는 전년 대비 27.8% 증가한 444억 달러로 집계됐다. 오는 2026년에는 861억달러에 이를 것으로 추산된다. 삼성전자는 "메모리 산업의 지속적 발전을 위해 다양한 차세대 메모리 솔루션을 개발하고 글로벌 IT기업과 협력을 강화해 메모리 패러다임 변화를 주도해 나갈 것"이라고 말했다.
