국내 팹리스 스타트업들이 HBM(고대역폭 메모리)을 탑재한 하이엔드급 AI반도체를 잇따라 선보인다. 엔비디아의 AI반도체와 견줄 수 있는 하이엔드급 제품으로 글로벌 데이터센터 시장 공략에 본격 나선다는 계획이다.

25일 관련업계에 따르면 퓨리오사AI는 오는 5월 SK하이닉스의 HBM3를 탑재한 신형 AI반도체 '레니게이드'를 발표할 예정이다. 국내 AI반도체 중 HBM을 탑재한 것은 처음으로 이를 통해 1.5TB/s의 대역폭(bandwidth)과 150W의 소비전력을 자랑한다. 엔비디아의 H100PCle나 구글의 TPUv5e 등 하이엔드급 AI반도체와 유사한 성능과 효율이다.

퓨리오사AI 관계자는 "SK하이닉스 측에서 HBM 공급 부족 상황에도 적극적으로 HBM을 공급해줬다"며 "HBM을 탑재한 신형 레니게이드를 초거대 AI를 구동하는 대형 클라우드 사업자들에게 공급할 것"이라고 말했다.

AI반도체에 탑재되는 HBM은 초거대 AI를 구동하는 데 핵심적인 반도체다. 매개변수가 수천억개에 달하는 LLM(거대언어모델)이나 문자·영상·음성 등 여러 유형의 데이터를 처리하는 멀티모달AI 등을 빠르게 구동하기 위해서는 D램을 수직으로 연결해 데이터 병목현상을 줄이는 HBM이 필수적이다. 엔비디아 역시 하이엔드급 AI반도체에 SK하이닉스 등의 HBM을 공급받아 탑재하고 있다.

반도체 업계 관계자는 "초거대 AI 모델을 빠르고 높은 전력효율로 구동하기 위해서는 최적의 HBM과 이를 제대로 활용할 수 있는 AI반도체 설계 기술이 필요하다"며 "엔비디아의 하이엔드 반도체 성능에 SK하이닉스의 HBM이 역할을 하는 이유"라고 설명했다.