HBM12단 대신 8단 검토…같은 D램으로 더 많은 HBM 생산 가능
AI 가속기 생산 늘면 베이스다이 수요도 증가…후공정 부담 커질 수 있어

인공지능(AI) 반도체 수요 급증으로 고대역폭메모리(HBM) 공급이 부족해지면서 글로벌 AI 반도체 기업 엔비디아가 AI 가속기에 탑재할 메모리 용량을 줄이는 방안을 검토하고 있다. 

 

그런데 메모리 용량을 줄여 AI 가속기 생산을 늘릴 경우, HBM 맨 아래에 들어가는 '베이스다이' 수요도 증가할 수 있다. 메모리 공급 부족을 완화하려다 베이스다이 생산과 후공정에 부담이 커질 수 있다는 관측이다.

 

 

2일 반도체 업계와 시장조사업체 트렌드포스에 따르면 엔비디아는 차세대 AI 가속기 '루빈 울트라'에 적용할 HBM 구성을 검토하고 있다. 기존에 계획한 12단 HBM4E 외에 8단 HBM4E와 12단·8단 HBM4 등이 검토 대상이며, 최종 사양은 아직 확정되지 않았다.

 

HBM은 D램 칩을 여러 층으로 쌓아 만든 고성능 메모리다. 12단은 D램 칩 12개를, 8단은 8개를 쌓았다는 뜻이다. 맨 아래에는 GPU와 D램 사이의 신호 전달 등을 담당하는 '베이스다이'가 들어간다.

 

D램 칩당 용량과 AI 가속기 한 개에 탑재하는 HBM 묶음 수가 같다면, 적층 수를 12단에서 8단으로 낮출 때 가속기당 메모리 용량은 3분의 1 줄어든다. 대신 같은 수의 D램 칩으로 더 많은 HBM을 만들 수 있다.

예컨대 동일한 용량의 D램 24개가 있을 때, 12단 HBM은 2개, 8단 HBM은 3개를 만들 수 있다. 베이스다이는 HBM 한 묶음당 하나씩 필요하다. 따라서 추가로 만들 수 있는 HBM이 실제 AI 가속기 생산에 투입된다면 베이스다이 수요도 늘어난다.

이 계산이 실제 베이스다이 수요 증가로 이어질지를 두고 전문가들의 해석은 엇갈린다.

손인준 유진투자증권 연구원은 "시장에서 필요로 하는 메모리의 총량(비트 수요)은 유지되면서 HBM 층수가 하향 조정된 것"이라며 "결론적으로 AI 가속기가 더 많이 생산되고 베이스다이도 훨씬 많이 필요해진다"고 말했다.

DS투자증권은 "12단에서 8단으로 바꾸면 같은 D램으로 만드는 HBM 개수가 50% 늘어, 병목이 D램에서 베이스다이와 후공정으로 옮겨갈 수 있다"고 분석했다.

다른 시각도 있다. 엔비디아가 8단으로 바꾸려는 건 AI 칩을 더 만들기 위해서가 아니라는 것이다. 칩 하나가 쓰는 메모리만 줄이되, 연산을 효율화해서 성능을 맞추려는 것이라는 해석이다.

 

이병훈 포스텍 전자전기공학과 교수는 "엔비디아가 만드는 GPU 숫자가 일정하면 거기에 맞춰서 베이스다이가 결정되는 것"이라고 말했다.

적층 수를 낮추는 것만으로 베이스다이 수요가 늘어나는 것은 아니다. AI 가속기 생산량과 가속기당 HBM 묶음 수가 그대로라면 필요한 베이스다이 수도 달라지지 않는다.

 

결국 베이스다이 수요 증가 여부는 엔비디아가 메모리 용량을 줄인 뒤 AI 가속기 생산을 얼마나 늘리느냐에 달려 있다.

 

수요가 늘더라도 제조사별 영향은 다를 수 있다. 삼성전자는 HBM4 베이스다이를 자체 파운드리 공정으로 생산하고, SK하이닉스는 TSMC의 파운드리 공정을 활용한다. 파운드리는 반도체 설계 전문 기업의 의뢰를 받아 반도체를 위탁 제조하는 공정이다.

 

손 연구원은 "TSMC가 만드는 베이스다이는 당장은 수급에 어려움은 없다"면서도 "삼성은 베이스다이 생산을 위해 다른 제품 생산을 줄이고 있는 것으로 들었다"고 말했다.

  

KPI뉴스 / 배지수 기자 didyou@kpinews.kr

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]