HBM 고대역폭메모리(High- Bandwidth Memory)

ChatGPT가 쏘아올린 HBM 열풍

AI는 메가 트렌드가 될것인가? 올해 5월 기준 ChatGPT 이용자가 19억명에 달한다고 함(전세계 인구중  24%가 최소한 한달에 한번 접근하며 정보를 이용한다고함
**네이버나 구글에서 검색하는것처럼 일상의 트렌드가 될수 있다는 의미**

인공지는(AI)열풍으로 NVIDIA 주가가 고공 행진하고 있는데, 이에 따라 관련 수혜가 되는 기업들의 주가가 급등하고 있는데, 관련 기업들을 찾아 정리해 보겠다

엔비디아 주가

 

 

생성형 AI로 고성능 메모리 제품에 대한 수요상승하면서 테이터의 빠른 처리가 가능한 HBM이 주목받음
이에따라 HBM 생산에 필요한 Advanced Pakaging 에 활황을 일으킴

현재 글로벌 Pakaging 1위는 TSMC

TSMC 자체적으로 기술보유= CoWoS 

OSAT(Outsourced Semiconductor Assembly and Test,반도체 후공정 조립과 테스트 아웃소싱 기업, 대만 1위ASE, 2위 미국 앰코테크노로지, 중국 스태츠칩팩등)

ChatGPT 관련 수요 급증에 대해 예상하지 못했기때문에 Shortage(쇼티지)발생 

CoWoS 패기지구성, 이베스트투자증권 리서치센터

엔비디아의 데어터 센터 GPU(P100, V100, A100), 애플 M2, 인텔의 데이터센터 CPU등이 CoWoS 구조

HBM은 주문형 생산이기때문에 수주를 받고 생산되어 재고가 없고 이익비율이 높아지는 항목이다

모건스탠리에서 HBM 시장에 대한 전망을 22년 2조6천억정도에서 27년까지 25조까지 성장할것으로 예측했는데

DDR5 대비 가격이 5~7배 비싸지만(단점이며 대체나 변형으로 단가를 인하 노력지속), AI영역 확대에 따라  D램내 비중이 50%까지 오를 가능성 있다고 보았기 때문이다

 

HBM? 폭넓은 용량, 저전압, 고대역폭의 성능으로 고성는 컴퓨팅(HPC)에 특화된 초고속 메모리 장치

중앙처리장치(CPU)와 그래픽 처리 장치(CPU)성능에 비해 뒤처지는 메모리(DRAM)성능과 전력 문제를 해결하기 위한것으로 2008년 미국 칩 제조업체 AMD와 SK 하이닉스가 공동 개발하여 2013년 제품생산하면서 차세대제품으로 2021년 HBM3까지 업그레이드 되어왔다 

 

-DRAM(메모리장치)을 적층하여 높은 대역폭을 갖는다

 =>열원이 집중되므로 열 배출에 어려움이 있다 

-인터포저(미세회로)라는 중간 단계필요

 =>고장시 수리가 어렵고 중간단계인 인터포저로 인해 용량 확대가 어렵다 

 =>공정 난이도가 높고, 가격이 비싸다

 그럼에도 불구하고 대역폭 면에서는 HBM이 월등하게 우수함

 

 HDM에 필요한 dvanced Packaging (AVP)

D램을 여러개를 수직으로 쌓아올리고(공간축소), 실리콘을 관통하는 TSV공법 +본딩기술을 통해 주 프로세스와 통신(직접회로 칩연결)하기때문에 신호 응답속도가 높아지고, 에너지 소비를 줄일 수 있는 첨단 패키징 방법 

√데이터 전송 속도가 압도적임

   SK 하이닉스에서 엔비디아에 납품하는 HBM 제품이 여화 163편을 1초에 전송가능하다함, 초당 819GB테이저 전송가능

√낮은 전력 소모와 작은 칩 면적과 컨트롤 면적

   

 

Advanced Packaging의 기술 핵심은

TSV와 Bonding기술!

TSV(Through Silicon Via, 실리콘관통전극) 기술난이도 높음

 -건물내 엘리베이터 처럼 HBM 칩의 레이어 사이를 움직이는 방식으로 데이터 비트의 이동시간을 크게 줄임

좌측 기존 와이어본딩에서 =>우측 TSV기술로 와이어를 수직으로 연결

통상적으로 엔비디아의 GPU옆에 4개가 위치하는데 GDDR6 12개가 HBM3 1개와 용량이 비슷하다고 함

현재 SK하이닉스가 HBM3를 개발했는데 D램 12개를 쌓고 노드(데이터가 다니는길=정보출입구)1,024개가 있음

 

Bonding 반도체 본딩기술

a. 칩다이하고 기판을 붙여서 전기적 연결을 하는작업, 미세한 범프를 사용(입출력 단자개수를 늘리고, 와이어보다 짧은 연연결거리로 신호특성에 장점)

-매스 리플로우(mass reflow)

 플립칩을 기판 위에 올려놓고 컨베이어 밸트 위에 올려->리플로우 장비(오븐)안을 지나가면서 본딩이 되는 방식으로 대량 생산, 구간별 온도 설정되어있어 솔더(납땜)가 녹았다가 굳으면서 본딩이 되는 원리

=>범프나 칩의 미세회로층 손상발생, 칩과 회로기판의 열팽창 계수가 달라 전기적 연결이 정교하게 되지 않을수 있다 

=>정밀공정에 문제 

 

-레이저 리플로우(레이저  어시스티드 본더)=LAB

매스 리플로우의 단점보완, 리플로우 장비를 5~7분동안 통과하는 대신 레이저를 사용해서 1,2초안에 칩 부분에만 열을 가해 본딩하는 방식, 고성능 칩에 대한 수요가 많아지면서 수요 요구에 의해  한국 프로텍이 미국 엠코(AMKOR)사와 공동 개발됨 이에따라 엠코에 대한 독점이 2023년 5월에 끝나서 판로가 열림 

=>속도가 느린단점, 

 

-TC 본딩(HBM에는 이기술이 들어간다)

열압착본딩인데, 매스 리플로우처럼 오븐에 넣고 한번에 굽는게 아니고 기판과 칩의 열팽창 계수에 따른  다른온로를 가하는 방식 =>얼라인먼트가 틀어지는것을 방지

  ->칩사이에 NCF라는 절연 필름을 덧대어 열로 인해 녹아 범프간 연결을 유도하도 본드처럼 칩이 고정될수 있도록 

  =>비싸고 오래걸린다는 단점이있으나, 업계에서는 아직 LAB방식이 이 열압착 방식을 대체하지 못하는 것으로 인지

 

-MR-MUF (일본 나믹스와 협력),TC본딩의 보완

칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정.

칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받음

 

b. 하이브리드 본딩: 업체마다 방식이 다름 

칩과 칩이 바로 붙는 방식으로 기판이 없음, 범프대신 구리배선을 통해, 배선 길이를 줄여서 만드는 방식으로 HBM4(2025년~26년에 도입예정)에 본격 사용예정이라고함  

선두업체가

*네덜란드 베시 BESI(시총 11조): 모든 본딩을 잘하는 넘사벽이라함

*엑스페리(XPERI):열과 압력을 사용하지 않고 구리패드와 실리콘 옥사이드를 패턴화해서 접착을 시도하는 아이디어를 업계 최초로 제출

*TSMC SOIC:범프를 없애고 그자리에 전자가 잘 이동할 수 있는 구리를 집어넣고 열을 가해서 칩과 칩을 접착시키는 방식

*소니, 삼성등도 새로운 방식을 개발하고 있다, 동향은 지켜봐야 함  

 

HBM관련 기업

HBM에 대한 작년 점유율은 SK하이닉스 50%, 삼성전자 40%, 마이크론 10%로 분석

*SK하이닉스 

2013년 세계 최초로 HBM을 개발한 후 경쟁사대비 차세대 제품 혁신을 이룸

엔비디아 제품에 탑재, HBM1,2,3,4세대로 업그레이하고 있는 현재 HBM3(4세대 제품, 용량 24GB) 개발

SK하이닉스는 “당사는 지난해 6월 세계 최초로 HBM3를 양산한 데 이어 이번에 기존 대비 용량을 50% 높인 24GB 패키지 제품을 개발하는 데 성공했다”며, “최근 AI 챗봇(Chatbot, 인공지능 대화형 로봇) 산업이 확대되면서 늘어나고 있는 프리미엄 메모리 수요에 맞춰 하반기부터 시장에 신제품을 공급할 수 있을 것”이라고 강조했다.
SK하이닉스 기술진은 이번 제품에 어드밴스드(Advanced) MR-MUF*와 TSV**기술을 적용했다. 어드밴스드 MR-MUF 기술을 통해 공정 효율성과 제품 성능 안정성을 강화했고, 또 TSV 기술을 활용해 기존 대비 40% 얇은 D램 단품 칩 12개를 수직으로 쌓아 16GB 제품과 같은 높이로 제품을 구현할 수 있었다고 회사는 밝혔다.

 

*삼성 : 40% 점유

AMD향(GPU 업계2위), 어드밴드스 패키징(AVP) 사업팀에서 기술 로드맵 발표(2023.04.06)

NVIDIA보다 HBM소요가 많은 구조의 GPU 개발로, AMD 제품이 판매상승 여부에 따라 실적개선 기대

삼성은 현재 HBM 8개까지 적층(I-Cube8)가능하며 내년중 HBM 12(I-Cube 12) 개발 완료 목표발표

삼성은 후공정이 주력사업이 아니었으나 시스템 반도체가 중요해지면서 TSMC를 잡기위한 후공정 기술이 필요

성능(데이터 저리속도)+ 저전력(ESG시대) 을 동시에 고려해야 하는 상황, 고난이도 작업시는 고성능 코어가 돌아가고, 저난이도 작업시는 저성능 코어가 돌아가도로 해주는 구조가 적용되는 상황 =>패키징이 어려워진다 

패키징 업체 2위인 미국 엠코(Amkor)인수추진 움직임 있음(엠코는 나스닥에 상장된 미국회사지만, 전신은 한국의 아남반도체가 IMF 때 미국으로 넘어간것)

 

*한미반도체,

TC본딩장비(국내1위), 반도체 패키지 절단 장비생산 ,Package Saw기업에서 Advanced Package기업으로 체질 변화 기대 

TSMC의 HBM Advanced Pagkageing에 사용되는 TC본딩장비 공급하고 있고, 이 기술을 바탕으로 하이브리드 본딩개발 

 

*이오테크닉스

레이저 마킹회사인데 다이싱,그루빙 TSV 홀을 만드는 장비를 개발중, 

 

*네이버

하이퍼클로바(AI 서비스) 삼성전자가와 공동개발, 전세계3번째로 개발하는 언어형 인공지능 

관심있게 지켜봐야 한다

 

*제우스

VIA 홀 세정장비

TSV 공정과정에서 메모리에 구멍을 뚫어야 하는데 이과정에서 찌꺼기가 생김 ->이걸 세정하는 장비