4차 산업혁명의 필수품 "HBM,고대역폭 메모리"

4차 산업혁명의 필수품 "HBM,고대역폭 메모리"

대학생신재생에너지기자단 23기 김예진

 

HBM의 정의 및 구조

HBM은 메모리 반도체의 일종이며, ‘High Bandwidth Memory’의 약자로 고대역폭 초고속 메모리이다. 임의 접근 기억 장치인 D램을 수직으로 쌓아서 데이터 처리 속도를 획기적으로 끌어올려 빠른 속도로 대용량의 데이터를 처리 및 전송할 수 있다. 그렇다면, HBM이 최근 이슈 토픽으로 소개되고 있는 이유는 무엇일까? AI 경쟁에 있어 HBM이 필수품이기 때문이다. AI, 자율주행, 스마트 서비스 등 신기술의 확산으로 인해 방대한 양의 데이터를 처리하기 위한 고성능 컴퓨팅 역량에 대한 수요가 커지고 있다. 특히, ChatGPT 등 초대형 AI 모델 영역에서의 경쟁이 심화되면서 초고성능 컴퓨팅의 필요성이 점점 더 분명해지고 있다. HBM은 기존 반도체보다 더 뛰어난 데이터 전송 능력으로 대량의 데이터를 빠르게 연산할 수 있어 AI 기술 발전에 매우 적합한 것이다.

[자료1. HBM 구조]

출처 : 세계일보

 

HBM이 환경에 이로운 이유

그린피스는 에너지 분야가 전 세계 온실가스 배출의 약 72%를 차지한다고 보고한 바 있다. 제4차 산업혁명 즉, AI, 빅데이터 등 정보 통신 기술 시대에서 빠질 수 없는 전력이 온실가스의 주범이라 지목한 것이다. 환경적 관점에서 HBM은 기존의 D램보다 고성능이지만 저전력이기 때문에 친환경적인 차세대 반도체로 주목받고 있다. 그 이유를 알기 위해선 HBM의 구조와 TSV(Through Si Via)공정을 이해해야 한다. HBM은 D램을 컨트롤할 수 있는 층인 로직다이(메모리다이, 버퍼다이)위에 수직으로 D램을 쌓아 올려 만들어진다. 쌓아 올린 D램의 단수만큼 HBM의 품명이 결정되며, 적층되는 D램이 많을수록 저장할 수 있는 용량이 늘어난다. 칩을 쌓는 기술을 패키지 기술이라 하는데, 반도체 패키지의 종류로는 크게 3가지가 있다. 패키지를 적층하여 하나의 패키지를 만드는 패키지 적층, 칩들을 한 패키지 내에서 적층하여 와이어 본딩을 이용한 칩 적층, 그리고 칩 적층 패키지 내부의 전기적 연결을 실리콘 관통 전극을 이용한 TSV 패키지가 있다. 이 중에서 HBM에 이용되는 TSV 패키지에 대해 알아보자.

[자료 2. 와이어 본딩으로 연결한 칩 적층 방법과 TSV로 연결한 칩 적층 방법의 비교]

출처 : SK hynix

TSV는 실리콘을 뚫어서 전도성 재료로 채운 전극을 의미한다. 칩에 구멍을 뚫어 전도성 재료인 금속 등으로 채워 수직으로 칩(D램)을 연결한다. 기존의 방식인 와이어를 이용하게 될 경우, 와이어를 연결할 공간이 필요해 연결할 수 있는 칩의 수가 줄어든다. 하지만, TSV패키지는 시스템과 연결할 핀을 원하는 위치에 형성하기 쉽고, 개수를 늘릴 수 있으며, 전기 신호 전달 경로가 짧아 전기적 특성이 좋다. 이와 같은 이유로 동일한 양의 전력을 가했을 때, HBM이 D램보다 더 많은 양의 정보량을 시스템으로 보낼 수 있는 것이다. 실제로, 기존의 와이어를 이용한 적층인 경우엔 공정상의 한계 때문에 정보를 전달할 수 있는 핀의 개수가 32개인 반해 TSV를 적용한 HBM에선 1,024개의 핀을 구현해 냈다.

 

삼성, SK하이닉스에서의 HBM 현황

시장조사기관 옴디아의 자료를 보면, D램 시장에서 지난해 삼성전자와 SK하이닉스의 점유율 격차가 1분기 때 18.1%에서 같은 해 3분기 때 4.4%로 크게 준 것을 확인할 수 있다.

[자료 3. D램 시장점유율 추이(2023년)]

출처 : 더스쿠프

SK하이닉스가 점유율 격차를 줄일 수 있었던 이유 중 하나로 꼽히는 것이 인공지능(AI)용 반도체 1인자인 미국 엔비디아에 HBM을 공급한 것이다. 그만큼 최근 반도체 시장에서 HBM의 위상은 상당히 높으며, HBM을 둔 경쟁은 현재 진행형이다. 대표적으로 SK하이닉스와 삼성전자가 HBM의 저전력화를 위해 어떠한 기술력을 펼치고 있는지 살펴보자.

[자료 4. SK하이닉스의 HBM3E]

출처 : SK하이닉스

SK하이닉스는 지난 3월부터 초고성능 AI용 메모리 신제품인 HBM3E를 세계 최초로 양산해 공급하기 시작했다. HBM3E는 초당 1.18TB의 데이터를 처리하며, 이는 고화질 영화(5GB) 230편 분량이 넘는 데이터를 1초 만에 처리하는 수준이다. 특히, MR-MUF 공정을 적용하여 열 방출 성능을 이전 세대 대비 10% 향상했다. MR-MUF 공정이란, 반도체 칩을 회로에 부착하고 칩을 위로 쌓아 올릴 때 칩과 칩 사이 공간을 액체 물질인 에폭시몰딩컴파운드(EMC)로 채워주고 붙여주는 공정을 말한다. MR-MUF 공정을 적용할 경우, 열 방출에 효과적이라 발열 문제를 예방할 수 있다.

[자료 5. 삼성전자 HBM3E 12H]

출처 : 딜사이트

삼성전자는 지난 2월에 24GB D램 칩을 TSV 기술로 12단까지 적층해 36GB HBM3E 12H를 구현했다. 1,024개의 핀에서 초당 최대 10GB 속도를 지원하여 초당 1,280GB를 처리할 수 있다. 이는 1초에 30GB 용량의 UHD 영화를 40여 편 다운받을 수 있는 속도이다. 발열 문제를 감소시키기 위해 SK하이닉스가 MR-MUF 공정을 이용한 것에 대비해 삼성전자는 Advanced TC NCF 기술을 사용했다. Thermal Compression Non Conductive Film의 약자로, 열압착 비전도성 접착 필름 기술을 말한다. 반도체를 수직 연결할 때 독자적으로 개발한 비전도성 접착 필름을 붙여 칩이 휘어지는 현상을 최소화 할 수 있어 고단 적층 확장에 유리하다. 또한, 칩과 칩 사이를 접합하는 공정에서 신호 특성이 필요한 곳에는 작은 범프를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 크기를 맞춰 적용했다. 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화했다. 범프는 ‘칩 사이를 전기적으로 연결하기 위해 형성한 전도성 돌기’를 말한다. 한편, 삼성전자는 16단 이상 HBM부턴, 범프 없이 칩을 다이렉트로 붙이는 ‘하이브리드 본딩’ 기술을 사용한다 밝혔다. 하이브리드 본딩은 열압착 본딩 대비 적층 칩 높이와 열 방출 개선이 가능하다.

[자료 6. 하이브리드 본딩을 이용한 HCB 제조 방법]

출처 : 디일렉

 

HBM의 난제와 전망

디지털 변화에 따른 고성능 컴퓨팅에 대한 수요 증가와 초대형 AI 모델의 등장으로 대용량 데이터 처리에 최적화된 메모리 반도체 솔루션의 중요성이 부각되고 있다. AI에 최적화된 고대역폭 초고속 메모리 HBM은 여러 개의 D램을 쌓아 만든 구조 탓에 발열에 취약하다. 또한, 방대한 양의 데이터(초당 테라바이트)를 생성하고 초당 수십억 번의 작업을 수행하므로 상당한 열이 발생하여 전력 손실이 발생할 수밖에 없다. 전력 손실을 방지하기 위해선 알아본 바와 같이 MR-MUF, TC NCF, 하이브리드 본딩 등과 같은 기술이 이용된다. 따라서, 차세대 HBM 시장에서 얼마나 전기를 적게 소모하는지가 AI경쟁에서 중요해질 전망이다.

---

메모리에 대한 대학생신재생에너지기자단 기사 더 알아보기

1. "대한민국 반도체 산업의 대표 주자, 'DRAM'의 지속가능을 위한 노력", 23기 김예진, 25기 맹주현 ,  https://renewableenergyfollowers.org/4442

대한민국 반도체 산업의 대표 주자, 'DRAM'의 지속가능을 위한 노력

2. "녹색 지구 지키는 삼성전자 반도체", 22기 박재욱, https://renewableenergyfollowers.org/4026

녹색 지구 지키는 삼성전자 반도체

 

---

참고문헌

[HBM의 정의 및 구조]

1) 이동수, “범용 HBM, ‘맞춤형’으로 진화…“주상복합 반도체 꿈꾼다” [아시나요]”, 세계일보,  2024.05.06.,https://www.segye.com/newsView/20240506508641.

2) 이성용,  “AI성장에 가속도 붙은 ‘HBM’... 승자는 누구?”, 특허뉴스, pp.24-25.

3) 홍성용, Premium Monthly Business Magazine, “2024 ‘반도체의 봄’ 온다는데AI반도체·HBM 담은 ETF 노려라”, pp.76-78.

[HBM이 환경에 이로운 이유]

1) 서민석, “[반도체 후공정 4편] 반도체 패키지의 종류 (4/11)”, SK하이닉스,  2023.01.03.,https://news.skhynix.co.kr/post/seominsuk-column-types-of-packages-2.

2) 이동수,  “범용 HBM, ‘맞춤형’으로 진화…“주상복합 반도체 꿈꾼다” [아시나요]”, 세계일보,  2024.05.06.,https://www.segye.com/newsView/20240506508641.

[삼성,SK하이닉스에서의 HBM 현황]

1) 강해령, “SK하이닉스가 HBM에 진심인 이유 <1> [강해령의 하이엔드 테크]”, 서울경제,  2023.04.22., https://www.sedaily.com/NewsView/29OEGJGUPB.

2) 고준영, “AI용 반도체 미래 설계도➋ HBM 이야기 삼성과 SK는 AI 황태자 될 수 있을까”, 더스쿠프,  pp.35-36.

3) 김민기,  “SK하이닉스, MR-MUF 독점…삼성 'NCF' 유지”, 딜사이트, 2024.03.15., https://dealsite.co.kr/articles/119413.

4) 이세연,  “삼성전자, 업계 최초 36GB 12단 ‘HBM3E’ 개발”, 포춘코리아, 2024.02.28., https://www.fortunekorea.co.kr/news/articleView.html?idxno=35033.

5) SAMSUNG, “삼성전자, 업계 최초 36GB HBM3E 12H D램 개발”, 2024.02.27., https://semiconductor.samsung.com/kr/news-events/news/samsung-develops-industry-first-36gb-hbm3e-12h-dram/.

6) SK하이닉스, “SK하이닉스, 초고성능 AI 메모리 ‘HBM3E’ 세계 최초로 본격 양산해 고객 납품 시작”, 2024.03.19., https://news.skhynix.co.kr/presscenter/hbm3e-production.