2027년까지 HBM 공급 부족이 이어질 수 있다는 분석이 나왔습니다. 처음 이 이야기를 접했을 때 솔직히 "아직도 끝물이 아닌가?" 싶었는데, 공부할수록 오히려 지금이 시작점에 가깝다는 생각이 들었습니다.
HBM이 왜 AI 시대의 핵심이 됐는가
몇 년 전만 해도 저에게 반도체 투자란 삼성전자 주식 하나면 충분하다는 막연한 인식이 전부였습니다. 그런데 AI 열풍이 본격화되면서 공부의 방향이 완전히 달라졌습니다. 엔비디아 GPU가 왜 그렇게 비싼지, 그 GPU 옆에 꼭 붙어야 하는 메모리가 왜 따로 있는지를 추적하다 보니 자연스럽게 HBM(High Bandwidth Memory)이라는 단어에 도달했습니다. 여기서 HBM이란 여러 개의 메모리 칩을 수직으로 쌓아 올려 데이터를 동시에 대량으로 주고받을 수 있도록 설계한 고대역폭 메모리를 뜻합니다. 쉽게 말해, 일반 메모리가 좁은 도로라면 HBM은 수십 차선짜리 고속도로라고 보면 됩니다.
AI 모델이 학습이나 추론을 할 때 처리해야 하는 데이터의 양은 상상을 초월합니다. 이 과정에서 GPU의 연산 속도가 아무리 빨라도 메모리가 데이터를 제때 공급하지 못하면 병목이 생깁니다. 그 병목을 해결하는 열쇠가 바로 HBM입니다. 제가 직접 관련 자료들을 찾아보니, AI 데이터센터 한 곳에 투입되는 HBM의 양이 몇 년 전과 비교해 차원이 다른 수준임을 알 수 있었습니다.
실제로 글로벌 AI 수요 확대를 반영하듯, SK하이닉스와 삼성전자의 HBM 생산 물량은 이미 상당 부분 사전 예약이 진행된 상태라는 보도가 이어지고 있습니다. AI 인프라 투자가 단기 유행이 아니라 구조적 변화임을 보여주는 대목입니다.
하이브리드 본딩, 경쟁의 판을 바꾸는 기술
HBM을 이해하고 나서 다음으로 저를 사로잡은 건 TSV와 하이브리드 본딩이라는 개념이었습니다. TSV(Through Silicon Via)란 반도체 칩에 미세한 구멍을 뚫어 위아래 칩을 수직으로 전기적으로 연결하는 기술입니다. HBM이 칩을 쌓아 올리는 구조를 가능하게 하는 기반 기술이 바로 TSV입니다.
그런데 TSV만으로는 한계가 있습니다. 여기서 등장하는 게 하이브리드 본딩입니다. 하이브리드 본딩이란 기존의 범프(돌기)나 솔더를 쓰지 않고, 구리(Cu)와 산화막을 직접 맞닿게 하여 칩과 칩을 극도로 얇고 정밀하게 연결하는 접합 기술입니다. 기존 방식보다 연결 간격을 훨씬 좁힐 수 있어 데이터 전송 속도는 올라가고 전력 소모는 낮아집니다. 제 경험상 이 기술의 중요성을 처음 이해했을 때 느낌이, 반도체 세계에서 도로를 넓히는 게 아니라 아예 도시 구조를 바꾸는 수준이라는 생각이 들었습니다.
삼성전자와 SK하이닉스 모두 HBM4 세대를 겨냥한 하이브리드 본딩 기술 확보에 공격적으로 투자 중이라는 분석이 나옵니다. HBM4는 현재 주력인 HBM3E 다음 세대로, 더 많은 칩을 더 얇게 쌓아 성능을 극대화한 제품입니다. 지금 두 회사가 뛰어들고 있는 기술 경쟁의 핵심 지점이 바로 여기입니다.
현재 AI 메모리 시장의 경쟁 구도를 간략히 정리하면 다음과 같습니다.
- SK하이닉스: HBM3E 양산에서 선두, HBM4 및 하이브리드 본딩 기술 선점 추진
- 삼성전자: HBM4 조기 진입 목표, 하이브리드 본딩 수율 확보에 집중
- 마이크론: HBM3E 후발 추격, 원가 경쟁력 강조 전략
HBF, 그다음 싸움은 이미 시작됐다
HBM에 익숙해질 무렵 새로운 단어가 눈에 들어왔습니다. HBF(Hybrid Bonding Fabric)입니다. HBF란 하이브리드 본딩 기술을 단순한 칩 간 접합을 넘어, 메모리와 로직 반도체를 하나의 패키지 안에 더 유연하게 엮어내는 차세대 연결 구조 개념입니다. 쉽게 말해 HBM이 메모리 칩끼리를 수직으로 쌓는 방식이라면, HBF는 그 위에서 메모리와 프로세서 사이의 연결 자체를 재설계하는 개념으로 볼 수 있습니다.
이 개념이 중요한 이유는, AI 연산의 요구 수준이 올라갈수록 메모리 속도만 높이는 것으로는 부족해지고 있기 때문입니다. 결국 메모리와 연산 칩 사이의 거리를 물리적으로 최소화하고, 에너지 효율도 극대화해야 하는 방향으로 경쟁이 이동하고 있습니다. 제가 이 흐름을 공부하면서 체감한 건, 앞으로의 반도체 경쟁은 단순히 "메모리를 더 많이 만드느냐"가 아니라 "얼마나 정밀하게 연결하느냐"의 싸움이 된다는 점입니다.
첨단 패키징 기술의 중요성은 수치로도 확인됩니다. 반도체 패키징 시장은 2028년까지 연평균 두 자릿수 성장률이 예상되며, 특히 CoWoS(Chip on Wafer on Substrate) 방식의 공급 부족이 현재도 지속되고 있다는 분석이 나오고 있습니다. CoWoS란 GPU와 HBM 같은 이종(異種) 칩들을 하나의 기판 위에 올려 초고속으로 연결하는 고급 패키징 방식으로, 현재 엔비디아의 H100·H200 등 주요 AI 가속기에 필수적으로 사용됩니다.
그리고 예상 밖으로 HBM 자체보다 그것을 연결하는 패키징 기술이 또 하나의 병목이 되고 있다는 사실이, 공부를 할수록 이 시장의 깊이가 생각보다 훨씬 넓다는 걸 실감하게 했습니다.
결국 지금 반도체 시장을 바라보는 데 가장 필요한 건 단기 주가 예측이 아니라, 세상이 어디로 움직이는지를 읽는 눈이라고 생각합니다. AI 데이터센터는 계속 늘어나고, GPU 수요는 확장되고 있으며, 그 옆에서 HBM과 하이브리드 본딩, HBF로 이어지는 기술 흐름은 꽤 뚜렷한 방향성을 보여주고 있습니다. 물론 삼성전자 노조 이슈나 공급망 변수처럼 언제든 분위기를 흔들 수 있는 악재는 존재합니다. 그래서 저는 추격 매수보다 기술 흐름을 꾸준히 공부하면서 긴 호흡으로 접근하는 편이 낫다고 봅니다. 이 글은 투자 권유가 아니라, 같은 고민을 하는 분들과 공부 과정을 나누는 개인적인 기록입니다.