AI 시대, 한국 반도체가 세계를 주도한다 (HBM, HBF, 차세대 메모리)

요즘 AI 반도체 뉴스 보면 항상 등장하는 이름이 있어요 — 삼성, SK하이닉스.
그냥 큰 기업이니까 나오는 거라고 생각했는데, 알고 보니 AI 시대로 넘어오면서 메모리 반도체가 핵심이 됐고, 그 판에서 한국이 유독 유리한 위치에 있더라고요. 이게 왜 그런 건지 찾아봤습니다.

---

HBM이란 무엇인가요 — AI 시대의 진짜 핵심

HBM(High Bandwidth Memory), 즉 고대역폭 메모리라는 단어가 요즘 뉴스에 자주 등장하는데, 처음 접하는 분들은 생소하게 느낄 수도 있어요. 간단히 말하면 메모리 칩 여러 개를 수직으로 쌓아 올린 구조의 차세대 메모리예요.

기존 반도체는 무어의 법칙에 따라 칩의 회로를 더 촘촘하게, 즉 '옆으로 넓게' 집적하는 방식으로 발전해왔어요. 근데 1나노미터 이하 영역으로 접어들면서 물리적인 한계에 부딪히기 시작했어요. 이 문제를 해결하려고 등장한 아이디어가 바로 '아래에서 위로 쌓는' 3차원 적층 방식이에요. 영상에서 재미있는 표현이 나왔는데, 한국의 아파트 건축 방식에서 영감을 받았다고 해요. 땅이 부족하니 위로 올린다는 발상이 반도체에도 그대로 적용된 셈이에요.

이 구조를 실현하는 핵심 기술이 TSV(Through-Silicon Via)인데, 쉽게 말해 각 층의 칩을 관통하는 미세한 구멍을 뚫어 전기 신호와 전력을 균일하게 공급하는 방식이에요. 16층까지 쌓아 올리는 HBM은 단순한 단층 건물과는 차원이 다른 설계 난이도를 요구해요. 층마다 전력 공급과 발열 관리를 해야 하니, 고층 아파트에 엘리베이터와 배관 시스템을 넣는 것만큼이나 복잡해요. 이 TSV 기술을 얼마나 잘 구현하느냐가 HBM의 성능과 수율을 결정하고, 자연스럽게 이를 가능하게 하는 장비 기업들의 중요성도 덩달아 높아지고 있어요.

---

HBM 연구의 뿌리 — 한국 카이스트에서 시작됐어요

더 놀라운 사실은 이 HBM 적층 기술의 연구가 카이스트 김정호 교수 연구실에서 독자적으로 시작됐다는 거예요. 1996년부터 연구가 시작됐으니 거의 30년 전 이야기예요. 처음에는 그래픽카드용 메모리로 개발되다가, 2015년 알파고의 등장 이후 AI와의 시너지가 부각되면서 비로소 세상의 주목을 받게 됐어요.

당시에는 메모리 분야에 다른 나라들의 관심이 적어 연구비 확보조차 쉽지 않았다고 해요. 근데 바로 그 '남들이 안 하는 분야'를 묵묵히 파고든 덕분에 세계 최고 수준의 기술을 먼저 확보할 수 있었어요. 이 부분이 저는 가장 인상 깊었어요. 유행을 따라가는 연구가 아니라, 아무도 주목하지 않는 길을 개척한 결과가 오늘날의 HBM 경쟁력으로 이어진 거예요.

AI 시대에는 아이러니하게도 화려한 GPU보다 메모리 성능이 AI의 실제 성능을 좌우해요. 아무리 뛰어난 GPU를 탑재해도 데이터를 공급해줄 메모리가 병목이 되면 AI는 제 성능을 낼 수 없어요. 엔비디아가 GPU를 만들어도 HBM 공급이 부족하면 제품 자체를 출하할 수 없을 정도예요. GPU와 HBM이 물리적으로 붙어있는 패키징 구조로 설계되는 이유도 여기에 있어요. 신호 손실과 레이턴시(응답 지연)를 최소화하기 위해서인데, AI 서비스의 응답 속도를 결정하는 게 결국 HBM이라는 얘기예요.

---

HBM의 한계와 차세대 기술 HBF

HBM도 한계가 없는 건 아니에요. 칩을 수직으로 쌓는 구조 특성상 고도 제한이 존재해요. 반도체 뒤에는 냉각 장치를 붙여야 하는데, 층수가 높아질수록 냉각 장치를 달 공간이 좁아져요. 현재 16층에서 최대 24층까지 쌓는 게 기술적 한계선으로 논의되고 있고, 그 이후에는 여러 개의 HBM을 하나의 타운처럼 묶어 연결하는 방식이 검토되고 있어요.

이런 한계를 보완하려고 등장한 개념이 HBF(High Bandwidth Flash)예요. 낸드플래시 메모리를 수직으로 쌓는 방식으로, HBM보다 용량이 크지만 속도는 상대적으로 느려요. 차량용 블랙박스처럼 데이터를 자주 교체하는 용도에 적합하고, HBM과 함께 사용할 때 최고의 시너지를 발휘할 수 있어요. 예를 들어 빠른 연산이 필요한 데이터는 HBM이, 대용량 저장이 필요한 데이터는 HBF가 담당하는 식이에요. 이 두 기술을 효율적으로 연결하는 메모리 컨트롤러 칩의 역할도 점점 중요해질 전망이에요.

HBF는 2027~2028년경 첫 제품 출시가 예상되고, HBM 의존도를 낮추고 싶은 빅테크 기업들이 벌써부터 관심을 보이고 있어요. 근데 HBM과 HBF를 동시에 보유한 기업이 가장 유리한 위치를 점할 텐데, 현재 그 조건을 갖춘 기업이 삼성전자와 SK하이닉스예요.

---

경쟁 구도와 한국 반도체의 미래

지금 HBM 시장은 SK하이닉스, 삼성전자, 마이크론이 선두 그룹을 형성하고 있어요. 전 세계 HBM 시장 선두 3개 기업 중 무려 2개가 한국 기업이라는 사실은 꽤 뿌듯한 일이에요. 과거에는 메모리에만 집중하는 한국 반도체 전략에 회의적인 시각도 있었는데, AI 시대가 열리면서 그 전략이 오히려 신의 한 수가 됐어요.

중국의 딥씨크(DeepSeek)가 낮은 GPU와 HBM 사양으로도 AI 학습이 가능하다고 발표하며 시장에 충격을 주기도 했는데, 영상에서도 짚었듯 이건 제한적인 영역에 국한된 얘기예요. 일론 머스크의 테라칩처럼 메모리 부족 문제를 근본적으로 해결하려는 시도도 있지만, 상용화까지는 최소 10년 이상이 걸릴 것으로 예상돼요. 결국 당분간 HBM 중심의 구조는 흔들리지 않을 가능성이 높아요.

제 솔직한 생각
30년 전 아무도 주목하지 않던 연구실에서 묵묵히 쌓아온 기초가 오늘날 HBM 경쟁력의 뿌리가 됐다는 게 인상 깊었어요. 유행 따라가는 게 아니라 묵묵히 한 우물 판 결과라는 점에서 배울 게 많은 것 같아요.

---

정리하자면

전 세계 HBM 시장 상위 3개 기업 중 2곳이 한국 기업이라는 사실, 정말 자랑스러워요. 앞으로도 이 흐름이 이어진다면, 한국 반도체는 단순히 '잘 만드는 나라'를 넘어 AI 시대의 핵심 인프라를 쥐고 있는 나라로 자리매김하게 될 거예요.
물론 기술 경쟁력이 높아질수록 더 높은 가격을 받을 수 있다는 현실도 무시할 수 없어요. 소비자 입장에서는 AI 서비스 이용료나 스마트폰, 노트북 가격에 그 영향이 고스란히 반영될 수 있다는 점이 마냥 반갑지만은 않아요. 한국 기업들이 글로벌 시장에서 더 큰 목소리를 내는 만큼, 국내 소비자와 산업 생태계에도 긍정적인 순환이 만들어지길 바라는 마음이에요.

출처

• 채널명: 지식인사이드
• 영상 제목: 한국 반도체 앞으로 '1000배'는 더 중요해질 겁니다
• 영상 주소: https://www.youtube.com/watch?v=bKB4XvaH8PY