AI 열풍이 전 세계를 강타하면서 반도체 시장의 판도가 빠르게 바뀌고 있다. 그 중심에는 우리가 익히 들어온 GPU나 CPU가 아닌, 바로 메모리 반도체가 있다. 지식인사이드 채널의 영상 "한국 반도체 앞으로 '1000배'는 더 중요해질 겁니다"를 보고 나서, 이 흐름이 얼마나 한국에 유리하게 흘러가고 있는지 새삼 실감하게 됐다. 오늘은 그 내용을 바탕으로 필자의 생각도 함께 풀어보려 한다.
HBM이란 무엇인가 — AI 시대의 진짜 핵심
HBM(High Bandwidth Memory), 즉 고대역폭 메모리라는 단어가 요즘 뉴스에 자주 등장하는데, 처음 접하는 분들은 생소하게 느낄 수도 있다. 간단히 말하면 메모리 칩 여러 개를 수직으로 쌓아 올린 구조의 차세대 메모리다.
기존 반도체는 무어의 법칙에 따라 칩의 회로를 더 촘촘하게, 즉 '옆으로 넓게' 집적하는 방식으로 발전해왔다. 그런데 1나노미터 이하 영역으로 접어들면서 물리적인 한계에 부딪히기 시작했다. 이 문제를 해결하기 위해 등장한 아이디어가 바로 '아래에서 위로 쌓는' 3차원 적층 방식이다. 영상에서 재미있는 표현이 나왔는데, 한국의 아파트 건축 방식에서 영감을 받았다고 한다. 땅이 부족하니 위로 올린다는 발상이 반도체에도 그대로 적용된 셈이다.
이 구조를 실현하는 핵심 기술이 TSV(Through-Silicon Via)인데, 쉽게 말해 각 층의 칩을 관통하는 미세한 구멍을 뚫어 전기 신호와 전력을 균일하게 공급하는 방식이다. 16층까지 쌓아 올리는 HBM은 단순한 단층 건물과는 차원이 다른 설계 난이도를 요구한다. 층마다 전력 공급과 발열 관리를 해야 하니, 고층 아파트에 엘리베이터와 배관 시스템을 넣는 것만큼이나 복잡하다. 이 TSV 기술을 얼마나 잘 구현하느냐가 HBM의 성능과 수율을 결정하고, 자연스럽게 이를 가능하게 하는 장비 기업들의 중요성도 덩달아 높아지고 있다.
HBM 연구의 뿌리 — 한국 카이스트에서 시작됐다
더 놀라운 사실은 이 HBM 적층 기술의 연구가 카이스트 김정호 교수 연구실에서 독자적으로 시작됐다는 점이다. 1996년부터 연구가 시작됐으니 거의 30년 전 이야기다. 처음에는 그래픽카드용 메모리로 개발되다가, 2015년 알파고의 등장 이후 AI와의 시너지가 부각되면서 비로소 세상의 주목을 받게 됐다.
당시에는 메모리 분야에 다른 나라들의 관심이 적어 연구비 확보조차 쉽지 않았다고 한다. 그런데 바로 그 '남들이 안 하는 분야'를 묵묵히 파고든 덕분에 세계 최고 수준의 기술을 먼저 확보할 수 있었다. 이 부분이 개인적으로 가장 인상 깊었다. 유행을 따라가는 연구가 아니라, 아무도 주목하지 않는 길을 개척한 결과가 오늘날의 HBM 경쟁력으로 이어진 것이다.
AI 시대에는 아이러니하게도 화려한 GPU보다 메모리 성능이 AI의 실제 성능을 좌우한다. 아무리 뛰어난 GPU를 탑재해도 데이터를 공급해줄 메모리가 병목이 되면 AI는 제 성능을 낼 수 없다. 엔비디아가 GPU를 만들어도 HBM 공급이 부족하면 제품 자체를 출하할 수 없을 정도다. GPU와 HBM이 물리적으로 붙어있는 패키징 구조로 설계되는 이유도 여기에 있다. 신호 손실과 레이턴시(응답 지연)를 최소화하기 위해서인데, AI 서비스의 응답 속도를 결정하는 것이 결국 HBM이라는 이야기다.
HBM의 한계와 차세대 기술 HBF
HBM도 한계가 없는 건 아니다. 칩을 수직으로 쌓는 구조 특성상 고도 제한이 존재한다. 반도체 뒤에는 냉각 장치를 붙여야 하는데, 층수가 높아질수록 냉각 장치를 달 공간이 좁아진다. 현재 16층에서 최대 24층까지 쌓는 것이 기술적 한계선으로 논의되고 있으며, 그 이후에는 여러 개의 HBM을 하나의 타운처럼 묶어 연결하는 방식이 검토되고 있다.
이러한 한계를 보완하기 위해 등장한 개념이 HBF(High Bandwidth Flash)다. 낸드플래시 메모리를 수직으로 쌓는 방식으로, HBM보다 용량이 크지만 속도는 상대적으로 느리다. 차량용 블랙박스처럼 데이터를 자주 교체하는 용도에 적합하며, HBM과 함께 사용할 때 최고의 시너지를 발휘할 수 있다. 예를 들어, 빠른 연산이 필요한 데이터는 HBM이, 대용량 저장이 필요한 데이터는 HBF가 담당하는 식이다. 이 두 기술을 효율적으로 연결하는 메모리 컨트롤러 칩의 역할도 점점 중요해질 전망이다.
HBF는 2027~2028년경 첫 제품 출시가 예상되며, HBM 의존도를 낮추고 싶은 빅테크 기업들이 벌써부터 관심을 보이고 있다. 하지만 HBM과 HBF를 동시에 보유한 기업이 가장 유리한 위치를 점할 것이고, 현재 그 조건을 갖춘 기업은 삼성전자와 SK하이닉스다.
경쟁 구도와 한국 반도체의 미래
현재 HBM 시장은 SK하이닉스, 삼성전자, 마이크론이 선두 그룹을 형성하고 있다. 전 세계 HBM 시장 선두 3개 기업 중 무려 2개가 한국 기업이라는 사실은, 솔직히 말해 꽤 뿌듯한 일이다. 과거에는 메모리에만 집중하는 한국 반도체 전략에 회의적인 시각도 있었지만, AI 시대가 열리면서 그 전략이 오히려 신의 한 수가 됐다.
중국의 딥씨크(DeepSeek)가 낮은 GPU와 HBM 사양으로도 AI 학습이 가능하다고 발표하며 시장에 충격을 주기도 했지만, 영상에서도 짚었듯 이는 제한적인 영역에 국한된 이야기다. 일론 머스크의 테라칩처럼 메모리 부족 문제를 근본적으로 해결하려는 시도도 있으나, 상용화까지는 최소 10년 이상이 걸릴 것으로 예상된다. 결국 당분간 HBM 중심의 구조는 흔들리지 않을 가능성이 높다.
영상 속 김정호 교수의 말처럼, 이 시대는 한국이 패스트 팔로워에서 진정한 리더로 도약할 수 있는 역사적 기회다. 한글 창제, 거북선처럼 한국이 세계 기술의 흐름을 선도하는 날이 오길 기대해본다.
마무리 — 기술 강국 코리아, 그리고 소비자의 바람
전 세계 HBM 시장 상위 3개 기업 중 2곳이 한국 기업이라는 사실, 정말 자랑스럽다. 앞으로도 이 흐름이 이어진다면, 한국 반도체는 단순히 '잘 만드는 나라'를 넘어 AI 시대의 핵심 인프라를 쥐고 있는 나라로 자리매김하게 될 것이다.
물론 기업 입장에서 기술 경쟁력이 높아질수록 더 높은 가격을 받을 수 있다는 현실도 무시할 수 없다. 소비자 입장에서는 AI 서비스 이용료나 스마트폰, 노트북 가격에 그 영향이 고스란히 반영될 수 있다는 점이 마냥 반갑지만은 않다. 기술 패권을 쥐는 것과 그 혜택이 대중에게도 고루 돌아오는 것은 별개의 문제이기 때문이다. 한국 기업들이 글로벌 시장에서 더 큰 목소리를 내는 만큼, 국내 소비자와 산업 생태계에도 긍정적인 순환이 만들어지길 바라는 마음이 있다.
기술의 흐름은 누구도 정확히 예측할 수 없지만, 30년 전 아무도 주목하지 않던 연구실에서 묵묵히 쌓아온 기초가 오늘날의 경쟁력이 됐다는 사실은 분명히 기억할 만하다. AI 시대의 진짜 승부는 화려한 겉면이 아니라 데이터를 얼마나 빠르고 안정적으로 다룰 수 있느냐에 달려 있고, 그 무대 위에 한국이 이미 올라서 있다. 앞으로의 행보가 기대되는 이유다.
📌 출처
- 채널명: 지식인사이드
- 영상 제목: 한국 반도체 앞으로 ‘1000배’는 더 중요해질 겁니다
- 영상 URL: https://www.youtube.com/watch?v=bKB4XvaH8PY