AI가 밤새 일한다고요? HBM 수요 폭발, 반도체 시장 지금 어디까지 왔나

요즘 반도체 분위기가 묘합니다. HBM이 어쩌고 AI가 어쩌고 뉴스는 쏟아지는데, 정작 "그래서 지금 뭐가 어떻게 돌아가는 거야?"라는 질문에 속 시원하게 답해주는 곳이 없더라고요. 머니인사이드 영상 보다가 정리가 좀 됐는데, 제 나름대로 풀어볼게요.

AI가 이제 16시간 동안 혼자 일한다

핵심은 '타임 호라이즌'이라는 개념이에요. 쉽게 말하면 AI가 하나의 일을 얼마나 오래 붙잡고 처리할 수 있냐는 거예요. 작년까지만 해도 1시간이 한계였거든요. 그런데 지금은 16시간까지 늘어났어요. 밤에 퇴근하면서 AI한테 보고서 맡겨두고 아침에 출근하면 완성돼 있는 식이죠.

이게 왜 중요하냐면, 그냥 편리해진 게 아니라 기업들이 AI에 돈을 쓰기 시작했다는 증거거든요. 코딩, 금융, 법률 분야로 퍼지면서 AI가 처리하는 작업량 자체가 수십 배로 불어난 거예요. 당연히 이 작업들을 돌리는 데이터 센터도, 거기 들어가는 반도체도 더 필요해지죠.

저도 제 i5-1235U 노트북으로 요즘 Claude 이것저것 써보는데, 작년이랑 비교하면 확실히 응답 품질이 달라졌어요. 근데 이 편리함 뒤에 HBM이 몇 장씩 돌아가고 있다고 생각하니 묘한 기분이 들더라고요.

데이터 센터 숫자가 말해주는 것

지역	현재 데이터 센터 수	비고
한국	약 9개	규모 제한적
미국	4,000개 이상	2026~2027년 1,000개 추가 건설 중
중국	600개 미만	동수서산 전략으로 에너지 확보 중

이 표 보면서 좀 놀랐어요. 한국이랑 미국이 이렇게 차이가 날 줄은 몰랐거든요. 스페이스X의 콜로서스 1 데이터 센터 하나에만 GPU가 22만 장이에요. HBM도 22만 장 들어가고요. 그 규모가 잘 안 그려지시죠? 저도 처음엔 그냥 "크겠지" 했는데, 부산 서면 전자상가에서 그래픽카드 구경하다 보면 한 장에 200~300만원짜리가 즐비하거든요. 22만 장이면... 계산하기도 싫어지더라고요.

병목이 곳곳에서 터지고 있다

사실 처음엔 "수요가 늘면 공급도 늘겠지" 하고 단순하게 생각했어요. 그런데 이게 그렇게 쉬운 문제가 아니더라고요. 데이터 센터 하나 짓는 데 전기, 변압기, 냉각 장치, 광섬유까지 다 따라와야 하는데, 각각이 다 막혀 있어요.

제가 잘못 알고 있었던 게 바로 이 부분인데요. HBM이 부족해서 반도체 시장이 막히는 게 아니라, 오히려 데이터 센터를 지을 땅과 전기가 없어서 막히는 상황이에요. 2026년 완공 예정 데이터 센터의 40%가 3개월 이상 지연될 거라는 전망도 있고, 2027년 완공 예정 중 60%는 착공도 못 했대요. 친구한테 "반도체 주식 지금이 기회다"라고 자신 있게 말했다가, 이 내용 얘기해줬더니 "그럼 단기 조정 가능성도 있는 거 아니냐"고 한 소리 들었어요. 맞는 말이었고요.

HBM 이후가 없는 게 아니다

일부에서 "HBM 시대 끝나고 S램 시대 온다"는 말도 나오는데, 이건 반은 맞고 반은 틀린 얘기예요. 빠른 답변이 필요한 챗봇 같은 용도라면 S램이 유리할 수 있어요. 근데 16시간짜리 장시간 작업에선 속도보다 안정성이 중요하고, 그 자리는 전통적인 DRAM이나 외부 저장장치로도 채울 수 있거든요. 결국 AI 작업 종류가 다양해지면서 쓰이는 반도체 종류도 같이 다양해지는 거예요. HBM만 살아남는 게 아니라 CPU, DRAM, 스토리지까지 다 같이 커지는 구조예요.

제 솔직한 생각
AI 빅테크들이 메모리를 다 빨아들이는 구조라 일반 소비자한테 돌아올 DDR5 16GB 물량이 줄고 있어요. 실제로 당근마켓에서 DDR5 16GB가 8만원대까지 올라간 거 보고 놀랐거든요. 급하지 않으면 가격 안정될 때까지 기다리는 게 답인데, 문제는 이게 언제 안정될지 아무도 모른다는 거예요.

끝으로

AI가 밤새 혼자 일하는 세상이 됐다는 게 저한테는 그냥 기술 뉴스가 아니에요. 인류 역사에서 증기기관이나 인터넷 수준의 변화가 지금 일어나고 있다는 게 느껴져요. 데이터 센터 병목이니 주가 조정이니 단기 변수는 있겠지만, 이 흐름 자체가 꺾일 것 같지는 않아요. 반도체 시장이 AI와 함께 성장하는 건 당분간 멈추지 않을 거라고 봐요. 오히려 지금은 병목 구간이 어디서 풀리느냐를 지켜보는 게 더 중요한 시점인 것 같습니다.

출처

• 채널명: 머니인사이드
• 영상 주소: https://www.youtube.com/watch?v=JY20MFHUKLA