AI 시대에 CPU가 다시 뜨는 이유, AMD가 인텔 잡을 수 있을까

요즘 서버 CPU 시장 분위기가 묘합니다. 예전엔 GPU가 AI의 전부인 것처럼 다들 엔비디아 얘기만 했는데, 2025년 들어서 AMD 주가가 심상치 않게 움직이고, 인텔은 계속 삐걱대고, ARM 진영은 슬금슬금 점유율을 먹어가고 있거든요. 유튜브 채널 디코드에서 이 내용을 꽤 깊이 다뤄서 오늘은 그걸 정리해볼게요.

AI 시대에 왜 갑자기 CPU가 중요해졌나

초기 AI 모델은 사용자가 질문을 입력하면 GPU가 혼자 연산해서 답을 내보내는 구조였어요. CPU는 그냥 입력값을 토큰으로 쪼개는 정도의 역할밖에 없었죠. 그런데 AI가 점점 똑똑해지면서 상황이 완전히 달라졌습니다.

요즘 AI는 질문 하나에 답하기 위해 인터넷에서 자료를 찾고, 코드를 짜고, 그 코드가 맞는지 가상 환경에서 직접 돌려보고, 결과가 틀리면 다시 수정하는 식으로 굉장히 복잡하게 움직입니다. 이 과정에서 GPU한테 작업을 시키고, 외부 API를 부르고, AI 에이전트들 사이에서 일을 나눠주는 게 전부 CPU 몫이에요. 쉽게 말하면 GPU가 열심히 계산하는 초등학생 여럿이라면, CPU는 그걸 총괄하는 선생님 역할인 거죠.

실제로 RAG(검색 기반 생성) 작업이나 화학 연구 시뮬레이션에서는 CPU 사용 시간이 GPU보다 훨씬 길게 잡힌 사례도 있다고 해요. AI 에이전트 시대로 넘어가면서 데이터 센터 안에서 CPU 대 GPU 비중이 기존 1:8에서 1:1 수준으로 맞춰질 거라는 전망도 나오고 있습니다. AMD CEO 리사 수는 2030년까지 서버 CPU 시장이 매년 35% 성장할 거라고 공개적으로 말했을 정도예요.

AMD vs 인텔 vs ARM, 지금 각자 어디쯤 있나

제 i5-1235U 노트북으로 이 영상 보면서 정리하다 보니 세 진영의 상황이 꽤 확실하게 갈린다는 걸 느꼈어요. 표로 한번 비교해볼게요.

항목	AMD (에픽)	인텔 (제온)	ARM 진영
서버 CPU 점유율 (출하량 기준)	약 28% (2023년 4분기)	약 70%대 (감소 추세)	빠르게 증가 중
핵심 강점	칩렛 구조, 높은 코어 수, 가격 경쟁력	풍부한 레거시 생태계	전력 효율, 에너지 절감
대표 제품/동향	에픽 시리즈, 헬리오스 플랫폼	다이아몬드 래피즈 (2027년 예정)	엔비디아 그레이스, ARM 피닉스
SMT 지원	지원	다이아몬드 래피즈에서 미지원	설계에 따라 다름
향후 전망	점유율 50% 목표	2026~2028년 경쟁에서 밀릴 거라는 분석	장기적으로 50% 점유율 전망

AMD가 이렇게 치고 올라올 수 있었던 건 칩렛 구조 덕분이에요. 반도체 다이를 작게 쪼개서 붙이는 방식인데, 불량이 생겨도 그 조각만 버리면 되니까 수율이 올라가고, 공정도 기능에 맞게 섞어 쓸 수 있어서 비용도 줄어듭니다. 인텔이 28코어에 머물 때 AMD는 64코어를 뽑아냈던 것도 이 구조 덕분이에요.

반면 인텔은 칩렛 구조를 도입하려다 기술 문제로 출시가 계속 밀렸고, 다음 세대 다이아몬드 래피즈는 2027년이 목표인데 SMT도 안 된다는 얘기가 나오고 있어요. 여러 작업을 동시에 처리하는 능력에서 AMD한테 또 밀릴 거라는 분석이 많습니다.

메모리 대란, 일반 소비자는 왜 피해를 보나

솔직히 저도 처음엔 서버 CPU 얘기가 나한테 무슨 상관이냐 싶었는데, 알고 보니 직접 연결이 되더라고요. CPU 코어 수가 늘어날수록 메모리 수요도 같이 늘어납니다. 거기에 GPU용 HBM 수요까지 겹치면서 메모리 공장들이 수요를 못 따라가고 있는 상황이에요.

이거 사고 후회한 점이 있냐고요? 작년 말에 DDR5 램 업그레이드를 미뤘다가 타이밍을 완전히 놓쳤어요. 당근마켓에서 DDR5 16GB가 작년엔 3만원대였는데, 지금은 8만원대까지 올라간 거 보고 진짜 놀랐어요. 그때 잡을 걸 하는 후회가 매일 듭니다.

DDR5는 공정이 안정된 제품이라 원가 자체는 낮은데, AI 수요가 폭발하면서 가격 변동이 커졌어요. 재밌는 건 원가가 높은 HBM보다 DDR5의 영업 이익률이 오히려 더 높게 나오는 마진 역전 현상까지 생겼다는 거예요. 삼성전자, SK하이닉스, 마이크론 같은 메모리 기업들 입장에서는 호황이지만, 일반 소비자 입장에서는 부품 사기가 점점 부담스러워지는 상황이 됐죠.

제 솔직한 생각
AI 빅테크들이 메모리를 다 빨아들이는 구조라, 일반 소비자한테 돌아올 물량이 줄고 있어요. 급하지 않으면 가격 안정될 때까지 기다리는 게 답입니다.

정리하자면

AI 에이전트 시대가 오면서 CPU가 단순한 보조 역할에서 벗어나 데이터 센터의 핵심 부품으로 다시 올라오고 있습니다. AMD는 칩렛 구조를 앞세워 빠르게 점유율을 늘리고 있고, 인텔은 차세대 제품 출시가 계속 밀리면서 힘든 상황이에요. ARM 진영도 전력 효율을 무기로 빅테크들의 자체 칩 수요를 흡수하며 존재감을 키우고 있고요. 이 모든 흐름이 결국 메모리 대란으로까지 이어지는 걸 보면, CPU 하나의 이야기가 아니라 전체 반도체 시장의 지형이 바뀌고 있다는 걸 느끼게 됩니다. 부품 살 계획 있는 분들은 시장 흐름 좀 지켜보면서 타이밍 잡으시길 바랍니다.