막힌 곳은 GPU 다이가 아니라 그 다음이다

왜 패키징에서 막히는가. 한 줄로 답하면, AI 가속기는 한 다이가 아니라 다이 묶음이기 때문이다. 엔비디아 Blackwell 한 패키지 안에 GPU 다이 두 개와 HBM 스택 여덟 개가 들어간다. 이걸 한 인터포저 위에 정렬해 붙이는 공정이 CoWoS 다. 다이 하나 만드는 것보다 시간이 더 걸리는데도 사람들은 처음 한동안 이 단계를 무시했다.

TSMC 는 CoWoS 월 capacity 를 2023년 1만 5천 wafer 에서 2026년 말 12만~13만 wafer 로 8배 늘리고 있다 (출처: TSMC, SemiAnalysis). 사상 최대 패키징 capex 사이클이다. 그런데도 부족하다. 왜? 수요가 가용량의 약 3배라는 것이 SemiAnalysis 의 추정이다. capacity 곡선은 가파른데 수요 곡선이 더 가파르다.

단 변곡점은 보인다. 2026년 4분기에 capacity 가 12만 wafer 를 넘으면 그때 처음으로 capacity 곡선이 수요 곡선의 상승 속도 를 따라잡는다. 절대량이 따라잡는 것은 그 다음 단계 — 빨라야 2027년 중반이다.

이전 사이클에선 메모리 회사가 GPU 회사에 부탁하는 입장이었다. 지금은 반대다. SK하이닉스가 HBM 시장 62% 를 쥐고 있고 (2026년 기준), 마이크론이 삼성을 처음 추월해 2위에 올랐다 (출처: astutegroup.com). HBM3E 12단도 매진이고, HBM4 도 양산 시작과 동시에 매진이다.

이 점은 단순한 부족 이상의 의미가 있다. Porter 의 5세력 (5 Forces, 산업 경쟁 구조 분석 틀) 중 공급자 협상력 항목이 메모리 쪽으로 기울었다는 뜻이다. 2026년 HBM·DRAM 가격이 10대 후반에서 20% 오를 거라는 전망 (TrendForce) 은 그 결과다. 엔비디아·AMD 가 메모리 대 GPU 마진 비율을 협상하던 시대가 끝났다.

단 이 균형도 영구적이지 않다. 삼성이 HBM 월 wafer 투입을 17만에서 25만으로 47% 늘리는 사상 최대 capex 를 진행 중이다 (출처: TrendForce). 마이크론도 HBM4 샘플 단계에 들어갔다. 2027년 중후반에는 3사 균형이 다시 잡힐 가능성이 있다. 그러나 그때까지는 SK하이닉스 가격표가 사실상 시장 가격이다.

엔비디아는 Rubin 으로 갈아타려 하고 있다. 그러나 갈아타는 길이 좁다. JP모건 추정에 따르면 2026년 Blackwell 출하는 약 180만 개로 떨어지고, Rubin 은 공급 제약 시 20~30만 개에 그칠 전망이다 (출처: tweaktown · theregister.com). HBM4 인증, ConnectX-9 NIC, 액냉 요건이 동시에 발목을 잡는다. 결과적으로 2026년 고급 GPU 시장의 70% 는 여전히 Blackwell 차지가 될 것으로 보인다 (TrendForce).

AMD 는 이 틈에 들어왔다. MI400 시리즈가 HBM4 432GB 를 탑재하고 공개됐고, 메타가 약 600억 달러 규모의 장기 계약을 맺었다는 보도가 나왔다. 핵심은 분산 이다. 엔비디아의 Rubin 지연이 길어질수록, 하이퍼스케일러는 단일 공급자 의존을 줄일 동기가 커진다.

단 한 가지는 짚어야 한다. AMD MI400 의 경쟁력은 HBM4 432GB 라는 메모리 용량 에서 나온다. 즉 AMD 의 분산 효과조차 같은 메모리 병목 위에 서 있다. HBM 이 풀려야 AMD 의 분산도 풀린다. 메모리가 제약이면 GPU 회사가 둘이든 셋이든 총 출하량은 늘지 않는다. 분산은 점유율 이동일 뿐, 절대량 해법이 아니다.

데이터센터 GPU 가 부족하면 추론 워크로드는 어디로 가는가. 일부는 단말로 밀려난다. AI PC 와 스마트폰의 NPU (Neural Processing Unit, 신경망 전용 가속기 — 행렬 연산을 저전력으로 처리하는 별도 블록) 가 사이드 사이클을 만들고 있는 이유다.

마이크로소프트가 Copilot+ PC 요건으로 40 TOPS (Tera Operations Per Second, 초당 1조회 연산) 를 못박은 뒤, 칩 회사들은 그 위로 경쟁한다. 퀄컴 X2 가 85, AMD XDNA 가 60, 인텔 루나레이크가 48, 애플 M4 가 38 TOPS 다. AI PC 누적 보급은 2027년까지 1억 대를 넘을 것으로 전망되고, 엣지 AI 하드웨어 시장은 2026년 307억 달러에서 2031년 687억 달러로 두 배가 넘게 성장할 것으로 본다 (Mordor Intelligence).

핵심은 이 흐름이 데이터센터 부족의 결과 이자 완충 이라는 점이다. 결과인 이유는 분명하다. GPU 가 모자라니 모델을 작게 만들어 단말에 올리려는 압력이 커졌다. 완충인 이유는 모든 추론을 클라우드에 보낼 필요가 없어졌다는 것이다. 단 이 완충은 학습에는 도움이 안 된다. 학습은 여전히 데이터센터 GPU 의 영역이고, 거기는 풀리지 않는다.

공급-수요 균형 시점에 대해 시장은 셋으로 갈린다.

첫째, 기준선 — 2027년 중반 균형. TSMC CoWoS 가 12만 wafer 를 넘고, 삼성 HBM 25만 wafer 가 가동되며, 마이크론 HBM4 가 양산에 진입한다. Rubin Ultra 와 MI450 이 정상 양산되면 capacity 가 수요를 따라잡는다. 확률 가장 높음. 영향: HBM 가격 안정, 엔비디아 마진 회복.

둘째, 강세 — 2027년 말~2028년으로 미뤄짐. AI 추론 수요가 학습 수요보다 빨리 커져 capacity 확장을 앞지른다. 메타·구글·OpenAI 의 추론 비용이 학습 비용을 추월하는 전환점이 트리거. 확률 중간. 영향: 메모리社 협상력 1년 더 유지, AMD 점유율 25% 돌파.

셋째, 약세 — 2026년 말 조기 균형. 거시 둔화로 하이퍼스케일러 capex 가 주춤하면 수요 곡선이 내려와 capacity 와 만난다. 트리거는 2026년 하반기 미국 경기 둔화 + 광고·클라우드 매출 둔화 동시 발생. 확률 낮음. 영향: HBM 가격 하락, 메모리 회사 capex 후회.

넷째, 와일드카드 — 양자/광컴퓨팅 또는 알고리즘 효율화 (DeepSeek 류) 가 GPU 수요 자체를 깎는 경로. 확률 매우 낮으나 영향 매우 큼. 2027년 이전엔 무게 두지 않아도 되지만, 시그널은 보고 있어야 한다.

이 분석은 두 개의 큰 모순 위에 서 있다. 봉합하지 않고 그대로 둔다.

첫째, 메모리社 협상력의 지속성. 한쪽 입장은 SK하이닉스의 62% 점유와 HBM4 매진이 적어도 2027년까지 가격 협상권을 메모리에 둔다고 본다. 반대 입장은 삼성이 47% capex 를 동시에 진행하고 마이크론이 HBM4 샘플 단계에 진입한 사실을 들어, capacity 가 들어오는 순간 가격은 빠르게 무너진다고 본다. HBM 은 본질적으로 D램이고, D램 사이클은 늘 capacity 가 따라잡는 순간 폭락했다는 역사적 패턴이 그쪽 근거다. 현재 손은 메모리社 입장에 들어준다 — 단 그 패배 입장은 2026년 4분기 이후 마이크론·삼성 capacity 가 인증을 통과하는 순간 살아난다.

둘째, NPU 의 보완 효과. 한쪽은 AI PC NPU 가 데이터센터 GPU 부족을 의미 있게 흡수한다고 본다. 반대 입장은 학습과 대규모 추론은 NPU 로 옮길 수 없는 워크로드라며, NPU 시장 성장과 데이터센터 부족은 별개의 사이클이라고 본다. 이쪽은 후자 손을 든다 — NPU 는 GPU 부족을 대체 하는 게 아니라 별도 시장 을 만든다. 단 추론 비용이 학습 비용을 넘어서는 시점이 오면, 단말 추론으로의 이전 압력이 실제 데이터센터 수요를 줄일 수 있다. 그때는 전자 입장이 살아난다.

앞으로 12~18개월 동안 다음 다섯 신호가 시나리오 분기를 결정한다. 발생 시점과 방향이 분석 갱신의 트리거가 된다.