AI 인퍼런스 과정에서 메모리 용량과 대역폭이 새로운 병목 현상을 일으키며, HBM을 중심으로 한 AI 메모리 시장은 2026년부터 2028년까지 강세를 보일 전망입니다. HBM 시장은 2030년까지 연평균 37% 성장할 것으로 예상됩니다.
AI 인퍼런스에서 메모리가 병목 현상을 일으키는 이유는 무엇인가요?
과거 AI 연산의 병목은 주로 컴퓨트(연산 능력)에 집중되었습니다. 하지만 AI 모델이 더욱 복잡해지고, 긴 대화 처리 및 다중 사용자 동시 응대가 중요해지면서 메모리 용량과 대역폭이 새로운 병목 지점으로 떠올랐습니다. AI가 답변을 생성할 때마다 모델 가중치와 KV 캐시에 반복적으로 접근해야 하기 때문입니다. 특히 스스로 계획하고 작업을 수행하는 에이전틱 AI 시스템의 확산은 메모리 수요를 폭발적으로 증가시키는 요인입니다. 이러한 AI는 작업 수행 중 상태 정보를 지속적으로 메모리에 저장해야 하므로, 사용자 수, 쿼리 수, 에이전트 수만큼 메모리 수요가 함께 증가합니다.
AI 모델의 컨텍스트 윈도우가 확장됨에 따라 KV 캐시 크기도 비례하여 커지면서 필요한 메모리 양이 급증하고 있습니다. 엔비디아의 NVFP4 KV 캐시 양자화 기술과 같은 압축 기술이 등장했지만, 뱅크오브아메리카(BofA)는 이러한 기술이 메모리 원시 수요 증가 속도를 따라가지 못하고 있다고 분석합니다. 결과적으로 HBM(고대역폭 메모리)의 공급이 수요를 따라가기 벅찬 상황이 지속될 것으로 보입니다. BofA는 HBM 시장 규모가 2025년 약 350억 달러에서 2030년 약 1,680억 달러로 연평균 37% 성장할 것으로 전망하며, 가속기당 HBM 탑재 용량 역시 2025년 약 187GB에서 2030년 약 464GB로 연평균 20% 증가할 것으로 예상합니다. 2026년 하반기 출시 예정인 엔비디아의 베라 루빈 시스템은 가속기당 288GB의 HBM4를 탑재할 계획입니다.
메모리 공급 탄력성이 구조적으로 낮아지는 이유는 무엇인가요?
관련 글
메모리 수요가 폭발적으로 증가하는 반면, 공급 증가는 여러 구조적인 요인으로 인해 더디게 진행되고 있습니다. 첫째, 막대한 자본이 클린룸 건설에 집중되고 있습니다. 클린룸은 반도체 생산에 필수적인 초청결 공간으로, 건설에만 수년이 소요됩니다. 예를 들어, 마이크론은 2026 회계연도 설비투자를 확대했지만, 증가분의 대부분이 클린룸 시설 건설에 투입될 예정입니다. 둘째, HBM과 같은 첨단 패키징 기술은 일반 DRAM보다 훨씬 복잡한 공정을 요구합니다. 마이크론의 아이다호 팹과 싱가포르의 HBM용 첨단 패키징 시설 모두 2027년 중반 이후에야 본격적인 생산 능력 증대에 기여할 것으로 보입니다. 전반적으로 2026~2027년에는 건설 투자가 장비 투자를 앞설 것으로 예상되며, 의미 있는 생산 능력 증가는 2028년 이후에나 가능할 것으로 전망됩니다. 여기에 지정학적 제약과 전력 인프라 문제까지 겹쳐 공급 확대를 더욱 어렵게 만들고 있습니다.
DRAM과 NAND 시장의 수급 및 가격 전망은 어떻게 되나요?
DRAM 시장의 경우, 2028년까지 의미 있는 공급 과잉은 발생하지 않을 것으로 BofA는 전망합니다. 수급 충족 비율이 지속적으로 110% 미만을 유지할 것으로 예상되는데, 이는 공급이 수요보다 실질적으로 많지 않은 상태를 의미합니다. 따라서 DRAM 가격은 과거 하강 사이클처럼 급락하기보다는 상대적으로 안정적인 흐름을 보일 것으로 예상됩니다. NAND 시장 역시 유사한 흐름을 보일 것으로 예상되나, 구체적인 전망은 추가 분석이 필요합니다. 다만, AI 수요 증가는 고용량, 고성능 메모리에 대한 수요를 지속적으로 견인할 것으로 보입니다.
AI 메모리 시장 투자 시 주의할 점은 무엇인가요?
AI 메모리 시장은 높은 성장성이 기대되지만, 투자 시에는 몇 가지 주의할 점이 있습니다. 첫째, 기술 발전 속도가 매우 빠르므로 특정 기술이나 기업에 대한 과도한 집중 투자는 위험할 수 있습니다. HBM 기술은 지속적으로 발전하고 있으며, 새로운 세대의 HBM(예: HBM4)이 등장하면서 기존 기술의 경쟁력이 빠르게 약화될 수 있습니다. 둘째, 거시 경제 상황 및 지정학적 리스크가 반도체 시장에 미치는 영향을 고려해야 합니다. 미중 갈등 심화나 주요 생산국의 정책 변화는 공급망에 영향을 미칠 수 있습니다. 셋째, AI 모델의 효율성 개선 노력과 함께 메모리 수요 증가세가 예상보다 둔화될 가능성도 배제할 수 없습니다. 따라서 투자 결정을 내리기 전에는 최신 시장 동향과 기술 발전 상황을 면밀히 분석하고, 필요하다면 금융 전문가와 상담하는 것이 좋습니다.
AI 메모리 시장의 상세 분석은 원본 글에서 확인하세요.
