삼성 ‘커스텀 HBM’의 전략과 향후 전망

 

 

1. 메모리가 연산을 맡는 시대, AI 반도체 구조의 전환점

 

삼성전자가 세미콘코리아 2026에서 공개한 차세대 반도체 로드맵의 핵심은 단순한 성능 개선이 아니다. 기존 HBM4 대비 전력당 성능을 2.8배 끌어올린 ‘커스텀 HBM(cHBM)’은 메모리가 일부 연산 기능을 수행하도록 설계된 구조라는 점에서 의미가 크다. 이는 AI 반도체의 기본 분업 구조를 흔드는 접근이다.

기존 AI 서버 구조에서는 GPU가 연산을 담당하고, HBM은 데이터를 빠르게 저장하고 공급하는 역할에 머물렀다. 하지만 AI 모델이 초대형화되면서 병목은 연산 능력 자체보다 ‘데이터 이동’에서 발생하고 있다. 연산 속도가 아무리 빨라도 데이터를 불러오고 다시 저장하는 과정에서 전력 소모와 지연이 커지기 때문이다.

삼성의 커스텀 HBM은 이 문제를 정면으로 겨냥한다. 메모리 하단의 베이스 다이를 4나노 공정으로 제작하고, 일부 연산을 HBM 내부에서 처리하도록 설계함으로써 GPU와의 데이터 왕복을 줄이는 구조다. GPU와 HBM 간 거리를 60% 단축해 전력당 성능을 2.8배 개선했다는 발표는 단순한 수치 경쟁이 아니라 ‘전성비 중심’ 시대에 최적화된 해법을 제시한 것이다.

이는 메모리 기업이 단순 부품 공급자가 아니라 AI 아키텍처 설계 파트너로 진화하겠다는 선언으로 읽힌다.

---

2. zHBM과 패키징 혁신, 칩 배치 방식이 곧 경쟁력

삼성은 GPU 옆에 HBM을 배치하는 기존 방식에서 벗어나 GPU 위에 HBM을 수직 적층하는 zHBM 구조도 공개했다. 반도체 산업에서 패키징은 더 이상 후공정이 아니라 성능을 좌우하는 핵심 영역으로 자리 잡고 있다.

GPU와 HBM 간 거리가 줄어들면 데이터 전송 지연이 감소하고, 신호 손실이 줄어들며, 발열 관리 효율도 개선된다. 발표에 따르면 zHBM은 HBM4 대비 데이터 속도는 4배 향상되고, 동작 전력은 4분의 1 수준으로 낮출 수 있다고 한다.

 

 

 

이 수치가 상용 환경에서도 재현된다면 이는 GPU 세대 교체에 준하는 파급력을 갖는다. 특히 AI 데이터센터에서 전력과 냉각 비용은 전체 운영비의 상당 부분을 차지한다. 전력 효율이 높아질수록 서버 밀도를 높일 수 있고, 동일 전력으로 더 많은 AI 연산을 수행할 수 있다.

삼성의 강점은 메모리, 파운드리, 패키징을 모두 보유한 종합 반도체 사업자라는 점이다. 베이스 다이를 4나노 공정으로 직접 생산하고, 하이브리드 본딩 같은 첨단 패키징 기술을 적용할 수 있는 구조는 수직 통합에서 오는 경쟁력이다. 이는 단일 공정 기업과는 다른 전략적 위치를 형성한다.

---

3. CPO와 수직 적층 기술, 반도체는 ‘더 높게’ 간다

AI 인프라 확장에서 또 다른 병목은 서버 간 통신이다. 삼성은 실리콘 포토닉스 기반 CPO(Co-Packaged Optics) 기술도 소개했다. 전기 신호를 빛으로 전환해 전달하는 방식은 데이터 이동 속도와 전력 효율을 동시에 개선한다. 기존 전기 회로 대비 전력 효율과 전송 속도가 세 배 향상됐다는 설명은 AI 데이터센터 구조 자체를 바꿀 수 있는 잠재력을 보여준다.

또한 VS D램, BV 낸드, 3DSFET 등 수직 적층 기반 기술도 함께 제시됐다. 반도체 산업은 미세화 한계에 직면하면서 평면 확장이 아닌 수직 확장으로 방향을 틀고 있다. 메모리 셀을 아파트처럼 쌓고, 주변 회로와 분리해 결합하며, GAA 소자를 수직으로 적층하는 전략은 동일 면적에서 집적도를 극대화하는 해법이다.

 

 

 

이는 단순 기술 과시가 아니라 원가 구조와 직결된다. 동일 웨이퍼에서 더 많은 칩을 생산할 수 있다면 단위당 제조 비용이 낮아지고, 고성능 AI 칩의 가격 경쟁력도 확보된다. 수직 적층 기술은 앞으로 반도체 산업의 핵심 방향성이 될 가능성이 높다.

---

4. 산업 구조 재편 가능성, 삼성의 전략적 의도

현재 AI 반도체 시장은 GPU는 엔비디아, 파운드리는 TSMC, HBM은 SK하이닉스가 선도하는 구조다. 삼성은 이 삼각 구도에서 다소 뒤처졌다는 평가를 받아왔다.

그러나 이번 발표는 단순 추격이 아니라 판을 다시 설계하겠다는 전략으로 보인다. 커스텀 HBM은 고객사 요구에 맞춰 설계하는 구조이기 때문에 빅테크 기업과의 긴밀한 협력이 전제된다. 이는 단순 부품 납품 관계를 넘어 공동 설계 파트너로 올라서겠다는 의미다.

특히 메모리와 파운드리, 패키징을 동시에 제공할 수 있다는 점은 시스템 차원의 최적화를 가능하게 한다. 만약 삼성의 통합 설계 전략이 실사용 환경에서 검증된다면, AI 칩 생태계의 권력 균형이 일부 이동할 가능성도 있다.

다만 관건은 수율 안정화와 고객 확보다. 기술 발표와 실제 대규모 양산 사이에는 상당한 간극이 존재한다. 특히 AI 반도체는 수율과 신뢰성이 곧 시장 점유율로 직결된다.

---

5. 향후 전망과 개인적 의견

삼성의 이번 전략은 분명 방향성 면에서는 적절하다. AI 반도체 경쟁의 핵심이 단순 연산 성능에서 전력 효율과 데이터 이동 최적화로 이동한 상황에서, 메모리 중심 접근은 충분히 설득력이 있다.

다만 단기적으로 시장 판도가 즉각 뒤집히기는 어렵다. AI 반도체는 생태계 산업이며, 설계 소프트웨어, 인터커넥트 표준, 데이터센터 인프라까지 연결되어 있기 때문이다. 삼성의 커스텀 HBM과 zHBM이 실제 대형 고객사 채택으로 이어질 경우에만 실질적 변화가 발생할 것이다.

 

 

 

중기적으로는 HBM5와 차세대 적층 기술 경쟁이 본격화되면서 메모리 기업 간 격차가 재편될 가능성이 있다. 장기적으로는 메모리와 로직의 경계가 흐려지고, 데이터 이동 비용을 최소화하는 통합형 AI 칩 구조가 표준이 될 가능성이 높다.

이번 발표는 단순한 신제품 공개가 아니라, 삼성전자가 AI 반도체 패권 경쟁에서 다시 주도권을 노리겠다는 전략적 신호다. 메모리가 연산에 개입하는 순간, AI 반도체의 설계 철학은 달라질 수밖에 없다. 그리고 그 변화의 중심에 삼성이 서 있다.