삼성 zHBM·zNAND-O 공개, 온디바이스 AI 메모리 뭐가 달라지나

삼성 zHBM·zNAND-O 공개, 온디바이스 AI 메모리 뭐가 달라지나

2026년 8월, FMS·핫칩스 연이은 발표로 본 AI 메모리 병목 해법

TL;DR: 삼성전자가 2026년 8월 4일부터 6일까지 미국 산타클라라에서 열린 'FMS(Future of Memory and Storage) 2026'에서 차세대 3D 메모리 아키텍처 zHBM과 zNAND-O 목업을 업계 최초로 공개했다. 아직 콘셉트 목업 단계이지만, 삼성전자가 제시한 설계 목표치는 상당히 파격적이다. zHBM 기반 차세대 인터페이스 시스템은 HBM5 대비 최대 8배 높은 성능, 전력효율 최대 3배 향상, 열 저항 절반 이상 감소를 내세웠다. 같은 행사에서 400단 이상 10세대 V낸드인 V10 BV-NAND도 함께 선보이며 V9 대비 집적도 약 58% 향상을 발표했다. 삼성전자는 V10 BV-NAND로 '3D 낸드 혁신상', LPDDR5X-PIM으로 '차세대 메모리상'을 받아 FMS 2026에서 2개 부문을 석권했다. 이어 8월 25일 미국 스탠퍼드대에서 열린 '핫칩스 2026'에서는 LPDDR5X-PIM의 상세 스펙이 공개됐는데, 16GB 용량에 초당 614GB PIM 대역폭, 기존 D램 대비 대역폭 8배 향상이라는 구체적 수치가 나왔다. 이 모든 발표를 관통하는 키워드는 결국 하나다. AI 메모리 병목을 어떻게 풀 것인가. 온디바이스 AI 시대가 본격화되면서 메모리와 프로세서 사이의 물리적 거리, 데이터 이동량 자체가 성능의 한계선이 되고 있고, 삼성전자의 이번 발표들은 그 한계선을 다시 그으려는 시도로 읽힌다.

AI 메모리 병목, 왜 지금 다시 화두인가

결론부터 말하면 AI 반도체의 연산 능력은 이미 메모리 대역폭을 앞질렀고, 이 격차가 온디바이스 AI 확산의 발목을 잡고 있다. 데이터센터급 AI 가속기는 매 세대 연산 성능이 크게 뛰지만, 메모리와 프로세서 사이를 오가는 데이터 전송 속도는 상대적으로 느리게 개선돼 왔다. 업계에서는 이를 흔히 '메모리 월(Memory Wall)'이라고 부르는데, 2026년 현재 이 병목은 데이터센터를 넘어 스마트폰, 노트북, 웨어러블 같은 온디바이스 기기로도 옮겨붙고 있다.

온디바이스 AI는 클라우드 서버로 데이터를 보내지 않고 기기 자체에서 AI 연산을 처리하는 방식이다. 개인정보 보호, 응답 지연 최소화, 오프라인 동작이라는 장점이 있지만, 문제는 기기 안에 들어가는 메모리·저장장치의 물리적 공간과 전력이 데이터센터와 비교할 수 없을 만큼 제한적이라는 점이다. 이런 환경에서 대규모 언어모델 기반 기능, 실시간 이미지 생성, 음성 인식 같은 작업을 처리하려면 메모리 자체가 더 똑똑하고, 더 가깝고, 더 효율적이어야 한다.

삼성전자가 FMS 2026에서 공개한 zHBM은 바로 이 문제를 정면으로 겨냥한다. 기존 HBM(High Bandwidth Memory)은 AI 가속기 옆에 나란히 배치되는 구조였다. 이 구조는 인터포저를 통해 메모리와 프로세서를 연결하는데, 아무리 배치를 최적화해도 물리적으로 옆에 있는 이상 데이터 이동 거리에는 한계가 있다. zHBM은 이 전제를 아예 뒤집는다. 메모리를 AI 가속기 옆이 아니라 바로 위에 수직으로 쌓는 방식이다.

이런 구조 변화가 왜 중요한지는 데이터 이동 경로를 생각해보면 이해가 쉽다. 옆에 있던 메모리가 위로 올라오면 신호가 이동하는 물리적 거리가 극적으로 줄어들고, 거리가 줄면 신호 지연과 전력 손실도 함께 줄어든다. 삼성전자에 따르면 zHBM 기반 차세대 인터페이스 시스템은 HBM5 대비 최대 8배 높은 성능, 전력효율 최대 3배 향상을 구현할 수 있다고 밝혔다. 영문 보도에서는 메모리 밀도 10배 이상 향상 항목도 함께 제시됐다.

핵심 데이터로 보는 zHBM·zNAND-O·V10 BV-NAND

세 가지 신기술이 공통적으로 겨냥하는 목표는 대역폭 확대, 전력효율 개선, 집적도 향상이라는 세 축이며, 이는 모두 수치로 뒷받침된다. 먼저 zHBM 기반 차세대 인터페이스 시스템의 설계 목표치를 정리하면 다음과 같다.

HBM5 대비 최대 8배 성능 향상, 전력 대비 성능 기준 최대 3배 효율 향상, 열 저항 절반 이상 감소가 핵심 수치다. 다만 이 수치들은 삼성전자가 콘셉트 목업 단계에서 제시한 차세대 설계 목표라는 점을 분명히 해야 한다. HBM5 자체의 양산 일정도, zHBM의 상용화 시점도 아직 공식적으로 정해지지 않았다. 삼성전자는 zHBM·zNAND-O의 상용화 시점이나 가격, 독립 벤치마크, 상용화 타임라인을 발표하지 않은 상태다.

zNAND-O는 기존 V-NAND의 수직 적층 기술에 실리콘관통전극(TSV) 기술을 결합해 4단 또는 8단 반도체 칩을 3D 패키징한 개발 중인 차세대 고성능 낸드 플래시 솔루션이다. 제품명의 '-O'는 온디바이스 AI(On-device AI) 환경에 최적화됐다는 의미를 담고 있다. 높은 공간 효율성, 데이터 로딩 대역폭 확대, 빠른 응답 속도를 바탕으로 실시간 대규모 데이터 처리를 지원하는 것이 핵심 특징이며, 이 역시 아직 개발 중인 솔루션 단계다.

같은 행사에서 공개된 V10 BV-NAND는 성격이 조금 다르다. zHBM·zNAND-O가 콘셉트 목업이라면, V10 BV-NAND는 업계 최초 400단 이상 10세대 V낸드로서 웨이퍼 본딩과 3-스택 기술을 적용해 초고적층을 구현했다. 메모리 집적도는 이전 세대인 V9보다 약 58% 향상됐다. 이 기술로 삼성전자는 FMS 2026에서 '3D 낸드 혁신상(3D & NAND Innovation Award)'을 수상했다.

LPDDR5X-PIM의 수치는 더 구체적이다. 8월 25일 핫칩스 2026에서 상세 공개된 내용에 따르면 16GB 용량에 초당 614GB PIM 대역폭을 구현하며, 기존 D램 대비 대역폭이 8배 높아졌다. 이 제품으로 삼성전자는 FMS 2026에서 '차세대 메모리상(Next-Gen Memory Award)'을 받았다.

FMS 2026·핫칩스 2026 무대의 주요 플레이어

2026년 AI 메모리 경쟁은 더 이상 단일 제품 스펙 싸움이 아니라 아키텍처 자체를 새로 설계하는 경쟁으로 넘어갔고, 이 흐름의 중심에 삼성전자가 있다. FMS(Future of Memory and Storage) 2026은 메모리·스토리지 업계 최대 규모 행사 중 하나로, 미국 캘리포니아주 산타클라라 컨벤션센터에서 8월 4일부터 6일까지 열렸다. 이 행사의 'Best of Show Awards'는 단일 최고 제품상이 아니라 부문별 시상 체계로 운영되는데, 삼성전자는 V10 BV-NAND로 '3D 낸드 혁신상', LPDDR5X-PIM으로 '차세대 메모리상'을 받아 2개 부문에서 수상하며 존재감을 드러냈다.

FMS 2026 키노트에서는 HBM4E, HBM5, LPDDR5X-PIM, PM1763까지 포함한 AI 메모리 로드맵이 함께 제시됐다. 이는 삼성전자가 단발성 신기술 하나를 던진 것이 아니라, 데이터센터용 HBM부터 온디바이스용 저전력 메모리, 기업용 스토리지까지 전 라인업에 걸친 로드맵을 준비하고 있다는 신호로 해석할 수 있다.

이어 8월 25일 미국 스탠퍼드대에서 열린 핫칩스(Hot Chips) 2026은 반도체 설계 아키텍처를 다루는 전문 학술·산업 행사로, 여기서 삼성전자는 LPDDR5X-PIM을 상세히 소개하며 FMS 2026 수상 사실도 함께 언급했다. LPDDR5X-PIM은 세계 최초로 저전력 D램 LPDDR5X에 PIM(Processing-In-Memory) 기술을 적용한 제품이다. PIM은 메모리 내부에서 직접 일부 연산을 수행해 데이터 이동 자체를 최소화하는 구조로, 메모리와 프로세서를 오가는 트래픽을 줄여 전력과 시간을 동시에 절약하는 개념이다.

이 두 행사에서 삼성전자가 보여준 흐름을 종합하면, 메모리 업계 전반이 단순 용량·속도 경쟁에서 벗어나 ①구조 혁신(zHBM의 수직 적층),
②연산 통합(LPDDR5X-PIM의 메모리 내 연산),
③초고집적(V10 BV-NAND의 400단 이상 적층)이라는 세 가지 방향으로 동시에 움직이고 있다는 점을 확인할 수 있다. 다른 메모리 제조사들 역시 온디바이스 AI향 저전력·고대역폭 메모리 개발 경쟁에 뛰어들고 있는 것으로 알려졌으나, 구체적 스펙과 일정이 공식 확인된 것은 이번 삼성전자 발표가 두드러진다.

변화 요인 ① — 기술: 수직 적층과 메모리 내 연산

이번 발표들을 관통하는 가장 근본적인 기술 동인은 '데이터 이동 거리를 줄인다'는 단 하나의 원칙이다. zHBM은 메모리를 프로세서 옆이 아니라 위에 쌓아 물리적 거리를 줄였고, LPDDR5X-PIM은 아예 메모리 내부에서 연산을 처리해 데이터가 이동할 필요 자체를 없앴다. zNAND-O는 TSV(실리콘관통전극) 기술로 낸드 칩을 4단 또는 8단 3D 패키징해 저장장치 안에서도 병목을 줄인다.

TSV는 반도체 칩에 미세한 구멍을 뚫고 그 안에 전도성 물질을 채워 칩과 칩을 수직으로 연결하는 기술이다. 기존에는 칩 가장자리의 와이어를 통해 신호를 주고받았지만, TSV는 칩을 관통하는 최단 경로로 신호를 전달하기 때문에 속도와 전력효율 모두에서 유리하다. HBM이 이미 TSV 기술을 활용해 여러 층의 D램을 쌓아온 것처럼, zNAND-O 역시 같은 원리를 낸드 플래시에 적용한 것으로 볼 수 있다.

V10 BV-NAND의 웨이퍼 본딩과 3-스택 기술도 같은 맥락이다. 낸드를 더 높이 쌓을수록 하나의 칩 안에 더 많은 데이터를 담을 수 있지만, 무작정 층수를 늘리면 공정 난도와 신호 간섭 문제가 커진다. 웨이퍼 본딩은 서로 다른 웨이퍼를 별도로 만든 뒤 붙이는 방식으로 이 문제를 우회하는 접근이며, 400단 이상이라는 초고적층과 V9 대비 약 58% 집적도 향상이라는 결과로 이어졌다.

이 모든 기술적 변화의 공통분모는 결국 '거리'와 '병목'이라는 두 단어로 요약된다.

변화 요인
② — 시장: 온디바이스 AI 확산이 만든 새로운 수요

시장 측면에서 보면, 온디바이스 AI 기능이 스마트폰·노트북·웨어러블 전반으로 확산되면서 메모리·저장장치에 요구되는 스펙 자체가 근본적으로 달라지고 있다. 과거 모바일 기기의 메모리는 용량과 기본 속도만 충족하면 충분했지만, 이제는 기기 안에서 직접 생성형 AI 기능을 구동해야 하는 시대가 됐다. 실시간 번역, 이미지 생성, 문서 요약 같은 기능이 클라우드 연결 없이 기기 자체에서 동작하려면, 제한된 전력과 공간 안에서 데이터센터급에 준하는 처리 능력을 구현해야 한다.

이런 수요 변화가 zNAND-O 같은 제품이 등장한 배경이다. 제품명에 명시적으로 '온디바이스(On-device)'라는 목적을 붙였다는 점 자체가, 삼성전자가 데이터센터용 스토리지와 온디바이스용 스토리지를 명확히 구분해서 개발하고 있다는 신호다. 마찬가지로 LPDDR5X는 원래 모바일 기기용 저전력 D램 규격인데, 여기에 PIM 기술을 결합했다는 것은 온디바이스 환경에서도 메모리 내 연산이 필요할 만큼 로컬 AI 연산 부담이 커졌다는 방증이다.

동시에 데이터센터 시장에서도 압박은 계속되고 있다. FMS 2026 키노트에서 HBM4E, HBM5까지 포함한 로드맵이 제시된 것은, AI 가속기 성능 경쟁이 이어지는 한 HBM 세대교체 속도 역시 늦출 수 없다는 판단이 깔려 있는 것으로 풀이된다. 다만 HBM5와 zHBM의 구체적인 양산 일정은 아직 정해지지 않은 상태이며, 이는 곧 시장 수요와 공정 성숙도가 아직 상용화 단계에 이르지 않았다는 의미이기도 하다.

전문가 의견으로 본 zHBM·zNAND-O의 의미

업계에서 공통적으로 지적하는 지점은, zHBM과 zNAND-O가 아직 콘셉트 단계임에도 불구하고 '메모리 아키텍처 자체를 다시 설계한다'는 방향성만큼은 명확하다는 점이다. 국내외 반도체 전문 매체들은 이번 FMS 2026 발표를 두고 기존 HBM의 물리적 배치 한계를 정면으로 건드린 시도라는 점에 주목했다. 메모리를 프로세서 옆에 두는 방식은 인터포저 기술이 아무리 발전해도 결국 '거리'라는 물리 법칙을 벗어날 수 없는데, zHBM은 그 전제 자체를 수직 적층으로 바꿨다는 평가다.

한편 신중론도 함께 제기된다. 삼성전자가 상용화 시점이나 가격, 독립 벤치마크를 아직 공개하지 않았다는 점에서, 목업 단계의 설계 목표치와 실제 양산품의 성능 사이에는 간극이 생길 수 있다는 지적이다. 반도체 업계에서는 콘셉트 발표 이후 실제 상용화까지 수년이 걸리는 경우가 드물지 않으며, 특히 zHBM처럼 완전히 새로운 적층 구조는 수율(양품 비율) 확보 자체가 큰 과제로 꼽힌다.

다만 LPDDR5X-PIM은 상대적으로 결이 다르다. FMS 2026에서 콘셉트 수준으로 소개된 이후 불과 3주 만인 8월 25일 핫칩스 2026에서 16GB 용량, 초당 614GB PIM 대역폭이라는 구체적 스펙과 함께 상세 공개됐다는 점에서, 세 가지 기술 중 실제 제품화에 가장 가까이 와 있는 것으로 평가받는다. "메모리 병목 해소는 이제 선택이 아니라 온디바이스 AI 경쟁력의 필수 조건"이라는 것이 이번 발표들을 관통하는 업계의 대체적인 시각이다.

향후 6~12개월, 무엇을 지켜봐야 하나

가장 먼저 확인해야 할 것은 zHBM·zNAND-O의 후속 로드맵 발표 여부이며, 그와 별개로 LPDDR5X-PIM은 실제 탑재 제품 소식이 나올 가능성이 있는 단계로 판단된다. FMS 2026과 핫칩스 2026을 거치며 삼성전자는 세 가지 기술을 서로 다른 완성도로 공개했다. 이 차이는 향후 6~12개월 동안 어떤 소식이 먼저 나올지를 가늠하는 단서가 된다.

zHBM과 zNAND-O는 여전히 콘셉트 목업 단계다. 상용화 시점, 가격, 독립 벤치마크 결과 중 어느 것도 공식 발표되지 않았다. 따라서 단기적으로는 이 두 제품에 대한 추가 기술 세미나나 학술 발표, 혹은 경쟁사의 유사 콘셉트 발표가 나올 가능성을 지켜보는 정도가 현실적이다. 반도체 업계 관행상 콘셉트 공개 이후 다음 단계인 '샘플 출하'나 '고객사 검증'까지는 통상 상당한 시간이 소요된다.

반면 LPDDR5X-PIM은 상황이 다르다. 이미 16GB 용량, 초당 614GB PIM 대역폭이라는 구체적 스펙이 핫칩스 2026에서 공개됐고, 기존 D램 대비 대역폭 8배 향상이라는 성능 지표까지 명시됐다. 이 정도로 스펙이 구체화됐다는 것은 실제 고객사(스마트폰·PC 제조사, 온디바이스 AI 칩 개발사 등)와의 협의가 상당히 진행됐을 가능성을 시사한다. 다만 이 역시 구체적 탑재 제품이나 출시 시점이 공식 확인된 것은 아니므로, 향후 발표를 통한 재확인이 필요하다.

또 하나 지켜볼 지점은 HBM4E와 HBM5의 로드맵 구체화 여부다. FMS 2026 키노트에서 언급만 됐을 뿐 세부 스펙이나 양산 일정은 공개되지 않은 만큼, 하반기 이후 열릴 반도체 관련 행사나 실적 발표에서 추가 정보가 나올 수 있다.

3~5년 후, 온디바이스 AI 메모리 지형은 어떻게 바뀔까

중장기적으로는 '메모리가 프로세서 옆에 있는 구조'가 점차 소수 사례로 밀려나고, 수직 적층과 메모리 내 연산이 표준 설계 방식으로 자리 잡을 가능성이 거론된다. 다만 이는 어디까지나 현재 공개된 설계 목표와 기술 방향성을 근거로 한 전망이며, 확정된 로드맵은 아니다.

zHBM이 제시하는 수직 적층 개념이 실제 양산 단계까지 도달한다면, AI 가속기 설계 자체가 지금과는 다른 형태로 바뀔 가능성이 있다. 지금까지는 프로세서와 메모리를 각각 만들어 나란히 배치하는 것이 표준이었지만, 수직 적층이 보편화되면 처음부터 프로세서와 메모리를 하나의 패키지로 설계하는 방식이 늘어날 수 있다. 이는 반도체 설계·제조 산업 전반의 협업 구조에도 영향을 줄 수 있는 변화다.

온디바이스 AI 측면에서는 zNAND-O 같은 온디바이스 특화 스토리지와 LPDDR5X-PIM 같은 연산 통합형 메모리가 결합되면서, 스마트폰이나 노트북 한 대가 지금의 소형 서버에 준하는 로컬 AI 처리 능력을 갖추는 방향으로 진화할 가능성이 있다. 이 경우 클라우드 의존도가 낮아지는 응용 분야가 늘어나고, 개인정보를 기기 밖으로 내보내지 않고도 정교한 AI 기능을 쓸 수 있는 서비스가 확대될 여지가 있다.

물론 이 모든 시나리오는 zHBM·zNAND-O의 상용화 성공 여부, 수율 확보, 가격 경쟁력이라는 변수에 따라 크게 달라질 수 있다는 점을 전제로 봐야 한다.

개발자·기획자가 지금 챙겨야 할 것

당장 zHBM·zNAND-O를 도입할 수 있는 단계는 아니지만, 온디바이스 AI 기능을 기획하거나 개발 중이라면 메모리·저장장치 스펙 변화 흐름을 미리 파악해두는 것이 중요하다. 특히 모바일 앱이나 엣지 디바이스용 AI 기능을 설계할 때는 다음 사항을 점검해볼 만하다.

첫째, 대상 기기의 D램·낸드 세대와 대역폭 스펙을 확인하고 로컬 AI 모델의 경량화 수준을 그에 맞춰 조정하는 습관이 필요하다.
둘째, LPDDR5X-PIM처럼 메모리 내 연산이 가능한 하드웨어가 상용화될 경우를 대비해, 연산과 데이터 이동을 분리해서 설계하는 아키텍처 감각을 미리 익혀두면 유리하다.
셋째, 공식 발표되지 않은 상용화 일정이나 벤치마크 수치를 섣불리 제품 로드맵에 반영하지 말고, 공식 채널의 후속 발표를 주기적으로 확인하는 것이 안전하다.

자주 묻는 질문 FAQ

Q1. zHBM은 언제 실제 제품으로 나오나요?
아직 공식 양산 일정이 발표되지 않았습니다. 2026년 8월 기준 zHBM은 FMS 2026에서 공개된 콘셉트 목업 단계이며, HBM5와 zHBM 모두 구체적인 양산 시점은 확정되지 않은 것으로 알려져 있습니다.

Q2. zNAND-O는 zHBM과 어떻게 다른가요?
zHBM은 D램 계열의 고대역폭 메모리(HBM) 기술이고, zNAND-O는 낸드 플래시 저장장치 기술입니다. zHBM이 AI 가속기와 메모리 간 데이터 이동 거리를 줄이는 데 초점을 맞췄다면, zNAND-O는 TSV 기반 3D 패키징으로 온디바이스 환경의 대용량 데이터 저장·로딩 성능을 높이는 데 중점을 둡니다.

Q3. LPDDR5X-PIM은 지금 구매할 수 있나요?
2026년 8월 25일 핫칩스 2026에서 16GB 용량, 초당 614GB PIM 대역폭이라는 상세 스펙이 공개됐지만, 특정 소비자 제품에 탑재됐다는 공식 발표는 확인되지 않았습니다. 세 기술 중 상대적으로 구체화가 앞선 상태입니다.

Q4. V10 BV-NAND는 zNAND-O와 같은 제품인가요?
다른 제품입니다. V10 BV-NAND는 400단 이상 10세대 V낸드로 웨이퍼 본딩·3-스택 기술을 적용한 양산 지향 제품군이며, V9 대비 집적도 약 58% 향상을 특징으로 합니다. zNAND-O는 여기에 TSV 3D 패키징을 결합한 별도의 온디바이스 특화 개발 제품입니다.

Q5. 이 발표들이 스마트폰 사용자에게 실질적으로 어떤 영향을 주나요?
직접적인 제품 출시 소식은 아직 없지만, 이런 기술들이 상용화되면 스마트폰에서 배터리 소모를 줄이면서도 더 빠른 온디바이스 AI 기능(번역, 이미지 생성 등)을 쓸 수 있게 될 가능성이 있습니다. 다만 이는 상용화 성공을 전제로 한 전망입니다.

참고 자료

- 삼성전자 뉴스룸(news.samsung.com) — FMS 2026 zHBM·zNAND-O 목업 공개 보도자료(2026.08.04)

- 삼성 반도체 글로벌(semiconductor.samsung.com)

- 뉴스핌(newspim.com)

- 파이낸셜뉴스(fnnews.com)

- AI타임스(aitimes.com)

- 전자신문 elec4(elec4.co.kr)

- 네이트뉴스(news.nate.com)

- 테크놀로지리뷰코리아(technologyreview.kr)

※ 본문에 제시된 성능 수치는 삼성전자가 발표한 콘셉트 단계 설계 목표를 포함하며, zHBM·zNAND-O의 상용화 일정·가격·독립 벤치마크는 2026년 8월 기준 공식 확인되지 않았습니다. 발행 이후 추가 발표나 일정 변경 여부는 별도 확인이 필요합니다.

🏢 비젠소프트 | AI 기술 트렌드 분석 및 IT 인사이트 콘텐츠 제작
📧 sales@vizensoft.com | 🌐 www.vizensoft.com | 📞 02-338-4610