[더구루=홍성일 기자] 미국 메모리 반도체 제조사 마이크론 테크놀로지(Micron Technology, 이하 마이크론)가 인공지능(AI) 반도체의 '메모리 벽(병목현상)'을 돌파하기 위해 신개념 낸드(NAND) 플래시 기술 개발에 착수했다. AI 추론 영역에서 처리해야 할 데이터양이 폭증하면서, 글로벌 메모리 반도체 기업들을 중심으로 고대역폭메모리(HBM)를 보조할 차세대 낸드 플래시 기술 확보 경쟁이 벌어지고 있다.
3일 대만 IT 전문매체 '디지타임스'에 따르면 마이크론은 대만 타이베이에서 개최된 '세미콘 타이완(SEMICON Taiwan) 2026'에서 '니어 GPU 낸드(near-GPU NAND)' 기술을 개발 중이라고 발표했다. 마이크론은 "니어 GPU 낸드는 향상된 입출력 속도와 넓은 대역폭, 초저지연 성능을 갖췄다"며 "워크로드에 맞춰 최적화할 경우 고가의 HBM이나 표준 D램 대비 상당한 비용 절감 효과를 거둘 수 있을 것"이라고 설명했다.
세미콘 타이완은 글로벌 반도체 공급망 기업들이 총출동하는 아시아 최대 반도체 산업 전시회다. 올해 행사는 2일(현지시간)부터 4일까지 사흘간 타이베이 난강전람관(TaiNEX) 1·2관에서 열리며, '국제 반도체 주간'을 맞아 지난달 31일부터 첨단 패키징 및 AI 메모리 관련 전문 기술 포럼이 이어지고 있다.
니어 GPU 낸드는 AI 연산용 그래픽처리장치(GPU)와 동일한 기판(패키지 기판 또는 PCB) 위에 고내구성 낸드 플래시를 인접 배치하는 아키텍처다. 알려진 바에 따르면 해당 제품은 기존 소비자용 솔리드스테이트드라이브(SSD)보다 집적도가 낮고 다이당 용량도 작지만, 높은 읽기 속도와 넓은 대역폭, 뛰어난 내구성을 확보했다.
마이크론이 새로운 낸드 플래시 기술 개발에 뛰어든 배경에는 '에이전트 AI'의 급부상이 자리 잡고 있다. 에이전트 AI 시대가 열리면서 추론을 위해 입력하는 데이터의 양이 기하급수적으로 늘어났기 때문이다. 기존에는 단순 질의응답 형태의 짧은 문장이 주를 이뤘다면, 현재는 수백 페이지에 달하는 전문 문서나 방대한 소프트웨어 코드를 통째로 입력하고 복잡한 임무를 부여하는 방식으로 진화했다.
이 과정에서 모델의 중간 추론 연산 데이터를 임시 저장하는 'KV(Key-Value) 캐시' 용량 역시 수 테라바이트(TB) 단위로 급증했다. KV 캐시는 거대언어모델(LLM)이 긴 문맥을 처리할 때 앞서 분석한 내용을 다시 연산하지 않도록 기억해 두는 핵심 저장 영역이다. 하지만 한정된 용량과 비싼 단가의 HBM·D램만으로는 폭증하는 KV 캐시를 감당하기 어려워지자, 상대적으로 속도는 느리지만 대용량 구현이 용이하고 가격이 저렴한 낸드 플래시가 대안으로 급부상하고 있다.
낸드 플래시 메모리를 GPU와 인접 패키징해 KV캐시를 저장·처리한다는 개념은 이미 삼성전자, SK하이닉스도 연구하고 있는 부분이다. 지난달 SK하이닉스와 샌디스크가 공개한 '고대역폭 플래시(HBF)'가 대표적이다. 삼성전자 역시 최근 차세대 낸드 솔루션인 'zHBF' 상표를 출원하며 관련 아키텍처 개발을 공식화한 바 있다.
업계 관계자는 "지난 2년간 AI 인프라 확장을 가로막은 핵심 병목은 단순 트랜지스터 수가 아니라 HBM의 극심한 공급 부족과 비용 부담이었다"며 "글로벌 메모리 제조사들이 HBM을 보완하면서도 비용을 낮출 수 있는 대체재 확보에 사활을 걸고 있는 가운데, 마이크론의 가세로 HBF 진영의 기술 주도권 경쟁이 한층 치열해질 것"이라고 말했다.
