[더구루=정예린 기자] SK하이닉스의 낸드플래시 자회사 '솔리다임'이 데이터다이렉트네트웍스(DDN)·슈퍼마이크로·엔비디아와 기업용 인공지능(AI) 인프라 협력에 나선다. 고용량 솔리드스테이트드라이브(SSD)를 활용해 거대언어모델(LLM) 추론 과정의 데이터 병목을 줄이며 AI 스토리지 시장 공략에 속도를 낼 전망이다.

31일 미국 IT 전문 매체 '실리콘앵글(SiliconANGLE)'에 따르면 앤드루 머피 DDN 제품관리 수석디렉터는 최근 슈퍼마이크로 주최로 열린 '오픈 스토리지 서밋 2026' 대담에 참석해 솔리다임·슈퍼마이크로·엔비디아와 기업용 AI 데이터 플랫폼 '엔터프라이즈 AI 하이퍼팟(Enterprise AI HyperPOD)' 솔루션을 함께 개발하고 있다고 밝혔다. 솔리다임은 대용량 플래시 스토리지를 활용해 AI 데이터 처리 효율과 그래픽처리장치(GPU) 활용률을 높이는 데 힘을 보탠다.

DDN은 AI와 고성능컴퓨팅(HPC)용 데이터 저장·처리 인프라를 공급하는 미국 기업이다. 지난해 10월 미국 워싱턴DC에서 열린 '엔비디아 GTC DC'에서 하이퍼팟을 출시했다. 자체 데이터 플랫폼 '인피니아(Infinia)'에 슈퍼마이크로 서버와 엔비디아 GPU·네트워크·AI 소프트웨어를 결합한 통합형 AI 인프라다.

기업이 AI 시스템을 구축하려면 통상 서버와 스토리지, 네트워크를 각각 도입해 서로 연결하고 성능을 최적화해야 한다. 하이퍼팟은 이들 장비와 소프트웨어를 사전에 통합한 턴키 방식으로 구성해 기업이 검색증강생성(RAG)이나 LLM 추론 등 AI 서비스를 빠르게 구동할 수 있도록 했다.

솔리다임은 하이퍼팟의 스토리지 영역에서 역할을 한다. LLM 추론에서는 앞서 처리한 정보를 '키-값(KV) 캐시'로 저장해 다음 연산에 다시 활용하는데 이용자가 늘고 대화가 길어질수록 쌓이는 데이터도 급증한다. GPU에 탑재된 고대역폭메모리(HBM)만으로 이를 모두 저장하기 어려워지면서 대용량 SSD를 별도 저장 공간으로 활용하는 방식이 부상하고 있다.

이미 연산을 마친 KV 캐시 등을 SSD에 저장해두면 필요할 때 데이터를 다시 불러와 사용할 수 있다. GPU가 같은 내용을 반복해서 계산하는 작업을 줄일 수 있고 상대적으로 비싼 HBM을 당장 연산에 필요한 데이터에 집중해 활용할 수 있다. 솔리다임이 강조하는 AI 추론용 고용량 SSD의 핵심 역할이다.

폼페이 나그라 솔리다임 제품·생태계 리드는 "LLM은 KV 캐시 데이터를 활용하기 위해 더 많은 데이터와 스토리지를 필요로 하면서 플랫폼의 병목이 컴퓨팅에서 스토리지로 이동하고 있다"며 "SSD는 같은 워크로드에서 더 많은 재연산이 필요한 HBM이나 주메모리와 비교해 용량 측면에서 높은 가치를 제공한다"고 설명했다.

스토리지에서 데이터를 제때 공급하지 못하면 고성능 GPU를 확보하고도 연산 장치가 대기하는 시간이 발생한다. AI 인프라 경쟁이 GPU 자체의 연산 성능을 넘어 저장된 데이터를 얼마나 빠르게 불러와 GPU에 전달하느냐로 넓어지면서 DDN도 하이퍼팟에서 데이터 이동 효율을 핵심 요소로 두고 있다.

머피 수석디렉터는 "대부분의 경우 GPU는 데이터를 기다리며 유휴 상태에 있다"며 "DDN은 GPU를 최대한 활용할 수 있도록 빠른 데이터 경로를 제공하는 데 집중하고 있다"고 밝혔다.