[더구루 라스베이거스(미국)=정예린 기자] "2~3년 주기로 인프라를 교체하는 방식으로는 기술 진화를 따라갈 수 없다."

젠슨 황 엔비디아 최고경영자(CEO)는 미국 라스베이거스에서 열리는 세계 최대 가전·IT 전시회 'CES 2026' 개막 첫날인 7일(현지시간) 프레스·애널리스트를 대상으로 진행한 Q&A 세션에서 인공지능(AI) 인프라 공급 전략을 이같이 밝혔다. 이날 세션은 키노트 이후 별도로 마련된 자리로, 발표 원고 없이 질의응답 형식으로 진행됐다.

황 CEO는 AI 인프라 수요가 단기적 유행이 아니라 구조적 변화 국면에 진입했다고 진단했다. 대형 언어모델과 추론형 AI 확산으로 연산량 증가 속도가 기존 데이터센터 투자 방식의 한계를 이미 넘어섰다는 판단이다.

그는 "모델 크기는 매년 10배씩 커지고 있고, 생성되는 토큰 수는 매년 5배씩 늘고 있다"며 "이 증가율들이 서로 곱해지면서 컴퓨팅 수요는 감당하기 어려운 수준으로 커지고 있다"고 말했다.

이 발언은 AI 성능 향상이 단순한 학습 단계의 확장에 그치지 않고 추론 과정에서의 연산·메모리·전력 부담까지 동시에 키우고 있다는 점을 강조한 것으로 풀이된다. 인프라를 한 번 구축해 수년간 사용하는 기존 데이터센터 방식으로는 이런 변화에 대응하기 어렵다는 의미다.

엔비디아는 이에 대한 해법으로 AI 인프라를 '데이터센터'가 아닌 'AI 팩토리'로 재정의하고 있다. 개별 그래픽처리장치(GPU)나 서버 단위가 아니라, 중앙처리장치(CPU)·GPU·네트워크·소프트웨어를 포함한 전체 시스템을 하나의 생산 설비로 본다는 개념이다.

황 CEO는 "엔비디아는 매년 CPU, GPU, 네트워크를 포함한 전체 AI 팩토리를 새로운 세대로 제공할 것"이라며 "연 단위 세대 교체가 전제되지 않으면 AI 인프라 경쟁력을 유지하기 어렵다"고 말했다.

중국 시장과 관련해서는 H200 공급 여부가 다시 도마에 올랐다. 황 CEO는 중국 고객 수요가 여전히 강하다는 점을 인정하면서도, 가시적인 판단 기준은 정책 발언이나 기대감이 아니라 실제 주문이라고 선을 그었다.

그는 "중국 고객들의 수요는 매우 높다"며 "공급망은 이미 가동 중이고, 현재는 미국 정부와의 라이선스 절차를 마무리하는 단계"라고 밝혔다.

이어 "별도의 선언이나 발표가 있을 것으로 기대하지는 않는다"며 "모든 것은 결국 구매 주문서(PO)로 드러날 것"이라고 덧붙였다.

엔비디아가 자체적으로 개발 중인 파운데이션 모델에 대해서도 방향성을 분명히 했다. 시장 일각에서는 엔비디아가 범용 AI 모델 경쟁에 직접 뛰어드는 것 아니냐는 해석도 나오지만, 황 CEO는 목적이 '모델 경쟁'이 아니라 '인프라 효율화'에 있다고 설명했다.

황 CEO는 "네모트론(Nemotron) 3는 최전선 성능을 유지하면서도 추론 시스템에 적합하도록 설계된 모델"이라며 "긴 콘텍스트를 효율적으로 처리하고 추론 비용을 낮추는 데 초점을 맞췄다"고 말했다.

이는 엔비디아의 모델 전략이 범용 챗봇 경쟁이 아니라 AI 팩토리의 처리 효율을 끌어올리는 참조 모델(reference model)에 가깝다는 점을 시사한다. 물리 AI 모델 '코스모스(Cosmos)' 역시 로보틱스와 자율주행 등 물리 환경에서 AI 연산 구조를 제시하는 역할에 무게가 실려 있다.

AI 확산에 따른 일자리 감소 우려에 대해서는 제한적일 것이라는 전망을 내놨다. AI 도입이 고용 축소로 직결된다는 통념과 달리 구조적 노동력 부족을 보완하는 역할을 하게 될 것이라는 판단이다.

황 CEO는 "세계는 이미 수천만 명 규모의 노동력 부족 상태에 들어섰고, 인구 감소로 인해 이 문제는 더 심각해질 것"이라며 "로봇과 AI는 일자리를 빼앗기보다 노동 공백을 메우는 역할을 하게 되고, 생산성이 높아지면 경제가 성장하면서 더 많은 일자리가 만들어지는 구조로 이어진다"고 강조했다.