GPU 회사에서 AI 공장 운영 회사로 변신

많은 사람들은 아직도 엔비디아를 GPU 제조업체로 기억하고 있어요. 하지만 이번 GTC 발표를 보면 엔비디아는 이미 GPU 기업이라는 틀을 벗어나고 있어요. GPU뿐 아니라 CPU, 네트워크, 스토리지, 광통신, 보안, 운영 플랫폼까지 포함한 거대한 AI 인프라 생태계를 구축하고 있었죠.

특히 DSX 플랫폼은 단순한 서버 관리 소프트웨어가 아니에요. 어떤 서버를 배치해야 하는지, 전력을 어떻게 분배할지, 냉각 시스템을 어떻게 설계할지, 토큰 생산 효율을 어떻게 극대화할지까지 고려하는 AI 공장 운영 플랫폼에 가까워요. 엔비디아는 앞으로 고객에게 GPU 성능이 아니라 AI 공장의 생산성을 판매하려는 전략을 추진하고 있는 것으로 보여요.

이러한 접근은 기존 반도체 기업들과도 차이가 있어요. 많은 경쟁사들이 개별 칩 성능 향상에 집중하는 반면, 엔비디아는 데이터센터 전체를 하나의 제품처럼 바라보고 있거든요. AI 산업의 경쟁 구도가 반도체 경쟁에서 플랫폼 경쟁으로 이동하고 있다는 의미이기도 해요.

에이전트 AI가 생각보다 무서운 이유

이번 발표에서 젠슨 황이 가장 많이 언급한 단어 중 하나가 바로 에이전트였어요. 많은 사람들이 에이전트를 조금 더 똑똑한 챗봇 정도로 생각하지만 엔비디아가 정의하는 에이전트는 훨씬 복잡한 개념이에요. 단순히 질문에 답하는 것이 아니라 기억하고, 검색하고, 코드를 실행하고, 외부 도구를 호출하고, 결과를 검증한 뒤 다시 작업을 반복할 수 있는 디지털 직원에 가까운 존재예요.

대표 사례로 소개된 것이 케이던스와의 협력이었어요. 반도체 설계 검증 과정은 수많은 엔지니어가 몇 주 동안 반복 작업을 수행해야 하는 대표적인 고난도 업무예요. 그런데 AI 에이전트가 설계 파일을 분석하고, 검증 시나리오를 생성하고, 시뮬레이션까지 수행하는 방향이 공개됐어요. 일부 작업은 기존에 수 주가 걸리던 과정을 하루 수준으로 줄일 수 있다는 설명도 나왔죠.

이런 변화는 단순한 생산성 향상을 넘어 업무 방식 자체를 바꿀 가능성이 있어요. AI가 내린 판단을 사람이 검증해야 하는 문제와 책임 소재 문제는 앞으로 해결해야 할 과제로 남아 있어요.

왜 베라 CPU를 그렇게 강조했을까

이번 키노트에서 의외였던 부분은 GPU보다 CPU 이야기가 훨씬 많이 나왔다는 점이에요. 젠슨 황은 베라 CPU를 여러 차례 언급하며 에이전트 시대의 핵심 인프라라고 설명했어요. 이유는 에이전트가 늘어날수록 데이터베이스 조회, 파일 검색, API 호출, 컨텍스트 관리, 작업 스케줄링 같은 작업이 폭발적으로 증가하기 때문이에요.

GPU가 대규모 연산을 담당한다면 CPU는 전체 작업 흐름을 관리하는 역할을 수행해요. 수많은 에이전트가 동시에 움직이는 환경에서는 CPU가 데이터를 얼마나 빠르게 공급하고 분배하느냐가 전체 성능을 결정하게 되죠. 엔비디아는 이런 병목을 해결하기 위해 자체 설계 CPU를 더욱 강화하고 있어요.

결국 AI 시대의 CPU는 과거처럼 단순한 보조 장치가 아니에요. AI 공장의 관리자이자 교통정리 역할을 담당하는 핵심 부품이 되고 있어요. CPU 시장을 지배하던 기존 기업들에게는 새로운 경쟁 구도가 시작된 셈이에요.

100만 개 GPU 시대를 준비하는 광통신 혁명

AI 산업이 발전할수록 사람들은 GPU 성능에만 관심을 가져요. 하지만 실제 초대형 AI 데이터센터를 운영하는 기업들은 전혀 다른 문제를 고민하고 있어요. 바로 연결이에요. GPU가 아무리 빠르게 계산해도 데이터를 제때 전달받지 못하면 성능을 제대로 활용할 수 없기 때문이죠.

엔비디아가 이번 발표에서 스펙트럼-X 포토닉스를 강조한 이유도 여기에 있어요. 기존 구리 케이블 기반 네트워크는 거리와 발열, 전력 소모 문제에서 한계를 드러내고 있어요. AI 팩토리 규모가 커질수록 수천 개, 수만 개 GPU가 동시에 데이터를 주고받아야 하기 때문에 단순히 케이블을 더 연결하는 방식으로는 해결이 어려워지고 있어요.

그래서 엔비디아는 실리콘 포토닉스 기술을 적극적으로 도입하고 있어요. 전기 신호 대신 빛을 활용해 데이터를 전송하면 전력 소비를 줄이고 전송 거리를 늘릴 수 있어요. 무엇보다 초대형 데이터센터에서 발생하는 병목 현상을 크게 완화할 수 있다는 장점이 있죠.

젠슨 황은 이제 엔비디아가 세계 최대 AI 기업일 뿐 아니라 가장 강력한 네트워킹 기업 중 하나라고 자신 있게 이야기했어요. 단순히 GPU를 판매하는 수준을 넘어 AI 시대의 데이터 이동까지 장악하겠다는 의지가 드러난 장면이었어요.

AI 시대의 숨은 승자, 스토리지 시장

생성형 AI 열풍이 커질수록 GPU와 HBM 메모리만 주목받고 있지만 실제로는 스토리지 시장도 빠르게 성장하고 있어요. 엔비디아가 블루필드4와 스토리지 플랫폼을 강조한 이유도 바로 이 때문이에요.

에이전트 AI는 단순히 질문에 답하는 수준이 아니에요. 수많은 문서를 기억하고, 이전 대화를 저장하고, 장기간 컨텍스트를 유지해야 해요. 특히 기업용 AI는 고객 데이터와 업무 데이터를 지속적으로 저장하고 활용해야 하기 때문에 저장 공간 수요가 폭발적으로 증가할 수밖에 없어요.

여기서 중요한 개념이 KV 캐시예요. AI가 긴 대화를 유지하거나 복잡한 작업을 수행할 때 과거 정보를 저장하는 공간이라고 생각하면 이해하기 쉬워요. 문제는 HBM 메모리는 가격이 너무 비싸고 용량도 제한적이라는 점이에요.

결국 대규모 데이터를 저장하기 위해서는 NAND 플래시 기반 스토리지가 필수적으로 사용될 수밖에 없어요. 최근 스토리지 기업들이 시장에서 다시 주목받는 이유도 같은 맥락이에요. AI 산업이 성장할수록 GPU뿐 아니라 저장장치 수요도 함께 증가하는 구조가 만들어지고 있는 것이죠.

AI PC 시장까지 노리는 엔비디아의 야심

이번 발표에서 가장 의외였던 부분 중 하나는 AI PC 전략이었어요. 지금까지 엔비디아는 데이터센터와 기업용 AI 시장의 강자라는 이미지가 강했죠. 하지만 이제는 개인용 컴퓨터 시장까지 직접 공략하겠다는 의지를 드러냈어요.

특히 마이크로소프트와 협력해 차세대 AI 노트북 플랫폼을 구축하겠다고 발표한 점이 눈길을 끌었어요. RTX GPU와 고성능 CPU를 결합하고 최대 128GB 메모리를 탑재해 클라우드에 연결하지 않아도 강력한 AI 모델을 실행할 수 있도록 설계하고 있어요.

이는 단순히 노트북 성능 경쟁이 아니에요. 앞으로 AI 비서와 AI 에이전트가 일상화되면 개인 컴퓨터에서도 상당한 수준의 AI 추론 능력이 필요해질 수 있어요. 엔비디아는 그 시장을 미리 준비하고 있는 것이죠.

특히 개발자와 콘텐츠 제작자 입장에서는 상당히 흥미로운 변화예요. 이미지 생성, 영상 편집, 코드 생성, AI 모델 실행 등을 로컬 환경에서 처리할 수 있기 때문이에요.

일반 소비자 입장에서는 가격 상승이라는 부담도 존재해요. AI 기능이 강화될수록 고성능 부품이 필요해지기 때문에 AI PC와 일반 PC 사이의 가격 차이는 더욱 커질 가능성이 높아 보이기도 해요.