지난 두 번의 포스팅에서 우리는 CPU 아키텍처의 역사(x86, x64)와 ARM의 부상에 대해 깊이 있게 탐구했습니다. 오늘은 이 모든 CPU 이야기의 정점에 서 있는, 그리고 최근 가장 뜨거운 감자로 떠오른 기업, 바로 엔비디아(NVIDIA) 에 대한 이야기를 해볼까 합니다.

엔비디아는 오랫동안 GPU(그래픽 처리 장치) 시장의 절대 강자로 군림해왔습니다. 하지만 최근, 이들은 단순히 GPU를 넘어 CPU 시장으로까지 영향력을 확장하며 컴퓨팅의 미래를 새롭게 써나가고 있습니다. 과연 엔비디아는 왜 CPU를 만들고 있으며, 이것이 AI 시대에 어떤 의미를 가지는지 함께 알아보겠습니다.

1. 엔비디아는 원래 GPU 회사 아니었나요? CPU와 무슨 관계죠?

네, 맞습니다. 엔비디아는 주로 GeForce (게이밍)와 Quadro/RTX (전문가용), 그리고 최근에는 데이터센터용 A/H 시리즈 GPU로 잘 알려져 있습니다. GPU는 CPU와는 다른 방식으로 연산을 처리합니다.

  • CPU: 순차적이고 복잡한 단일 작업을 빠르고 효율적으로 처리하는 데 특화되어 있습니다. (예: 운영체제 실행, 문서 작업, 웹 브라우징)

  • GPU: 수천 개의 작은 코어를 병렬적으로 동시에 작동시켜 단순하지만 반복적인 대규모 연산을 처리하는 데 매우 강력합니다. (예: 그래픽 렌더링, 물리 시뮬레이션, 그리고 인공지능 학습/추론)

오랫동안 CPU와 GPU는 서로의 역할을 보완하며 컴퓨터 시스템을 구성했습니다. CPU가 전체 시스템의 '뇌'로서 지휘를 맡고, GPU는 그래픽이나 특정 병렬 연산이 필요한 작업을 '전문가'처럼 처리하는 식이었죠.

하지만 인공지능(AI) 시대가 도래하면서 이들의 관계에 변화가 생기기 시작했습니다. 방대한 데이터를 학습하고 복잡한 신경망을 계산해야 하는 AI 작업은 GPU의 병렬 처리 능력 없이는 불가능에 가까웠습니다. 엔비디아는 GPU의 이런 잠재력을 일찍이 간파하고 CUDA(쿠다) 라는 병렬 컴퓨팅 플랫폼을 개발하여 GPU가 단순히 그래픽 카드임을 넘어 범용적인 계산 장치로 활용될 수 있는 길을 열었습니다.

2. GPU의 한계와 CPU의 필요성: '데이터 이동'의 비효율

GPU가 AI 연산의 핵심이 된 것은 분명하지만, CPU와 GPU 간의 데이터 이동은 여전히 병목 현상을 일으키는 원인이었습니다.

  • CPU ↔ GPU 데이터 전송: AI 모델 학습이나 추론 과정에서 CPU는 데이터를 준비하고, GPU는 그 데이터를 받아 연산한 후 다시 CPU로 결과를 보내는 과정을 반복합니다. 이 데이터 이동 과정이 생각보다 많은 시간과 전력을 소모합니다. CPU와 GPU가 물리적으로 떨어져 있고, 데이터 전송에 사용되는 PCIe(PCI Express)와 같은 인터페이스는 GPU의 엄청난 처리 속도를 따라가지 못하는 경우가 발생합니다.

엔비디아는 이런 한계를 극복하고 AI 시대에 최적화된 컴퓨팅 솔루션을 제공하기 위해, GPU 옆에 놓일 자체 CPU의 필요성을 느끼기 시작했습니다. GPU가 아무리 뛰어나도, GPU를 효과적으로 지원하고 데이터를 빠르게 주고받을 수 있는 CPU가 없다면 전체 시스템의 효율성은 떨어질 수밖에 없으니까요.

3. 엔비디아의 CPU 등장: ARM 기반 'Grace' 프로세서

엔비디아는 x86 CPU를 직접 개발하는 대신, 전력 효율성이 뛰어나고 커스터마이징이 용이한 ARM 아키텍처에 주목했습니다. 그리고 2022년, 데이터센터용 CPU인 'NVIDIA Grace(그레이스)'를 발표하며 CPU 시장 진출을 공식화했습니다.

NVIDIA의 GPU + CPU 슈퍼칩이 데이터 스트림을 교환하는 장면

  • ARM Neoverse 기반: Grace CPU는 ARM의 서버용 코어인 'Neoverse'를 기반으로 설계되었습니다. 이는 엔비디아가 직접 CPU 코어 설계에 뛰어들기보다는, ARM의 검증된 기술을 활용하여 빠르게 시장에 진입하려는 전략으로 풀이됩니다.

  • '슈퍼칩' 전략의 핵심: Grace CPU의 진정한 강점은 단독 CPU로서의 성능을 넘어, 엔비디아의 GPU와 '슈퍼칩' 형태로 결합될 때 발휘됩니다.

    • Grace Hopper Superchip: Grace CPU와 강력한 H100 Hopper GPU를 NVLink-C2C라는 초고속 인터커넥트로 연결한 제품입니다. 이 연결은 기존 PCIe보다 훨씬 빠른 대역폭(초당 900GB 이상)을 제공하여 CPU와 GPU 간의 데이터 병목 현상을 최소화합니다.

    • Grace Blackwell Superchip: 최신 Blackwell GPU 아키텍처와 Grace CPU를 결합한 형태로, 차세대 AI 및 HPC(고성능 컴퓨팅) 워크로드를 위해 설계되었습니다.

이러한 '슈퍼칩' 전략은 엔비디아가 GPU 연산에 최적화된 맞춤형 CPU를 직접 제공함으로써, 기존 x86 CPU와 엔비디아 GPU를 따로 사용하는 것보다 훨씬 효율적이고 강력한 통합 시스템을 구축하겠다는 비전을 보여줍니다.

4. CPU 시장의 지각 변동과 미래 전망

엔비디아의 Grace CPU 등장은 기존 x86(인텔, AMD)과 ARM(퀄컴, 애플 등)으로 양분되어 있던 CPU 시장에 새로운 경쟁 구도를 형성하고 있습니다.

  • AI 시대를 위한 최적화: 엔비디아는 범용 CPU 시장보다는 AI 및 HPC 워크로드에 특화된 데이터센터 CPU에 집중하고 있습니다. 이는 전 세계적으로 폭발적으로 증가하는 AI 컴퓨팅 수요에 대응하기 위한 전략입니다.

  • 경쟁과 협력: 인텔과 AMD 역시 AI 가속기 시장에서 엔비디아와 경쟁하면서도, 한편으로는 엔비디아 GPU와 잘 작동하는 x86 CPU를 계속해서 개발해야 하는 복잡한 관계에 놓여 있습니다. 엔비디아는 경우에 따라 인텔의 파운드리 서비스를 이용할 수도 있다는 소문이 돌기도 하는 등, 기술 개발과 시장 선점을 위한 다양한 협력 및 경쟁 모델이 나타나고 있습니다.

  • 통합 솔루션의 중요성: 앞으로는 단순히 개별 부품의 성능을 넘어, CPU, GPU, 메모리, 인터커넥트가 얼마나 유기적으로 통합되어 특정 워크로드에 최적화된 성능을 내는지가 더욱 중요해질 것입니다. 엔비디아의 '슈퍼칩' 전략은 이러한 통합 솔루션의 대표적인 예시입니다.

마치며

오늘 우리는 GPU 시장의 거인 엔비디아가 왜 CPU 시장에 진출했는지, 그리고 'Grace' CPU와 '슈퍼칩' 전략을 통해 AI 시대의 컴퓨팅 패러다임을 어떻게 바꾸려 하는지 살펴보았습니다. CPU와 GPU가 서로의 역할을 보완하며 발전해온 역사를 넘어, 이제는 더욱 긴밀하게 결합되고 통합되는 방향으로 나아가고 있음을 알 수 있습니다.

엔비디아의 CPU 도전이 앞으로 어떤 결과와 변화를 가져올지, 기존 x86 강자들은 어떻게 대응할지, 그리고 궁극적으로 AI 컴퓨팅의 미래는 어떤 모습이 될지 귀추가 주목됩니다. 다음 포스팅에서는 또 다른 흥미로운 기술 이야기로 찾아뵙겠습니다. 감사합니다!