NVIDIA挑戰CPU市場，超越GPU！AI時代的新‘超級晶片’策略

在前兩篇文章中，我們深入探討了CPU架構的歷史（x86, x64）以及ARM的崛起。今天，我們將談論在所有CPU故事的巔峰，最近備受關注的公司，即NVIDIA。

NVIDIA長期以來一直是GPU（圖形處理單元）市場的絕對霸主。但最近，它們不僅僅止步於GPU，而是將影響力擴展到CPU市場，重新書寫計算的未來。究竟NVIDIA為何要製造CPU，這在AI時代又有什麼樣的意義，讓我們一起來了解。

1. NVIDIA不是家GPU公司嗎？與CPU有何關係？

是的，沒錯。NVIDIA主要以GeForce（遊戲）和Quadro/RTX（專業用途）著稱，最近還推出了數據中心用A/H系列GPU。GPU以不同於CPU的方式處理計算。

長期以來，CPU和GPU在計算機系統中相互補充。CPU作為整個系統的“大腦”來指揮，而GPU則像“專家”一樣處理圖形或特定的並行運算任務。

但隨著人工智能（AI）時代的到來，這種關係開始發生變化。AI工作需要學習大量數據和計算複雜神經網絡，這幾乎不可能沒有GPU的並行處理能力。NVIDIA早早看到了GPU的潛力，開發了CUDA這一並行計算平台，讓GPU不僅僅是顯示卡，還可以作為通用計算設備使用。

GPU成為AI運算核心是顯而易見的，但CPU和GPU之間的數據傳輸仍然是造成瓶頸的原因。

CPU ↔ GPU數據傳輸：在AI模型的學習或推斷過程中，CPU準備數據，然後將數據傳送給GPU進行運算，隨後再將結果發回CPU。這一數據移動過程消耗了意想不到的時間和能量。CPU和GPU之間物理上相距甚遠，數據傳輸使用的PCIe（PCI Express）等介面無法匹敵GPU的驚人處理速度。

NVIDIA開始認識到，為了克服這些限制並提供針對AI時代優化的計算解決方案，迫切需要在GPU旁邊放置自有CPU。因為無論GPU多出色，如果沒有能夠有效支持GPU並快速數據交互的CPU，整個系統的效率將無法提高。

NVIDIA沒有直接開發x86 CPU，而是將目光投向了能效卓越且易於定制的ARM架構。因此在2022年，他們發佈了用於數據中心的CPU‘NVIDIA Grace’，正式進軍CPU市場。

NVIDIA的GPU + CPU超級晶片交換數據流的場景

基於ARM Neoverse：Grace CPU基於ARM的伺服器核心‘Neoverse’設計。這表明NVIDIA的策略是利用ARM已驗證的技術快速進入市場，而非直接設計CPU核心。
‘超級晶片’策略的核心：Grace CPU的真正優勢不僅在於其作為單獨CPU的性能，也在於當其與NVIDIA的GPU結合成‘超級晶片’時，將展現出更強的能力。
- Grace Hopper超級晶片：Grace CPU與強大的H100 Hopper GPU通過名為NVLink-C2C的超高速互連連接。此連接提供超過900GB每秒的帶寬，比現有PCIe快得多，從而最小化CPU與GPU之間的數據瓶頸。
- Grace Blackwell超級晶片：這是結合了最新的Blackwell GPU架構與Grace CPU，為下一代AI及HPC（高性能計算）工作負載而設計的產品。

這一‘超級晶片’策略展示了NVIDIA打算提供針對GPU運算優化的定制CPU，從而建立一個比傳統x86 CPU與NVIDIA GPU單獨使用的效率和整合性能都更強的系統。

NVIDIA的Grace CPU的出現，形成了對傳統x86（英特爾，AMD）及ARM（高通，蘋果等）各自為營的CPU市場的新競爭格局。

為AI時代而優化：NVIDIA專注於針對AI及HPC工作負載的數據中心CPU，而非廣泛的通用CPU市場。這是回應全球不斷增長的AI運算需求的策略。
競爭與合作：英特爾與AMD正面臨著在AI加速器市場與NVIDIA的競爭，同時又必須開發與NVIDIA GPU合作良好的x86 CPU，形成了複雜的關係。有傳言稱，NVIDIA在某些情況下可能會利用英特爾的代工服務，展示出各類合作與競爭模型的技術開發和市場佔領。
統合解決方案的重要性：未來，超越單一部件性能，CPU，GPU，內存，互連之間的有機整合及其對特定工作負載的優化性能將變得更加重要。NVIDIA的‘超級晶片’策略就是這類統合解決方案的代表例子。

今天，我們探討了GPU市場的巨頭NVIDIA為何進軍CPU市場，通過‘Grace’ CPU和‘超級晶片’策略打算如何改變AI時代的計算範式。我們已經可以看出，CPU和GPU不再是彼此的補充，而是朝著更緊密結合和整合的方向發展。

NVIDIA的CPU挑戰將帶來什麼結果和變化，傳統x86的強者們又將如何應對，以及AI計算的未來究竟會呈現什麼樣的圖景，我們將拭目以待。在下一篇文章中，我們將帶來另一個引人入勝的技術故事。謝謝大家！