在之前的两篇文章中,我们深入探讨了CPU架构的历史(x86,x64)和ARM的崛起。今天,我们将讨论所有CPU故事的顶点,以及最近成为热点的公司,正是英伟达(NVIDIA)

英伟达长期以来一直是GPU(图形处理单元)市场的绝对霸主。然而,最近,他们不仅仅满足于GPU,开始扩展到CPU市场,重新书写计算的未来。那么英伟达为什么要制造CPU,它在AI时代又意味着什么呢?让我们一起探讨。


1. 英伟达不是原本是GPU公司吗?与CPU有什么关系?

是的,没错。英伟达主要以GeForce(游戏用)和Quadro/RTX(专业用),以及最近的数据中心用A/H系列GPU而闻名。GPU以不同于CPU的方式处理运算。

  • CPU:专门处理顺序且复杂的单一任务,速度快且高效。(例如:操作系统运行,文档处理,网页浏览)

  • GPU:通过并行地同时运转数千个小核心,强大地处理简单但重复的大规模运算。(例如:图形渲染,物理模拟,以及人工智能学习/推理

长期以来,CPU和GPU相互补充,构成了计算机系统。CPU作为整个系统的“大脑”,而GPU像“专家”一样处理图形或需要特定并行运算的任务。

然而,随着人工智能(AI)时代的到来,它们的关系开始发生变化。AI任务需要学习大量数据并计算复杂的神经网络,几乎不可能在没有GPU的并行处理能力的情况下完成。英伟达很早就察觉到GPU的这种潜力,开发了CUDA这一并行计算平台,使GPU不仅仅是显卡,而是可以作为通用计算设备的道路。


2. GPU的局限性与CPU的必要性:数据移动的低效

GPU成为AI运算核心毋庸置疑,但CPU与GPU之间的数据移动仍然是造成瓶颈的原因。

  • CPU ↔ GPU数据传输:在AI模型的学习或推理过程中,CPU准备数据,GPU接收并运算后再将结果发送回CPU。这一数据移动过程消耗的时间和能源比想象中要多。CPU和GPU物理上相隔遥远,数据传输中使用的PCIe(PCI Express)等接口有时无法跟上GPU的惊人处理速度。

英伟达开始意识到,为了克服这些局限性并提供AI时代优化的计算解决方案,存在自家CPU的必要性。无论GPU多么出色,如果没有能够有效支持GPU并快速交换数据的CPU,整个系统的效率将不可避免地下降。


3. 英伟达的CPU登场:基于ARM的'Grace'处理器

英伟达没有直接开发x86 CPU,而是关注于功耗效率高且易于定制的ARM架构。并且在2022年,作为数据中心用的CPU,正式发布了'NVIDIA Grace(格蕾丝)',宣告进军CPU市场。

NVIDIA的GPU + CPU超级芯片在交换数据流的场景

  • 基于ARM Neoverse:Grace CPU是基于ARM服务器核心'Neoverse'设计的。这显示出英伟达采取了利用ARM经过验证的技术快速进入市场,而不是自己直接设计CPU核心的策略。

  • '超级芯片'战略的核心:Grace CPU的真正优势不仅在于单一CPU的性能,而是在与英伟达的GPU以'超级芯片'形式结合时所展现的强大能力。

    • Grace Hopper超级芯片:将Grace CPU与强大的H100 Hopper GPU通过名为NVLink-C2C的超高速互连连接起来。该连接提供的带宽(每秒900GB以上)远超现有的PCIe,能够最大限度地减少CPU与GPU之间的数据瓶颈。

    • Grace Blackwell超级芯片:结合最新的Blackwell GPU架构与Grace CPU,专为下一代AI和HPC(高性能计算)工作负载而设计。

这样的'超级芯片'战略展示了英伟达提供针对GPU运算优化的定制CPU,从而构建比将传统x86 CPU与英伟达 GPU分开使用的系统更加高效和强大的集成系统的愿景。


4. CPU市场的变动与未来展望

英伟达的Grace CPU的出现,为原本由x86(英特尔、AMD)与ARM(高通、苹果等)各占一方的CPU市场带来了新的竞争格局。

  • 面向AI时代的优化:英伟达专注于特化于AI和HPC工作负载的数据中心CPU,而非通用CPU市场。这是为应对全球爆炸性增长的AI计算需求而采取的策略。

  • 竞争与合作:英特尔和AMD在AI加速器市场与英伟达竞争,同时又处于必须继续开发与英伟达 GPU良好配合的x86 CPU的复杂关系当中。也有传言称,英伟达在某些情况下可能会利用英特尔的代工服务等,展现出在技术开发和市场竞争中出现的多种合作与竞争模式。

  • 集成解决方案的重要性:未来将不仅仅看个别组件的性能,而是CPU、GPU、内存、互连等能否有机集成,以优化特定工作负载的性能将变得更加重要。英伟达的'超级芯片'战略就是这种集成解决方案的一个典型例子。


总结

今天,我们探讨了GPU市场巨头英伟达为何进军CPU市场,以及通过'Grace' CPU和'超级芯片'战略如何改变AI时代的计算范式。可以看到,CPU与GPU在相互补充与发展的历史上,未来将朝向更紧密的结合与整合的方向不断推进。

英伟达的CPU挑战将带来什么样的结果与变化,传统x86强者将如何应对,最终AI计算的未来将会如何,值得关注。在下一篇文章中,我们将带来其他有趣的技术故事。感谢您!