在之前的两篇文章中,我们深入探讨了CPU架构的历史(x86,x64)和ARM的崛起。今天,我们将讨论所有CPU故事的顶点,以及最近成为热点的公司,正是英伟达(NVIDIA)。
英伟达长期以来一直是GPU(图形处理单元)市场的绝对霸主。然而,最近,他们不仅仅满足于GPU,开始扩展到CPU市场,重新书写计算的未来。那么英伟达为什么要制造CPU,它在AI时代又意味着什么呢?让我们一起探讨。
1. 英伟达不是原本是GPU公司吗?与CPU有什么关系?
是的,没错。英伟达主要以GeForce(游戏用)和Quadro/RTX(专业用),以及最近的数据中心用A/H系列GPU而闻名。GPU以不同于CPU的方式处理运算。
-
CPU:专门处理顺序且复杂的单一任务,速度快且高效。(例如:操作系统运行,文档处理,网页浏览)
-
GPU:通过并行地同时运转数千个小核心,强大地处理简单但重复的大规模运算。(例如:图形渲染,物理模拟,以及人工智能学习/推理)
长期以来,CPU和GPU相互补充,构成了计算机系统。CPU作为整个系统的“大脑”,而GPU像“专家”一样处理图形或需要特定并行运算的任务。
然而,随着人工智能(AI)时代的到来,它们的关系开始发生变化。AI任务需要学习大量数据并计算复杂的神经网络,几乎不可能在没有GPU的并行处理能力的情况下完成。英伟达很早就察觉到GPU的这种潜力,开发了CUDA这一并行计算平台,使GPU不仅仅是显卡,而是可以作为通用计算设备的道路。
2. GPU的局限性与CPU的必要性:数据移动的低效
GPU成为AI运算核心毋庸置疑,但CPU与GPU之间的数据移动仍然是造成瓶颈的原因。
- CPU ↔ GPU数据传输:在AI模型的学习或推理过程中,CPU准备数据,GPU接收并运算后再将结果发送回CPU。这一数据移动过程消耗的时间和能源比想象中要多。CPU和GPU物理上相隔遥远,数据传输中使用的PCIe(PCI Express)等接口有时无法跟上GPU的惊人处理速度。
英伟达开始意识到,为了克服这些局限性并提供AI时代优化的计算解决方案,存在自家CPU的必要性。无论GPU多么出色,如果没有能够有效支持GPU并快速交换数据的CPU,整个系统的效率将不可避免地下降。
3. 英伟达的CPU登场:基于ARM的'Grace'处理器
英伟达没有直接开发x86 CPU,而是关注于功耗效率高且易于定制的ARM架构。并且在2022年,作为数据中心用的CPU,正式发布了'NVIDIA Grace(格蕾丝)',宣告进军CPU市场。
-
基于ARM Neoverse:Grace CPU是基于ARM服务器核心'Neoverse'设计的。这显示出英伟达采取了利用ARM经过验证的技术快速进入市场,而不是自己直接设计CPU核心的策略。
-
'超级芯片'战略的核心:Grace CPU的真正优势不仅在于单一CPU的性能,而是在与英伟达的GPU以'超级芯片'形式结合时所展现的强大能力。
-
Grace Hopper超级芯片:将Grace CPU与强大的H100 Hopper GPU通过名为NVLink-C2C的超高速互连连接起来。该连接提供的带宽(每秒900GB以上)远超现有的PCIe,能够最大限度地减少CPU与GPU之间的数据瓶颈。
-
Grace Blackwell超级芯片:结合最新的Blackwell GPU架构与Grace CPU,专为下一代AI和HPC(高性能计算)工作负载而设计。
-
这样的'超级芯片'战略展示了英伟达提供针对GPU运算优化的定制CPU,从而构建比将传统x86 CPU与英伟达 GPU分开使用的系统更加高效和强大的集成系统的愿景。
4. CPU市场的变动与未来展望
英伟达的Grace CPU的出现,为原本由x86(英特尔、AMD)与ARM(高通、苹果等)各占一方的CPU市场带来了新的竞争格局。
-
面向AI时代的优化:英伟达专注于特化于AI和HPC工作负载的数据中心CPU,而非通用CPU市场。这是为应对全球爆炸性增长的AI计算需求而采取的策略。
-
竞争与合作:英特尔和AMD在AI加速器市场与英伟达竞争,同时又处于必须继续开发与英伟达 GPU良好配合的x86 CPU的复杂关系当中。也有传言称,英伟达在某些情况下可能会利用英特尔的代工服务等,展现出在技术开发和市场竞争中出现的多种合作与竞争模式。
-
集成解决方案的重要性:未来将不仅仅看个别组件的性能,而是CPU、GPU、内存、互连等能否有机集成,以优化特定工作负载的性能将变得更加重要。英伟达的'超级芯片'战略就是这种集成解决方案的一个典型例子。
总结
今天,我们探讨了GPU市场巨头英伟达为何进军CPU市场,以及通过'Grace' CPU和'超级芯片'战略如何改变AI时代的计算范式。可以看到,CPU与GPU在相互补充与发展的历史上,未来将朝向更紧密的结合与整合的方向不断推进。
英伟达的CPU挑战将带来什么样的结果与变化,传统x86强者将如何应对,最终AI计算的未来将会如何,值得关注。在下一篇文章中,我们将带来其他有趣的技术故事。感谢您!
目前没有评论。