AI: 英伟达超级AI芯片内部结构

人工智能应用程序即将得到大幅度的计算能力提升。上周一，芯片巨头英伟达（Nvidia）宣布了其新的DGX GH200 AI超级计算机，该计算机由其GH200 Grace Hopper超级芯片供电。由于AI需求的增加，Nvidia的股价近乎翻了两倍，超过400美元。这一切都包含了许多的字母、数字和超级。

让我们解析一下。在与记者的视频会议中，Nvidia的一位高管表示，新的超级计算机将通过其更大的内存和更大规模的模型能力，启用下一代生成型AI应用。超级计算机将拥有近500倍于Nvidia早期DGX A100系统的内存——大约144太字节（1太字节是1万亿字节）。这将允许开发者构建更好的AI聊天机器人语言模型、复杂的推荐算法，以及更有效的欺诈检测和数据分析。

GH200使用两种类型的逻辑芯片：作为PC和服务器主要计算大脑的中央处理单元（CPU），以及长期以来是Nvidia优势且对图形、视频游戏和AI计算至关重要的图形处理单元（GPU）。DGX GH200整合了256个GH200 Grace Hopper超级芯片，每个芯片都有一个GPU；而DGX A100只有8个GPU。超级芯片将Nvidia的“Grace” CPU和“Hopper” GPU集成到一个包装中，以提高速度和效率。

Nvidia表示，Alphabet、Meta Platforms和Microsoft将是首批获得DGX GH200使用权的公司。这些超级芯片现在正在生产中，超级计算机应该在今年年底前可用。Nvidia没有透露其价格。

What is Nvidia grace?

Higher Performance and Faster Memory—Massive Bandwidth for Compute Efficiency. The NVIDIA GH200 Grace™ Hopper™ Superchip is a breakthrough accelerated CPU designed from the ground up for giant-scale AI and high-performance computing (HPC) applications. 

What is Nvidia Hopper?

Hopper is a graphics processing unit (GPU) microarchitecture developed by Nvidia. It is designed for datacenters and is parallel to Ada Lovelace. Hopper. Launched. September 20, 2022.

 

What is the spec of Nvidia Grace Hopper?

 

The NVIDIA Grace CPU provides up to 512 GB of LPDDR5X memory, which delivers the optimal balance between memory capacity, energy efficiency, and performance. It supplies up to 546 GB/s of LPDDR5X memory bandwidth, which NVLink-C2C makes accessible to the GPU at 900 GB/s total bandwidth.Nov 10, 2022

 

---------------------

 

英伟达的DGX GH200 AI超级计算机代表了AI应用的计算能力的重大突破，这得益于使用英伟达的GH200 Grace Hopper超级芯片。

DGX GH200超级计算机的设计目的是为了推动下一代生成型AI应用的发展。它通过大幅度提高内存和大规模模型处理能力来实现这一点。这台新的超级计算机拥有比英伟达之前的DGX A100系统多近500倍的内存，总共有144太字节（一太字节等于一万亿字节）。这个庞大的内存容量将使开发者能够构建更高级的AI聊天机器人语言模型、更复杂的推荐算法，以及更有效的欺诈检测和数据分析工具。

GH200超级计算机使用了中央处理单元（CPU）和图形处理单元（GPU）的组合。CPU是PC和服务器的主要计算核心，而GPU则是英伟达长期以来的优势所在，对于图形、视频游戏和AI计算至关重要。DGX GH200整合了总共256个GH200 Grace Hopper超级芯片，每个芯片都装备了一个GPU，大大超过了DGX A100的8个GPU。这个超级芯片将英伟达的"Grace" CPU和"Hopper" GPU整合到一个包装中，提高了速度和效率。

包括Alphabet、Meta Platforms和Microsoft在内的公司将是首批获得DGX GH200使用权的公司。这款超级计算机目前正在生产中，预计将在今年年底前推出。目前为止，英伟达还没有公开这款强大机器的价格。