近年来，随着深度学习和人工智能技术的不断发展，高性能显卡的需求呈现爆炸性增长。许多科技巨头和创业公司为了走在AI研究的前沿，都在竞相扩展其显卡资源。本文将带您深入探索全球主要厂商在2023年中旬所拥有的GPU数量，并揭露训练当前先进AI模型如GPT-3和LLaMA2所需的硬件规模。

1. H100显卡：行业的黄金标准

英伟达的H100无疑是当今全球最强大的显卡之一，与其前身A100相比，H100在16-bit训练和推理上分别达到了2.3倍和3.5倍的性能提升。这种巨大的计算能力，使其成为许多大型模型训练的首选。

除了单一的H100 GPU，市场上还有其他基于H100的服务器解决方案，如HGX H100和DGX H100。其中，HGX H100是Nvidia的参考平台，允许OEM厂商根据需求构建4或8块GPU的服务器，而DGX H100则是Nvidia官方供应的8块GPU的服务器。此外，还有配备了英伟达自家Grace CPU的GH200以及预计于2023年底发布的DGX GH200。

2. GPU：AI模型训练的核心动力