NVIDIA的A100 Tensor Core GPU以其卓越的性能，在各种规模下实现了前所未有的加速，为全球最高性能的人工智能、数据分析和高性能计算弹性数据中心提供了强大动力。A100由NVIDIA Ampere架构支持，是NVIDIA数据中心平台的引擎。相较上一代产品，A100的性能提升了20倍，而且可以划分为7个GPU实例，以适应不断变化的需求。A100 80GB版本推出了世界上最快的内存带宽，每秒超过2TB/s，能够运行最大的模型和数据集。 通过与NVIDIA NVSwitch完全连接，第三代NVIDIA NVSwitch基于NVLink的高级通信功能，为计算密集型工作负载提供了更高的带宽和更短的延迟。每个NVSwitch配备了64个NVLink端口，支持NVIDIA可扩展分层聚合减少协议(SHARP)的引擎，用于网络内减少和多播加速。 利用NVLink交换机系统的扩展性，可以按比例放大以训练万亿参数模型。通过NVSwitch，NVLink连接可以跨节点扩展，创造出高带宽、多节点GPU集群，实现了无缝连接，使得数据中心大小的GPU集成成为可能。通过在服务器外部添加第二层NVLink交换机，未来的NVLink交换机系统可以连接多达256个GPU，提供高达57.6TB/s的所有到所有带宽，从而使得快速处理甚至最大的人工智能作业成为可能。