为此:微软Azure上部署了数万枚A100/H100高性能芯片。这是第一个采用英伟达高端GPU构建的大规模AI算力集群。
在业内,这一公认的说法是:1万枚英伟达A100芯片,是做好AI大模型的算力门槛。
一些AI领域企业家,甚至将他们获得的A100数量视为是否抢得先机的标志。
美国人工智能初创公司、参与开发Stable Diffusion的Stability AI首席执行官Emad Mostaque曾公开表示:
一年前,我们有32个A100。但我们梦想远大,继续买GPU吧! 目前,Stability AI的估值已经超过10亿美元。根据第三方统计,Stability AI现在可以使用的A100已经超过5400个。
现在广泛使用Stable Diffusion,AI生成的图片,已经开始威胁到职业画师
以ChatGPT在1月的独立访客平均数 1300 万计算,其对应芯片需求为 3 万张英伟达 A100 GPU,初始投入成本约为8亿美元,每日电费在 5 万美元左右。而国内,拥有1万张GPU的企业,少之又少。