25万一张的显卡决定AI智商
发布时间: 2023-10-24 10:35
你制作出的AI到底是人工智能,还是人工智障,主要要看你跑通AI的算力和AI大模型。3月1日,据研究机构TrendForce的测算,当红炸子鸡OpenAI推出的聊天机器人ChatGPT,本质是1800亿个参数的GPT-3.5大模型。跑好这个模型,需要的GPU芯片数量高达2万枚。

为此:微软Azure上部署了数万枚A100/H100高性能芯片。这是第一个采用英伟达高端GPU构建的大规模AI算力集群。

在业内,这一公认的说法是:1万枚英伟达A100芯片,是做好AI大模型的算力门槛。

一些AI领域企业家,甚至将他们获得的A100数量视为是否抢得先机的标志。

美国人工智能初创公司、参与开发Stable Diffusion的Stability AI首席执行官Emad Mostaque曾公开表示:

一年前,我们有32个A100。但我们梦想远大,继续买GPU吧! 目前,Stability AI的估值已经超过10亿美元。根据第三方统计,Stability AI现在可以使用的A100已经超过5400个。

现在广泛使用Stable Diffusion,AI生成的图片,已经开始威胁到职业画师

ChatGPT在1月的独立访客平均数 1300 万计算,其对应芯片需求为 3 万张英伟达 A100 GPU,初始投入成本约为8亿美元,每日电费在 5 万美元左右。而国内,拥有1万张GPU的企业,少之又少。

粤公网安备 44030502006483号、 粤ICP备15047669号
  • 捷易科技联系人