国内企业:需进一步增强软件及系统能力
发布时间: 2023-10-24 10:35

国内企业:需进一步增强软件及系统能力

虽然ChatGPT还没有进入盈利阶段,但英伟达已经成为第一波吃到红利的企业。为处于下行周期的半导体产业增添了一丝亮色。在北京时间2月23日凌晨的财报发布中,英伟达创始人兼首席执行官黄仁勋表示,从初创公司到大型企业,对于生成式AI的多功能性与能力的兴趣越来越浓厚。英伟达将帮助客户从生成式AI 和大型语言模型技术的突破中获取优势。

ai人工智能a_1920X1080_高清视频素材下载(编号:3849006)_实拍视频_光厂(VJ师网) www.vjshi.com

英伟达在AI芯片的先发优势和占比优势,固然有硬件性能的原因,但更关键的是软件生态的加持。在21世纪初,GPU的并行计算能力引起了学术界和产业界的关注。但是,开发者想要调用英伟达GPU的计算能力进行图形处理以外的任务,必须编写大量的底层语言代码,这对于习惯高级语言的程序员极其不便。2006年,英伟达推出CUDA平台,支持开发者用熟悉的高级程序语言进行编程,灵活调用GPU的算力。自此,GPU的使用范围不再局限于显卡,而是扩展到所有适合并行计算的领域。GPU与CUDA组成的软硬件系统,形成了英伟达的产品壁垒。

近年来,国内AI芯片企业在架构创新、算力性能、平台方案等领域涌现出一系列成果,但仍然需要在软件、系统和生态层面进一步向国际领先企业看齐。赵立东表示,针对大模型对于AI芯片的需求,芯片厂商一方面通过拆解大模型的系统级需求,快速迭代下一代芯片,从底层提升性能和支持效率。另一方面,要基于既有的芯片打造系统级方案,通过软件升级解决大模型加速遇到的内存容量小、通信占比高等核心痛点问题。

“要对标国际领先的AI芯片厂商,需要在三个层面开发优化:一是芯片升级,在算力、内存、微架构等层面针对大模型计算做优化;二是软件升级,从传统的单卡以及单机多卡为主的支持能力拓展至万卡级别大集群支持,有效提供面向大模型支持的分布式计算、混合并行、内存优化等整体软件方案;三是系统方案,以AI芯片为核心,结合计算、存储、网络打造深度优化的系统级方案,面向大模型提供极致的性能和成本优势。”

粤公网安备 44030502006483号、 粤ICP备15047669号
  • 捷易科技联系人