編輯:华为发布AI新技术:单卡同时承载多AI工作负载 提升硬件资源利用率 發(fā)布時間:2026-03-03 17:19:04 閱讀量:188
华为发布AI新技术:单卡同时承载多AI工作负载 提升硬件资源利用率體育·APP,??六合生七星??現(xiàn)在下載安裝,周周送518。是業(yè)內(nèi)權(quán)威平臺,提供安卓、IOS、平臺app(客戶端)下載,讓您擁有多種游戲不同體驗,歡迎加入!
相關(guān)推薦: 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.
11月21日消息,发布负载据媒体报道,新技华为今日正式发布Flex:ai AI容器软件。术单时承该产品的卡同核心突破在于运用算力切分技术,可将单张GPU/NPU算力卡精细切分为多个虚拟算力单元,载多资源最小粒度精准至10%。工作
这一创新使得单张算力卡能够同时承载多个AI工作负载,提升显著提升硬件资源利用率。硬件
同时,利用率Flex:ai能够将集群内各计算节点的发布负载空闲XPU算力进行高效聚合,形成统一的新技“共享算力池”,实现算力资源的术单时承全局调度与灵活分配。
其核心技术原理是卡同一套深度融合软硬件的系统工程,覆盖从底层芯片到顶层调度。载多资源通过创新性的工作软件技术深度挖掘硬件潜力,F(xiàn)lex:ai成功将GPU/NPU的典型利用率从30%-40%提升至70%,有效践行了“以软件补硬件”的理念。
在硬件协同方面,Flex:ai深度整合华为自研的昇腾AI处理器,通过软硬件协同设计优化,实现了最佳的性能功耗比。
特别在大模型训练场景中,F(xiàn)lex:ai通过软件层面的创新,实现了对包括英伟达GPU、昇腾NPU在内的多种异构算力资源的统一管理与调度,有效解决了当前大模型训练面临的算力效率瓶颈问题。
?据悉,Flex:ai将在发布后同步开源在魔擎社区中,以促进技术共享与生态发展。
