华为云推出柔性智算FlexNPU 有效降低Token成本
本站3月22日消息,据媒体报道,华为云在中小企业AI解决方案发布会上推出了一项算力黑科技——柔性智算操作系统FlexNPU,将Token消耗这一“吞金兽”有效控制在企业预算范围内,打造面向Agentic时代的极致Token性价比,为企业级智能体的普及突破算力瓶颈。
据介绍,在AI基础设施层,华为云提供昇腾多代系产品及自研的AI Infra OS,其中FlexNPU柔性智算技术既能满足中小企业小模型训练场景的需求,又可通过弹性调度大幅提升资源利用率。
在模型服务层,华为云支持业界主流开源模型,让企业既可灵活选择适配业务需求的模型,也能结合自有数据低成本微调专属模型。

在智能体平台层,华为云提供易用高效的Agent开发环境,助力开发者和中小企业面向行业场景打造企业级智能体。在智能体应用层,华为云联合伙伴深入洞察分析、营销运营、协同办公、开发运维、内容制作等高频应用场景。
“我们的推理池平均利用率竟然不足30%,花费重金建设、动辄数万、数十万卡的AI硬件算力池,竟有超过一半以上的算力在‘摸鱼、吃空饷’。”华为云首席架构师、华为公司Fellow顾炯炯在现场抛出了一组惊人数据。
他指出,Agent时代企业普遍面临算力痛点:Agent自主规划、多轮迭代、长上下文导致Token消耗量呈指数级增长,如何有效降低Token成本,已成为最核心和迫切的挑战。

为此,华为云发布了柔性智算FlexNPU,通过构筑强大而灵活的AI Infra层算力调度技术,大幅提升推理池的有效算力利用率,从而以相同的AI硬件算力投入,提供更大的Token吞吐输出。
顾炯炯用“可大可小、变化随心”的如意金箍棒来形容FlexNPU,表示FlexNPU赋予NPU或GPU算力“柔性或液态化”供给与伸缩的能力,可依据任意业务需求动态变化、随需而动,通过最大化AI算力投入的利用率,最终实现Token性价比的最优化。
具体而言,柔性智算FlexNPU具备极致共享、极致弹性和极致高可用三大属性。在大模型推理方面,FlexNPU通过引入基于柔性算力的PD动态混部、在离线推理混部等创新技术,解决了传统PD分离架构下Prefill和Decode集群不均衡的AI Core与显存利用率,以及推理业务潮汐变化规律所导致的大量AI算力空转浪费问题,带来至少40%的Token性价比提升。
在小模型推理方面,FlexNPU通过实现最小粒度达1% NPU卡及128MB显存的AI Core时分复用与显存空分复用,为小模型提供完美匹配其算力诉求、量体裁衣的虚拟NPU资源,将小模型的平均算力成本降低2至3倍以上。
在推理高可用保障方面,FlexNPU通过软硬解耦及Token级KV Cache的实时快照,使上层推理框架无需感知底层硬件故障,即可实现故障秒级快速恢复及断点续推,大幅减少Agent推理会话的重计算开销,提升用户推理体验。

推荐系统
雨林木风 winxp下载 纯净版 永久激活 winxp ghost系统 sp3 系统下载
系统大小:0MB系统类型:WinXP雨林木风在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业知名品牌,雨林木风WindowsXP其系统口碑得到许多人认可,积累了广大的用户群体,是一款稳定流畅的系统,雨林木风 winxp下载 纯净版 永久激活 winxp ghost系统 sp3 系统下载,有需要的朋友速度下载吧。
系统等级:进入下载 >萝卜家园win7纯净版 ghost系统下载 x64 联想电脑专用
系统大小:0MB系统类型:Win7萝卜家园win7纯净版是款非常纯净的win7系统,此版本优化更新了大量的驱动,帮助用户们进行舒适的使用,更加的适合家庭办公的使用,方便用户,有需要的用户们快来下载安装吧。
系统等级:进入下载 >雨林木风xp系统 xp系统纯净版 winXP ghost xp sp3 纯净版系统下载
系统大小:1.01GB系统类型:WinXP雨林木风xp系统 xp系统纯净版 winXP ghost xp sp3 纯净版系统下载,雨林木风WinXP系统技术积累雄厚深耕多年,采用了新的系统功能和硬件驱动,可以更好的发挥系统的性能,优化了系统、驱动对硬件的加速,加固了系统安全策略,运行环境安全可靠稳定。
系统等级:进入下载 >萝卜家园win10企业版 免激活密钥 激活工具 V2023 X64位系统下载
系统大小:0MB系统类型:Win10萝卜家园在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业的萝卜家园品牌,(win10企业版,win10 ghost,win10镜像),萝卜家园win10企业版 免激活密钥 激活工具 ghost镜像 X64位系统下载,其系统口碑得到许多人认可,积累了广大的用户群体,萝卜家园win10纯净版是一款稳定流畅的系统,一直以来都以用户为中心,是由萝卜家园win10团队推出的萝卜家园
系统等级:进入下载 >萝卜家园windows10游戏版 win10游戏专业版 V2023 X64位系统下载
系统大小:0MB系统类型:Win10萝卜家园windows10游戏版 win10游戏专业版 ghost X64位 系统下载,萝卜家园在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业的萝卜家园品牌,其系统口碑得到许多人认可,积累了广大的用户群体,萝卜家园win10纯净版是一款稳定流畅的系统,一直以来都以用户为中心,是由萝卜家园win10团队推出的萝卜家园win10国内镜像版,基于国内用户的习惯,做
系统等级:进入下载 >windows11下载 萝卜家园win11专业版 X64位 V2023官网下载
系统大小:0MB系统类型:Win11萝卜家园在系统方面技术积累雄厚深耕多年,windows11下载 萝卜家园win11专业版 X64位 官网正式版可以更好的发挥系统的性能,优化了系统、驱动对硬件的加速,使得软件在WINDOWS11系统中运行得更加流畅,加固了系统安全策略,WINDOWS11系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。
系统等级:进入下载 >
相关文章
- 期待已久!Windows 11任务栏支持自定义位置了:桌面上下左右都能放
- 微软宣布Windows 11不再强制更新:完全由用户来决定 最大程度减少干扰
- 用户呼声听到了!微软:将大幅提升Windows 11性能和可靠性 允许无限期暂停更新
- 微信宣布推出官方龙虾插件ClawBot!支持接入OpenClaw 发个消息就能调用
- 百度网盘全新升级:一键部署AI小龙虾 开箱即用
- 微软承诺提升Win11性能:速度更快 内存更少 AI也要精简
- Win11口碑下滑 微软开始反思:快来告诉我们错在哪了
- 老外担心中国大模型也学OpenAI闭源 智谱回应:别慌 会继续开源
- Windows 11又出问题!微软确认:新补丁致软件无法联网登录
- Windows 11最特别版本!微软透露更多信息
- MacBook Neo虚拟机跑Win11应用:竟比Windows PC更出色!
- 高通发布显卡新驱动:竟包含1993年老游戏修复!
- 根治流氓/病毒软件 谷歌对安卓出重拳:冷静24小时后才能装第三方应用
- 波及Windows 10/11等多个版本!工信部NVDB通报远程桌面高危漏洞
热门系统
推荐软件
推荐应用
推荐游戏
热门文章
常用系统
- 1Windows11旗舰版下载 风林火山x64位 ghost系统 惠普笔记本专用下载
- 2Windows11 24H2 X64 纯净精简版
- 3雨林木风win7最新专业版 x64位下载 尝鲜装机版 ghost系统下载 v2023
- 4番茄花园windows7专业版 Ghost镜像 X64位 V2022.04下载
- 5技术员联盟Win10旗舰版 ghost iso win10镜像官网 v2022.07 下载
- 6系统之家win7旗舰版 x86高速版下载 无需激活码 iso镜像下载
- 7系统之家win7游戏版 x64位装机版下载 无需激活码 iso镜像下载 v2023
- 8深度技术 GHOST WIN10 X64 通用正式版
- 9萝卜家园win10旗舰版GHOST X64位 V2022.05系统下载





















