架构/算力/软件/应用全面突破,安谋科技Arm China用“周易”X3破局端侧AI
2026-07-10 17:29:15 [热点] 来源:邢台宏迪聚氨酯材料有限公司
电子发烧友网报道(文/吴子鹏)当前,周易全球端侧AI市场正呈现爆发式增长。架构根据弗若斯特沙利文的算力统计数据,全球端侧AI市场规模预计将从2024年的软件3219亿元增长至2029年的12230亿元,复合年增长率高达39.6%。应用用然而,全面当大模型从云端向端侧渗透,突破算力瓶颈、安谋能效矛盾、科技开发门槛成为制约端侧AI行业前进的破局三重枷锁。
为帮助行业破解这一难题,端侧国内领先的周易芯片IP设计与服务提供商安谋科技(中国)有限公司(以下简称“安谋科技ArmChina”)于近日正式发布了新一代NPU IP——“周易”X3。该产品采用专为大模型打造的架构最新DSP+DSA架构,不仅聚焦硬件性能的算力飞跃,更通过软硬协同与生态开放,软件重新定义了端侧AI计算效率,为基础设施、智能汽车、移动终端、智能物联网四大领域带来前所未有的AI计算体验。

安谋科技Arm China产品研发副总裁刘浩表示:“在‘All in AI’产品战略的指引下,我们将持续加大投入,以前瞻性视野整合顶尖研发资源,秉持开放合作理念,为生态伙伴提供业界领先的从硬件、软件到服务的端到端解决方案,全力赋能伙伴的产品创新和商业化落地。”
安谋科技Arm China产品研发副总裁刘浩
为解决这些产业难题,“周易”X3 NPU IP应运而生,旨在打造端侧AI计算效率的新标杆。“周易”X3采用专为大模型打造的DSP+DSA融合架构,突破了传统NPU架构的局限——纯DSA架构虽能高效处理固定算法,但面对大模型的灵活迭代易陷入“硬管道”困境,而DSP的加入有效弥补了通用计算的短板。同时,“周易”X3的架构也兼顾了CNN与Transformer的通用架构,支持全算力类型并增强浮点运算FLOPS,助力实现从定点到浮点计算的关键转变。
在架构创新方面,“周易”X3还集成了自研解压硬件WDC,通过软件无损压缩+硬件解压的方式,可额外获得15%-20%的等效带宽;配合W4A8/W4A16计算加速模式,有效破解了端侧大模型的带宽消耗难题;通过集成AI专属硬件引擎AIFF(AI Fixed-Function)与专用硬化调度器,将CPU负载压低至0.5%,确保多任务场景下的低延迟响应;支持int4/int8/int16/int32/fp4/fp8/fp16/bf16/fp32多精度融合计算及强浮点计算,可灵活适配智能手机边缘部署、AI PC推理、智能汽车等从传统CNN到前沿大模型的数据类型需求,实现性能与能效的平衡。
谈及W4A8/W4A16计算加速模式创新,安谋科技Arm China产品总监鲍敏祺形象地比喻道:“W4A8/W4A16是混合量化策略,旨在平衡模型精度与计算效率,通过降低权重的比特数来减少显存占用,同时保持激活值较高的精度以最小化推理误差。如果W4A16计算是1秒输出,那么到了W4A8就可能是600毫秒输出。因为在保证精度的前提下,‘A’(即Activation,激活值)的数值降低了,就相当于算力翻倍。当然,端侧需优先定义可用模型,再解决系统问题——早期端侧聚焦1B-3B模型,但7B模型才具备实用价值。当端侧要承载更大参数规模的AI模型(比如从3B扩大到7B),‘W’(即Weight,权重)也要随之降低,安谋科技Arm China也在协同合作伙伴着力优化W2A8,以支持7B模型在手机等终端部署,而保证精度是前提。”
安谋科技Arm China产品总监鲍敏祺
这些创新为“周易”X3带来了显著的性能提升:“周易”X3单Cluster支持8-80 FP8 TFLOPS算力灵活配置,单Core带宽高达256GB/s。相较于“周易”X2产品,“周易”X3的CNN模型性能提升30%~50%,多核算力线性度达到70%~80%;在同算力规格下,AIGC大模型能力较上一代产品实现10倍增长。实测数据显示,在Llama2 7B大模型中,Prefill阶段算力利用率达72%,Decode阶段在自研解压硬件WDC加持下,有效带宽利用率超100%。

对此,鲍敏祺指出:“‘周易’X3遵循‘软硬协同、全周期服务与成就客户’的产品准则,提供从硬件、软件到售后服务的全链路支持,以前瞻性设计、专业团队交付与深度服务投入,全面助力客户产品成功与商业化落地。”
Compass AI软件平台实现了从模型导入到部署的端到端支持,兼容TensorFlow、ONNX、PyTorch等主流AI框架,覆盖超160种算子与270多种模型,提供开箱即用的Model Zoo。其创新的Hugging Face模型“一键部署”功能,让开发者无需复杂适配即可实现大模型的端侧落地,大幅缩短开发周期。

针对大模型的动态特性,Compass AI平台具备业界领先的动态Shape支持能力,可高效处理任意长度输入序列;同时支持GPTQ等主流量化方案及Tensor/Channel/Token Level多样量化方式,配合Bit精度软件仿真平台,让开发者在平衡性能与精度时更具灵活性。丰富的调试工具与白盒部署能力,更满足了深度开发场景下的定制需求。
同时,安谋科技Arm China深知生态的核心在于“开放”,已将Compass AI平台的Parser、Optimizer、LinuxDriver等核心组件开放,成为行业内少数开放量化能力的厂商。通过支持DSL算子编程语言,客户可自主开发自定义算子或打造专属模型编译器,实现差异化创新。这种“开放”的策略,既降低了中小开发者的入门门槛,也为大客户提供了深度定制的空间。
安谋科技Arm China NPU产品线负责人兼首席架构师舒浩博士总结道:“‘周易’X3的产品优势,源于通用、灵活、高效且软硬协同的系统架构设计,这一设计使其兼具广泛的行业适用性与灵活的边端侧AI应用场景匹配能力。”
安谋科技Arm China NPU产品线负责人兼首席架构师舒浩博士
在基础设施领域,其支持CNN与大模型的混合加速,为边缘计算节点与加速卡提供核心算力,成为数据中心算力的重要补充;在智能汽车领域,“周易”X3既可以在ADAS系统中为自动泊车等辅助驾驶功能提供高性能AI算力支持,也可以在IVI(车载信息娱乐系统)中支持基于语音与车内外视频图像输入的智能互动;在移动终端方面,可在AI PC与AI手机上实现超分渲染与AI Agent应用,让端侧多模态交互更流畅;在智能物联网领域,通过本地AI推理提升智能网关、IPC等设备的响应速度,兼顾实时性与隐私保护。
从产品家族演进来看,“周易”系列已形成从Z1到X3的完整布局,覆盖从入门级AIoT到高端智能设备的全场景需求。现场展示的DeepSeek-R1-Distill-Qwen-1.5B文生文、Stable Diffusion v1.5文生图等Demo,直观呈现了端侧大模型的落地效果。
为帮助行业破解这一难题,端侧国内领先的周易芯片IP设计与服务提供商安谋科技(中国)有限公司(以下简称“安谋科技ArmChina”)于近日正式发布了新一代NPU IP——“周易”X3。该产品采用专为大模型打造的架构最新DSP+DSA架构,不仅聚焦硬件性能的算力飞跃,更通过软硬协同与生态开放,软件重新定义了端侧AI计算效率,为基础设施、智能汽车、移动终端、智能物联网四大领域带来前所未有的AI计算体验。

安谋科技Arm China产品研发副总裁刘浩表示:“在‘All in AI’产品战略的指引下,我们将持续加大投入,以前瞻性视野整合顶尖研发资源,秉持开放合作理念,为生态伙伴提供业界领先的从硬件、软件到服务的端到端解决方案,全力赋能伙伴的产品创新和商业化落地。”
安谋科技Arm China产品研发副总裁刘浩技术突破:DSP+DSA架构实现端侧AI计算效能跃升
随着生成式AI(AIGC)和大模型技术的快速发展,智能手机、AI PC、智能汽车等端侧设备对AI能力的需求正呈爆发式增长。然而,端侧AI的核心痛点在于“有限资源承载复杂计算”。此外,在半导体IP领域,“面向未来5年的产品方向进行前瞻布局”已成为行业共识,这让IC设计人员在定义下一代端侧AI计算芯片时面临极大挑战。为解决这些产业难题,“周易”X3 NPU IP应运而生,旨在打造端侧AI计算效率的新标杆。“周易”X3采用专为大模型打造的DSP+DSA融合架构,突破了传统NPU架构的局限——纯DSA架构虽能高效处理固定算法,但面对大模型的灵活迭代易陷入“硬管道”困境,而DSP的加入有效弥补了通用计算的短板。同时,“周易”X3的架构也兼顾了CNN与Transformer的通用架构,支持全算力类型并增强浮点运算FLOPS,助力实现从定点到浮点计算的关键转变。
在架构创新方面,“周易”X3还集成了自研解压硬件WDC,通过软件无损压缩+硬件解压的方式,可额外获得15%-20%的等效带宽;配合W4A8/W4A16计算加速模式,有效破解了端侧大模型的带宽消耗难题;通过集成AI专属硬件引擎AIFF(AI Fixed-Function)与专用硬化调度器,将CPU负载压低至0.5%,确保多任务场景下的低延迟响应;支持int4/int8/int16/int32/fp4/fp8/fp16/bf16/fp32多精度融合计算及强浮点计算,可灵活适配智能手机边缘部署、AI PC推理、智能汽车等从传统CNN到前沿大模型的数据类型需求,实现性能与能效的平衡。
谈及W4A8/W4A16计算加速模式创新,安谋科技Arm China产品总监鲍敏祺形象地比喻道:“W4A8/W4A16是混合量化策略,旨在平衡模型精度与计算效率,通过降低权重的比特数来减少显存占用,同时保持激活值较高的精度以最小化推理误差。如果W4A16计算是1秒输出,那么到了W4A8就可能是600毫秒输出。因为在保证精度的前提下,‘A’(即Activation,激活值)的数值降低了,就相当于算力翻倍。当然,端侧需优先定义可用模型,再解决系统问题——早期端侧聚焦1B-3B模型,但7B模型才具备实用价值。当端侧要承载更大参数规模的AI模型(比如从3B扩大到7B),‘W’(即Weight,权重)也要随之降低,安谋科技Arm China也在协同合作伙伴着力优化W2A8,以支持7B模型在手机等终端部署,而保证精度是前提。”
安谋科技Arm China产品总监鲍敏祺这些创新为“周易”X3带来了显著的性能提升:“周易”X3单Cluster支持8-80 FP8 TFLOPS算力灵活配置,单Core带宽高达256GB/s。相较于“周易”X2产品,“周易”X3的CNN模型性能提升30%~50%,多核算力线性度达到70%~80%;在同算力规格下,AIGC大模型能力较上一代产品实现10倍增长。实测数据显示,在Llama2 7B大模型中,Prefill阶段算力利用率达72%,Decode阶段在自研解压硬件WDC加持下,有效带宽利用率超100%。

创新亮点:软硬协同,破解端侧AI开发痛点
“周易”X3不仅在硬件上实现突破,还配套了完善易用的“周易”Compass AI软件平台。通过“软硬一体”的协同设计,让开发者从“能用”到“好用”,显著提升开发部署效率,破解端侧AI行业“适配难、周期长、门槛高”的痛点。对此,鲍敏祺指出:“‘周易’X3遵循‘软硬协同、全周期服务与成就客户’的产品准则,提供从硬件、软件到售后服务的全链路支持,以前瞻性设计、专业团队交付与深度服务投入,全面助力客户产品成功与商业化落地。”
Compass AI软件平台实现了从模型导入到部署的端到端支持,兼容TensorFlow、ONNX、PyTorch等主流AI框架,覆盖超160种算子与270多种模型,提供开箱即用的Model Zoo。其创新的Hugging Face模型“一键部署”功能,让开发者无需复杂适配即可实现大模型的端侧落地,大幅缩短开发周期。

针对大模型的动态特性,Compass AI平台具备业界领先的动态Shape支持能力,可高效处理任意长度输入序列;同时支持GPTQ等主流量化方案及Tensor/Channel/Token Level多样量化方式,配合Bit精度软件仿真平台,让开发者在平衡性能与精度时更具灵活性。丰富的调试工具与白盒部署能力,更满足了深度开发场景下的定制需求。
同时,安谋科技Arm China深知生态的核心在于“开放”,已将Compass AI平台的Parser、Optimizer、LinuxDriver等核心组件开放,成为行业内少数开放量化能力的厂商。通过支持DSL算子编程语言,客户可自主开发自定义算子或打造专属模型编译器,实现差异化创新。这种“开放”的策略,既降低了中小开发者的入门门槛,也为大客户提供了深度定制的空间。
安谋科技Arm China NPU产品线负责人兼首席架构师舒浩博士总结道:“‘周易’X3的产品优势,源于通用、灵活、高效且软硬协同的系统架构设计,这一设计使其兼具广泛的行业适用性与灵活的边端侧AI应用场景匹配能力。”
安谋科技Arm China NPU产品线负责人兼首席架构师舒浩博士应用场景:从“可用”到“好用”的端侧AI革命
“周易”X3的产品定位精准覆盖基础设施、智能汽车、移动终端、智能物联网四大核心领域,将算力转化为实实在在的应用价值。在基础设施领域,其支持CNN与大模型的混合加速,为边缘计算节点与加速卡提供核心算力,成为数据中心算力的重要补充;在智能汽车领域,“周易”X3既可以在ADAS系统中为自动泊车等辅助驾驶功能提供高性能AI算力支持,也可以在IVI(车载信息娱乐系统)中支持基于语音与车内外视频图像输入的智能互动;在移动终端方面,可在AI PC与AI手机上实现超分渲染与AI Agent应用,让端侧多模态交互更流畅;在智能物联网领域,通过本地AI推理提升智能网关、IPC等设备的响应速度,兼顾实时性与隐私保护。
从产品家族演进来看,“周易”系列已形成从Z1到X3的完整布局,覆盖从入门级AIoT到高端智能设备的全场景需求。现场展示的DeepSeek-R1-Distill-Qwen-1.5B文生文、Stable Diffusion v1.5文生图等Demo,直观呈现了端侧大模型的落地效果。
结语
“周易”X3 NPU IP的发布,不仅是安谋科技Arm China技术实力的体现,更是端侧AI规模化部署的关键一步。通过软硬协同、前瞻布局和生态开放,它有望推动端侧AI从“功能实现”走向“场景深化”,为智能汽车、移动终端等领域注入新动力。随着行业对算力、精度和易用性需求的持续演化,安谋科技Arm China的战略实践或将成为中国AI芯片IP发展的参考范式。(责任编辑:时尚)
推荐文章
-
缓存对大数据处理的影响显著且重要,主要体现在以下几个方面:一、提高数据访问速度在大数据环境中,数据存储通常采用分布式存储系统,数据量庞大,直接从存储系统中读取数据会存在较高的延迟。而通过缓存技术,可以
...[详细]
-
自国务院在4月底印发《贯彻实施质量发展纲要2016年行动计划》以来,产品质量提升一直是业内专注的重点议题。从空调行业来看,产品结构升级已经到了一个迫在眉睫的关键时刻。根据数据显示,
...[详细]
-
在全行业都在降价保份额的时候,海尔空调发起了高端化的冲锋。据中怡康线下月度监测数据,在高端空调领域,海尔空调凭借自清洁系列,在4500元以上挂机市场领域进行了突破,在2016年一季度海尔空调占45
...[详细]
-
五一旺季已箭在弦上,空调业内早已厉兵秣马,大战开启。新品比拼、服务升级之外,与市场趋势同步、贴近用户需求的营销活动,同样是“撩动”消费激情的关键一环。空调四大家族之一的志高空调,继4月22日凭借单
...[详细]
-
SATASerial Advanced Technology Attachment)硬盘是一种广泛使用的硬盘接口技术,以其高速数据传输和较高的数据传输率而受到用户的青睐。然而,为了确保SATA硬盘的安
...[详细]
-
夏天将至,空调热度逐步升温,特别是智能空调。换新空调或者购置智能新空调的需求规模化涌现。 对于消费者如何选择一台合适的空调?对于品牌如何和消费者沟通? 信息不对称性是消费领域永远的时代难题。
...[详细]
-
随着气温的升高,不少市民都开始打开空调,但是很多都会忽视空调的保养问题。 换季时空调能够正常运转远远不够,给空调进行全面体检十分必要,这不仅能延长空调的使用寿命,更能健康使用。由
...[详细]
-
在4月15日开幕的广交会上,海尔展示了以天樽、天铂、新帝樽、劲铂、空气魔方等为代表的智慧空气生态圈,同时完成了一次面向全世界的智能战略布局,随着我国“一带一路”国家战略的推进,已在全
...[详细]
-
近期,有网友比较关心理想汽车的车辆OTA机制,针对大家关心的问题,我们整理出以下问答供大家了解。Q1智能汽车的OTA是什么意思?智能汽车的OTA,全称为空中下载技术Over-the-Air Techn
...[详细]
-
4月28日下午,由21世纪经济报道主办的“智造2025•2016产业峰会”在深圳举行,志高集团董事局主席兼总裁李兴浩作为大会嘉宾之一,与国内资深专家、企业领袖一道,共同探讨智能家电业的智
...[详细]
热点阅读

瑞丰光电创新Mini背光技术方案和CHIP产品荣获两项客户荣誉
上门拆机,300多个孩子目睹“长白毛”的空调—万维家电网
海尔智能空调广交会现场“拆机”向客商示好—万维家电网
产品如何迭代,海尔优家APP用户调研会开启—万维家电网
实习越来越“卷” 焦虑如何抚平
