您现在的位置是:百科 >>正文
MediaTek从芯片到应用全方位支持端侧AI
百科1111人已围观
简介我们早已习惯打开 APP 或网站就能用上各种 AI功能但你是否想过:如果哪天突然断网这些基于云端的 AI 还能用吗?为了建造一个真正让 AI 无处不在的智能世界仅靠设备本地算力就能运行 AI 模型尤为 ...
我们早已习惯打开 APP 或网站
就能用上各种 AI功能
但你是从芯持端侧否想过:如果哪天突然断网
这些基于云端的 AI 还能用吗?
为了建造一个真正让 AI 无处不在的智能世界
仅靠设备本地算力就能运行 AI 模型尤为重要
它们能在手机、汽车、应用家电中离线运行
让 AI 不止在云端,全方也可「落地」到你设备中
这就是位支端侧 AI(On-device AI)和边缘 AI(Edge AI)的区别
从芯片到应用 全方位支持端侧 AI
01. 芯片
更强大的 AI 算力
NPU 是专为神经网络设计的 AI 处理单元,可为各种 AI 任务提供更强大的从芯持端侧算力支持。
MeidaTek第八代 AI 处理器——MediaTek NPU 890,应用作为智能体化 AI 引擎,全方可显著提升移动设备的位支 AI 的性能和能力,以满足全球千行百业对生成式 AI 和智能体 AI 运行大模型的从芯持端侧需求。
MediaTek NPU 890 搭载的应用增强型推理解码技术(Enhanced SPD),可使端侧推理速度提升20%,全方并支持端侧离线运行 DeepSeek-R1-Distill(1.5B/7B/8B)模型。位支
MediaTek Kompanio Ultra 旗舰处理器内置第八代 NPU,从芯持端侧AI 算力可达 50 TOPS(Tera Operations Per Second – 每秒万亿次操作),应用带来更强的全方边缘算力,能在终端离线提供快速、安全、高效率的 AI 运算处理能力。强悍 AI 芯片,无惧断网离线!
02. 模型
更轻便易用的本地 AI 大模型
作为推动 AI 进一步发展的先进技术,终端侧部署生成式 AI(端侧 AI)与云端部署生成式 AI 应用和服务相比,在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面具备明显优势。
MediaTek 已与多家主流大模型厂商深度合作,在多款天玑旗舰移动平台上完成了大模型的端侧部署,即可实现在离线状态下即时、精准的多轮人机对话问答,并支持更多跨应用智能体化体验。此类合作改善了“软件适配难”“开发环境不完备”等诸多挑战,攻克大量底层适配及上层开发的系列技术及工程难题,真正把大模型“装进”手机芯片中,助力开发者们在未来创造出更多灵活、新奇、实用的 AI 应用。
03. 生态系统
更灵活多变的部署
AI 时代,智能早已不限于手机和电脑,更多终端设备如汽车、家电、路由器等,也统统想要「AI 一下」!
为帮助标准各异的设备高效部署 AI,MediaTek 推出并不断迭代NeuroPilot AI 开发工具,其中包括各类软件工具与 API 等。开发者可以通过NeuroPilot 简化的开发流程,高效完成 AI 模型的训练、优化到最终的部署,通过 MeidaTek 的芯片赋能汽车、物联网、智能家居、个人电脑等设备,让 AI 功能更好、更快、直接地运行在各种终端上,加速 AI 生态进化。
如果 AI 都能被离线使用
你希望它能帮你做什么?
Tags:
相关文章
色环电阻与其他电阻类型比较
百科电阻是电路中的基本元件之一,用于限制电流的流动。在电子电路设计和维修中,选择合适的电阻类型对于确保电路性能至关重要。色环电阻因其易于识别和成本效益而广泛使用。色环电阻概述色环电阻,也称为四色环电阻或五 ...
【百科】
阅读更多空调售后服务:向专业化分工发展—万维家电网
百科修两个月了,至今还没有人联系我”、“维修人员说我家的空调螺帽特殊,找不到合适的”、“配件找了快一年,现在也没把空调修好”、“在家等了一整天,约好了上门也不见人影”。每年空调销售旺季来临,消费者对企业 ...
【百科】
阅读更多飞歌空调3开拍 竞买保证金降至1000万—万维家电网
百科曾经两度流拍的“飞歌空调项目”,第三次拍卖时间已确定为11月21日。 “飞歌项目”拍卖的参考价,已由第一次拍卖的1.45亿元下调至9900万元,参加竞拍的保证金也由2900万元下调至1500万元。此 ...
【百科】
阅读更多