产品简介
高通 AI Hub 是高通给端侧 AI 开发者准备的一套工具链,2026 年 11 月 2 日在北京宣布面向中国开发者开放。它不是单个模型,是四件东西捆在一起:模型库、调优工作台、示例应用,以及一个叫 GenieX 的端侧推理运行时。
模型库叫 AI Hub Models,中国版给了 230 多个预优化模型,官方说还在持续扩充,其中包含面向中国市场的模型。预优化指的是模型已经按高通的 CPU、GPU、NPU 做过适配,下载下来能直接在骁龙或高通跃龙平台上跑,不必自己从算子层重做。模型页上能看到同一模型在不同芯片与运行时上的性能指标,方便横向比较。
Workbench 处理的是自有模型。你把训练好的 PyTorch 或 ONNX 模型导进去,它会在一台云托管的真机上做量化、编译、性能分析和验证,跑完给你可以直接集进应用的资源。工作台可选的运行时包括 LiteRT、ONNX Runtime 与 Qualcomm AI Stack,硬件覆盖骁龙与高通跃龙,也支持走高通 AI 引擎 Direct SDK 的部署路径。官网写的云端设备有 50 多种。这部分作业是私有的,任务结束后产物会从真机暂存与云端环境里清掉。
Apps 是示例应用与参考代码,用来照着改怎么把模型接进应用、怎么配运行时。GenieX 是运行时本身,给了命令行、Python 与 Java 三种接口,让生成式模型在 NPU、GPU 或 CPU 上本地跑起来;官网把它标为开发者预览,以开源工具包的形式发布。
中国版的意义主要在链路落地的位置。云端服务由亚马逊云科技中国宁夏区域提供,由西云数据运营,模型下载、真机验证、技术支持都能在境内完成。开发者除了官网,还能用高通终端云的中国设备农场远程验证部署、看端侧运行性能,技术问题走开发者论坛。模型侧的生态合作方包括阿里巴巴、百度、中电信人工智能科技有限公司、面壁智能与腾讯混元。
核心功能
- 230 多个预优化模型:中国版模型库给了 230 多个已完成适配的模型,覆盖手机、计算机、汽车与物联网四条线,包含面向中国市场的模型。每个模型页列出在具体芯片与运行时上的性能数字,选型时可以横向比。
- Workbench 在云真机上量化与验证:导入自有的 PyTorch 或 ONNX 模型,在云托管设备上完成量化、编译、性能分析与精度验证,产出可直接集成到应用里的资产。可换芯片、可换运行时,同一个模型能跑出几组对照数据。
- GenieX 端侧生成式推理:提供命令行、Python 与 Java 三种接口,让语言模型与视觉语言模型在 NPU、GPU 或 CPU 上本地推理。官网标为开发者预览,以开源工具包形式发布,几行代码就能把一个生成式模型跑在设备上。
- Apps 提供可改的示例应用:音频、计算机视觉、生成式 AI 三个方向都有示例应用与参考代码,配分步说明。看它怎么配运行时、怎么把模型接进应用,比自己从文档里拼要快。
- 中国设备农场远程验证:通过高通终端云的中国设备农场,在真实设备上远程部署与测试,不必自己凑齐各型号样机。对做多机型适配的团队,省下的是采购和排队的时间。
- 境内云端承载:中国版云端由亚马逊云科技中国宁夏区域提供,西云数据运营,模型下载、作业提交与技术支持都在境内完成。
- 作业私有且任务后清场:上传的模型与数据集只在自己或组织内可见,任务完成后相关产物会从物理设备的暂存空间与其他云端环境清除,适合还在保密阶段的模型。
适合谁用
以下类型的用户会特别受益于 高通 AI Hub(中国版):
- 手机端做离线摘要、翻译与相册检索,不把用户数据送到云上。
- PC 上本地运行视觉语言模型,做截图理解与文档问答。
- 物联网设备的低功耗推理,例如摄像头端的检测与分类。
- 已有模型想迁到骁龙上,先量化出一版看精度与延迟是否达标。
- 选型阶段比较同一模型在不同芯片与运行时上的表现。
- 端侧 AI 产品的原型验证,用示例应用改出第一版可演示的形态。
优点亮点
- 模型库 230 多个,落地前已按高通的计算单元适配过。
- 云端真机做量化与验证,不必自购各型号设备。
- 量化、编译、性能分析与精度验证串成一条链,产出可直接集成。
- GenieX 三种接口,从脚本到 Java 应用都能接。
- 中国设备农场在境内,多机型验证不必排队等样机。
- 平台目前完全免费,官方 FAQ 明确写了 Workbench 免费使用。
- 上传的模型与数据集私有,任务结束后从设备与云端清除。
价格与方案
AI Hub 平台本身不收费。官方 FAQ 写明 AI Hub Workbench 目前完全免费,可以提交模型、编译、反复调优并下载目标资产;模型库里标注为 download now 的模型免费开放,按各自页面上列出的许可证使用。真正的投入在硬件与量产,芯片按采购走。中国版云端由亚马逊云科技中国宁夏区域承载,账号走高通开发者体系。GenieX 当前标为开发者预览。
总结与建议
端侧 AI 这几年卡人的地方,慢慢从能不能跑变成跑得多快、多省电。一个模型能在手机上出结果不稀奇,稀奇的是它在某颗芯片上占多少内存、每帧耗多少电、量化之后掉多少精度。这类数字读论文读不出来,得在真机上跑。AI Hub 处理的就是这一段:模型先按高通的三类计算单元适配好,自有模型丢进云端真机跑一轮,拿回来的是一组能直接对比的性能数字和一份能集成的资产。
中国版这次开放,改变的是这条链路的落点。以前国内开发者用这套工具,模型下载、云端作业、技术支持多少要绕一段;现在云端落在亚马逊云科技中国宁夏区域,设备农场也在境内,验证与调优都在本地完成。
值得留意的是它要覆盖的芯片面。骁龙管手机与 PC,高通跃龙管物联网与工业,工作台一侧还要对接 LiteRT、ONNX Runtime 与 Qualcomm AI Stack 三套运行时,生成式那一路另有 GenieX。同一份模型要面对的部署组合不少,Workbench 的价值主要体现在这里。
GenieX 现在标着开发者预览,接口给了命令行、Python 与 Java 三种,适合先把生成式模型跑通再谈优化。如果你的产品要在端上跑语言模型或视觉语言模型,这是个成本很低的起点:平台免费,设备不用买,先跑一轮数字再决定硬件。
版本演进
- 高通 AI Hub 面向中国开发者开放 (2026-11-02):高通技术公司在北京宣布高通 AI Hub 面向中国开发者开放,用于构建和部署终端侧生成式 AI 与智能体 AI。平台集 AI Hub Models、AI Hub Workbench、AI Hub Apps 与 GenieX 于一体,中国版提供 230 多个并持续扩充的预优化模型库,其中包含面向中国市场的模型。Workbench 支持导入自有模型,在云托管真机上完成优化、量化、编译、性能分析与验证,可选骁龙与高通跃龙平台及运行时。资源支持通过官网、高通终端云中国设备农场与开发者论坛提供。同期官网显示 AI Hub 最初于 2024 年 2 月 26 日在 MWC 巴塞罗那发布,当时提供 75 个以上模型。