产品简介
Liquid AI LFM3 是 Liquid AI 于 2026 年 10 月 27 日发布的新一代开源权重模型家族,第一批六个模型全部在 20 亿参数级,且都从同一个骨干 LFM3-1.7B-Base 分支而来。文本、视觉、语音、全模态与决策五类能力因此共享一套架构与一套微调方法。
骨干是 tri-hybrid 结构:24 层里 13 层是带门控的短卷积,5 层是 256 token 窗口的滑动注意力,6 层是全注意力。卷积核从 LFM2 的 3 提到 7,另外加了按注意力头做缩放的门控、只对高频半边做旋转位置编码的 partial RoPE,以及每块输入输出各归一化的 sandwich norm。这套设计来自硬件在回路的架构搜索,LFM3 把搜索范围扩到 14 种设备与后端组合,包括三星 Galaxy S26 Ultra、一加 15、树莓派 5、Apple M4 Max、AMD Ryzen AI、Arm 与 x86 云 CPU、GPU 与高通 Hexagon NPU。
训练侧的分量也不轻。骨干在 22 万亿 token 上预训练,最后 3.5 万亿 token 是中期训练阶段,加入了更多智能体轨迹与工具调用数据,同时把上下文拉长到 26 万 token。后训练分四段:1.75 万亿 token 的监督微调、混合强化学习、从六个专项强化学习教师做的多域同策略蒸馏,以及在真实智能体框架内跑的智能体强化学习。
核心功能
- 一个骨干,六个模型:LFM3-1.7B 处理文本,LFM3-VL-2B 收文本图像视频,LFM3-Audio-2B 收文本或语音并回文本或语音,LFM3-Omni-2B 四种模态全收、回文本与语音,另有 d1-2B 与 d1-omni-2B 两个决策模型直接输出带校准概率的答案。
- 按硬件搜出来的结构:架构搜索覆盖 14 种设备与后端,从手机、树莓派到 NPU。按头门控的设计能压掉影响量化的激活离群值,partial RoPE 让全局注意力只旋转高频半边,都是为端侧低比特部署准备的。
- 26 万上下文与 16 种语言:文本模型 1.73B 参数、12.8 万词表、26 万 token 上下文、支持 16 种语言。4 比特量化后约占 1GB 内存,8K 上下文时每参数速度比 LFM2-1.2B 快约 25%。
- 体积更小,跑分更高:官方称 LFM3-1.7B 以少 35% 的参数超过前代 LFM2.5-2.6B,WebArena-Verified 得 38.42 分,前代是 3.02。视觉模型在 62 项基准上的均值从 57.6 提到 71.4,参数从 3.1B 降到 1.9B。
- 决策模型直接给概率:d1-2B 与 d1-omni-2B 不做自由生成,而是对一组问题在一次前向里给出答案与校准后的概率,适合工单分流、图像质检这类需要阈值判断的场景。
- 单卡可微调:每个模型都能在单张 GPU 上微调,官方给了文本、视觉、语音、全模态四条线的完整笔记本,覆盖 SFT、DPO、GRPO 与继续预训练。
适合谁用
以下类型的用户会特别受益于 Liquid AI LFM3:
- 要在手机或笔记本上跑私有智能体的团队,选 1.7B 文本档,4 比特量化后约 1GB。
- 票据、单据、界面截图的读取任务,用 VL 档把图直接转成结构化 JSON。
- 语音指令映射到函数调用,Audio 档支持 18 种语言的识别、合成与翻译。
- 需要一次看完整段会议录音再回话的场景,用 Omni 档做多模态问答与语音回应。
- 工单分类、内容审核这类要阈值的地方,用 d1 决策模型拿校准概率。
- 树莓派、NPU 与边缘盒子上的推理,官方已按这些后端做过架构搜索与验证。
优点亮点
- 六个模型共享一个骨干,微调方法与工具链可以复用。
- 1.7B 文本档 4 比特约占 1GB,8GB 内存的设备也能跑。
- 26 万 token 上下文,在 2B 级模型里属于少见的长上下文配置。
- 官方口径以少 35% 参数超过前代,视觉基准均值提升近 14 分。
- 决策模型输出校准概率,省掉自己做阈值校准的工序。
- 权重开放在 Hugging Face,同时提供 Playground 与 API,每条线都能单卡微调。
价格与方案
权重按 LFM Open License v1.0 开放,可在 Hugging Face 下载,也可通过 Liquid AI 的 Playground 与 API 使用。许可证允许年营收低于 1000 万美元的组织免费商用,达到或超过这一门槛需要单独申请商业授权。自建部署只承担硬件成本,官方称 4 比特量化的文本模型约占 1GB 内存。API 价格与免费额度以 Liquid AI 官网为准。
总结与建议
LFM3 的思路是把通用能力拆成六个专用小模型,共用一个骨干。对端侧开发者来说,这件事的价值不在跑分,而在选择权:同一套微调流程能覆盖文本、视觉、语音与决策,模型体积压在 1GB 到 2GB 之间,手机、树莓派和 NPU 都在官方验证过的后端里。官方也讲清楚了适用边界,这类 2B 级模型做不了长程多步推理与复杂编码,那是大模型的位置。
版本演进
- LFM3 发布:六个开源权重 2B 级模型共用同一骨干 (2026-10-27):Liquid AI 发布 LFM3 家族首批六个开源权重模型,全部从 LFM3-1.7B-Base 分支:文本、VL、Audio、Omni 与两个决策模型 d1-2B、d1-omni-2B。骨干为 tri-hybrid,24 层含 13 层门控短卷积、5 层 256 token 滑窗注意力、6 层全注意力;22 万亿 token 预训练,末期 3.5 万亿为智能体数据中期训练,上下文扩至 26 万。文本档 1.73B、16 种语言、4 比特约 1GB 内存,WebArena-Verified 38.42 分,官方称以少 35% 参数超过前代 LFM2.5-2.6B。权重按 LFM Open License v1.0 开放。