产品简介
Drex 1.5 是 Nace AI 开源的 8.95B 稠密决策模型。它读取一段文本或 JSON 状态,加上开发者定义好的类型化问题,为每个选项输出概率,不生成任何文本,主要用于智能体的路由、选择与打分环节。
核心功能
- 只输出概率:不做 token 采样,一次前向传播给出每个选项的概率,温度与 top_p 这类采样参数不再适用
- 三类问题:支持选择题、是非题与序数评分,接口为 POST /v1/systemone,从同类闭源方案迁移只需改几个环境变量
- 长文档表现稳定:官方数据里 32K 至 128K token 的文档准确率 93.4%,中位延迟 2.0 秒;同一请求截断到前 8K 后准确率降到 78.0%
- 量化版可跑在个人设备:bf16 权重约 18 GB,单张 24 GB 显卡可跑;另提供约 9.5 GB 的 Q8_0 GGUF,能在 Apple 芯片与 CPU 上运行
适合谁用
以下类型的用户会特别受益于 Drex 1.5:
- 智能体在多个 API 之间做路由选择,用概率阈值决定走哪条分支
- 对长篇合同或工单做打分与分级,把结果直接送进后续流程
- 后端工作流里替代需要解析文本的判断环节,减少一层格式转换
- 在本地或内网环境部署决策层,业务状态不必发到外部服务
优点亮点
- 输出的是校准概率,不需要从模型生成的文本里再解析一次
- 10B 以下参数量里公开 Decision Index 分数最高,与闭源方案处于并列区间
- 提供 GGUF 量化版,个人设备与 CPU 也能跑
- 接口沿用既有格式,从闭源方案迁移的改动很小
价格与方案
权重在 Hugging Face 开源,可自行部署。OpenRouter 上的托管版本由 DeepInfra 提供,每百万输入 token 0.04 美元,输出不计费。上下文默认 16,384 token,最大可到 131,072。
总结与建议
Drex 1.5 适合要在智能体或后端工作流里做离散判断、又希望自己掌控部署的团队。它的价值集中在长文档与多问题场景,真正的取舍在于是否愿意为这类单一用途单独维护一套推理运行时。
版本演进
- Nace AI 开源 Drex 1.5 决策模型 (2026-10-10):Nace AI 开源 8.95B 稠密决策模型 Drex 1.5,基于 MiMo-V2.6-Distill-Qwen-9B,用指针头从主干隐状态直接给每个选项打分,状态只需编码一次即可在多个问题间共享。上下文默认 16,384 token、最大 131,072,bf16 权重约 18 GB,单张 24 GB 显卡可跑,另提供约 9.5 GB 的 Q8_0 GGUF。权重上架 Hugging Face,OpenRouter 上由 DeepInfra 提供托管,每百万输入 token 0.04 美元、输出免费。