产品简介
Raon-1 mini 是韩国游戏公司 KRAFTON(魁匠团,PUBG 的开发商)旗下 KRAFTON AI 在 2026 年 10 月 21 日放出的预览版模型,Apache 2.0 开源。从设计到训练全部自己做,不是别人的微调。
架构是这一轮开源里相当典型的一份样本:30B-A4B 稀疏 MoE,28.8B 总参、4.3B 激活,128 个路由专家里每个 token 只点 6 个,外加 1 个共享专家。注意力是 3:1 混合,18 层线性注意力配 7 层 Gated MLA,只有那 7 层留 KV cache,BF16 下每 token 约 8KiB,262,144 token 的上下文就是这么来的。
两个自研部件都站在别人的肩膀上:Raon Delta Attention 拆开了 Kimi Delta Attention 的擦除门与写入门,Raon-mHC 是 DeepSeek 流形约束超连接的低成本改法。加上 NoPE 与四路残差,这套配置把 2026 年流行过的架构技巧基本试了一遍。
量化给得大方,官方有 MXFP8 与 NVFP4 两版,NVFP4 可以在单张 RTX 5090(32GB)上跑。另配一个 DFlash2 草稿模型做推测解码,官方说在单张 B300 上输出吞吐提升到 2.18 倍。
核心功能
- 30B-A4B 稀疏 MoE:28.8B 总参、4.3B 激活,128 个路由专家里每 token 激活 6 个加 1 个共享专家,25 层,隐藏维 2560。
- 18 层线性注意力配 7 层 MLA:3:1 混合,只有 7 层 Gated MLA 保留 KV cache,BF16 下每 token 约 8KiB,撑起 262,144 token 上下文。
- 从零训练,不是微调:模型卡写明由 KRAFTON AI 设计与训练,权重 Apache 2.0 许可,可商用。
- 单张 RTX 5090 可跑:官方提供 MXFP8 与 NVFP4 量化版本,NVFP4 在 32GB 显存上可推理;社区按权重体积估算 4 位版本可放进 24GB 卡。
- DFlash2 草稿模型做推测解码:随模型带一个草稿模型,官方称单张 B300 上输出吞吐最高为自回归解码的 2.18 倍。
- 七种语言,韩语最强:训练覆盖韩、英、日、中、西、法、泰七种语言,其中韩语表现最好。工具调用支持 Hermes Agent、Pi 与 OpenCode。
适合谁用
以下类型的用户会特别受益于 KRAFTON Raon-1 mini:
- 韩语为主的对话与客服系统
- 显存受限、需要单卡部署长上下文的场景
- 游戏内的低延迟 NPC 对话
- 智能体工作流的工具调用后端
优点亮点
- Apache 2.0 许可,商用没有附加条款
- 4.3B 激活,单卡即可推理,硬件门槛低
- 线性注意力把 KV cache 压到约 8KiB 每 token
- 官方直接给量化权重,不用自己压
- 随模型带推测解码草稿模型
价格与方案
Apache 2.0 许可,权重在 Hugging Face 免费下载,可商用。官网提供限时免费 API 试用,托管访问需同意单独的 Hosted Access 条款。自行部署最低可用单张 RTX 5090(32GB)。
总结与建议
一家游戏公司从头训出一个 30B 的 MoE 并开源,这件事本身比任何一行基准都更值得记。KRAFTON 的 AI 负责人说这是五年多研究的第一个节点,正式版与更大的模型都在后面。
预览版的定位要记住:模型卡自己写了规格与结果可能变化,基准全是自测。现在的下载量与社区反馈都还在早期,把它当信号比当替代品更合适。真正有意思的是它优化方向会给什么:一家做互动娱乐的公司,MoE 会往延迟与成本那边偏,这对游戏内 AI 是直接的参考。
版本演进
- Raon-1 mini 预览版开源 (2026-10-21):KRAFTON AI 在 Hugging Face 以 Apache 2.0 放出 Raon-1 mini 预览版,30B-A4B 稀疏 MoE,从零训练,18 层线性注意力配 7 层 Gated MLA,262,144 token 上下文。官方提供 MXFP8 与 NVFP4 量化权重,后者可单张 RTX 5090 推理,并随模型附 DFlash2 草稿模型。官网提供限时免费 API 试用。