产品简介
LEANN 是 UC Berkeley Sky Computing Lab 开源的向量索引，收录于 arXiv 2506.08276，获 MLSys 2026 最佳论文，代码以 MIT 许可发布，GitHub 星标已过一万三。它要解决的问题很具体：百万级文档做 RAG，传统向量库先算好全部嵌入再存盘，索引动辄几百 GB，个人设备根本放不下。
做法是把嵌入从磁盘上拿掉。索引只保留一张剪枝过的近邻图，检索时沿图遍历，对访问到的候选节点按需重算嵌入。图构建阶段用保度剪枝留下关键的枢纽节点、砍掉冗余连接，遍历路径不会退化，因此省掉 97% 的存储而召回率不塌。
官方给出的对比覆盖五种语料。260 万条的 DPR 数据集从 3.8GB 压到 324MB，6000 万条 chunk 的维基百科从 201GB 压到 6GB，40 万条对话从 1.8GB 压到 64MB，78 万封邮件从 2.4GB 压到 79MB，3.8 万条浏览记录从 130MB 压到 6.4MB。压缩比例在 91% 到 97% 之间，这意味着笔记本上也能跑全量索引。
核心功能
- 只存图，不存向量：索引体量由图的边数决定，与向量维度无关。嵌入在查询时对访问到的节点即时计算，磁盘上不再留一份全量向量。
- 保度剪枝：构建图时保留高连接度的枢纽节点、删掉冗余边，保证图遍历不因剪枝而走进死胡同。这是省存储同时守住召回的关键。
- 两种索引后端：HNSW 为默认，存储节省最彻底，嵌入完全重算；DiskANN 用乘积量化压缩索引再配合实时重排，适合对延迟敏感、存储稍宽裕的场景，可扩到十亿级。
- 两级搜索与动态批处理：遍历时优先走有望命中的节点，候选嵌入按批计算以吃满 GPU。这两项决定按需重算不会把查询变慢。
- 数据完全留在本地：检索链路不需要把文档或嵌入发给外部服务，个人数据可以只在自己的机器上完成索引与查询。
适合谁用
以下类型的用户会特别受益于 LEANN：
- 笔记本或工作站上建个人知识库，把邮件、笔记、浏览记录全量索引而不占满磁盘。
- 给私有代码库做检索，索引与查询都在内网，代码不出网。
- 边缘设备与离线环境的 RAG，存储预算紧张时用重算换空间。
- 研究复现，官方提供评测脚本，五种语料可一键跑通对比。
- 十亿级语料上追低延迟，切到 DiskANN 后端用压缩索引加实时重排。
优点亮点
- 维基百科 6000 万 chunk 的索引从 201GB 压到 6GB，省下 97% 存储。
- 五种语料的压缩比在 91% 到 97% 之间，召回率保持住。
- MLSys 2026 最佳论文，方法有论文与完整评测脚本可复现。
- MIT 许可，一万三千星，社区活跃。
- HNSW 与 DiskANN 两种后端覆盖省存储与追速度两类需求。
- 整条链路可离线，数据不必离开本地设备。
价格与方案
MIT 许可开源，代码与权重免费，自建只承担硬件与算力成本。官方提供 pip 安装路径与评测脚本，按需重算的代价落在查询时的 GPU 或 CPU 计算上，长时间高频查询的机器需要预留算力。若走托管服务则按各自平台的计费方式结算。
总结与建议
LEANN 换的是一个很朴素的交换：把磁盘上的向量换成查询时的计算。前提是算力比存储便宜、且查询频率没有高到让重算变成瓶颈，对个人设备与内网知识库这两个条件基本成立。论文拿了 MLSys 2026 最佳论文，评测脚本公开，五种语料的可复现性比多数索引项目好。要在本地跑全量 RAG 又不想买硬盘的，这是当下最直接的方案。
版本演进
- LEANN 开源：60M chunk 的 RAG 索引从 201 GB 压到 6 GB （2026-10-28）：UC Berkeley Sky Computing Lab 开源向量索引 LEANN，arXiv 2506.08276，MLSys 2026 最佳论文，MIT 许可。只持久化保度剪枝后的近邻图，检索时按需重算嵌入，维基百科 6000 万 chunk 索引从 201GB 降到 6GB，五种语料压缩 91% 到 97%。默认 HNSW 后端，可选 DiskANN 做十亿级低延迟，提供两级搜索与动态批处理。