产品简介
Sentient OS 是 Y Combinator 2026 秋季批次的两人团队做的 macOS 端侧个人助理,以 AGPL-3.0 开源。它的设定很明确:夜里在本机跑一个大模型,把你这一天的邮件、消息、文件读一遍,把学到的东西写成一组可读可编辑的 Markdown 文件;早上你看到的不是一份摘要,而是已经起草好的回复、快要续费的订阅、答应过要交的报表。
推理全部落在本机。内置模型是 Gemma 4 E4B,走的是团队自己定制的 LiteRT-LM 分支,带 KV 缓存复用、推测解码与自定义 k-quants,配合 Metal 加速,8GB 内存的 Apple 芯片 Mac 就能跑。用户硬件承担大约九成算力,剩下的按需调用你自己已有的 ChatGPT 或 Claude 订阅,服务端不存任何数据。
产品面有三个入口。Sidekick 从屏幕刘海唤出,自带光标在你的应用与浏览器里接着干活;Double Tap 在你正在打字的输入框里双击右 Command,按你的上下文与行文习惯起草回复,草稿不会自动发出;夜间建议负责翻找未回的邮件、即将续费的订阅、还没报的票据,把能做的先做好。
核心功能
- 夜间构建的知识库:本机模型整夜读取邮件、消息、文件与会议记录,把理解写成电脑上一个 Markdown 文件夹。内容可以随时打开、修改、删除,也能直接给别的 AI 工具用。
- Sidekick 接管手上的活:点击刘海说一句把这件事做完,Sidekick 用自带的光标跨应用操作,接着你停下的地方继续,你同时可以干别的。
- Double Tap 起草回复:在任意输入框双击右 Command,按屏幕上的对话与你的写作习惯生成草稿,落在光标处。草稿需要你确认,不会自动发送。
- 每夜主动找漏:夜里扫描逾期未回的消息、快到期的续费、没归档的报销票据,把能准备的事先准备好,早上逐个过一遍。
- 本机推理栈:定制 LiteRT-LM 分支,KV 缓存复用、推测解码、自定义 k-quants 三项优化合起来,让 8GB 内存的 Mac 也能整夜跑。用户硬件承担约九成算力。
- 模型可换,数据不出本机:除内置 Gemma 4 E4B,还能接 LM Studio 之类本地服务跑更大的视觉模型,需要时再走 ChatGPT、Claude 订阅或 OpenRouter 等兼容端点。已连接的本地数据源在本机分析。
适合谁用
以下类型的用户会特别受益于 Sentient OS:
- 每天要回十几封邮件的人,用 Double Tap 把回复草稿一次写出来,只做审阅。
- 手上同时有几个半成品任务,用 Sidekick 把重复的收尾工作交接出去。
- 想给个人知识库留一份可迁移的底稿,Markdown 文件夹可以随时带走或换工具。
- 对数据出网敏感的用户,把推理留在本机,敏感内容不起云。
- 订阅与账单容易忘的人,让夜间任务提前找出快到期的项目。
- 小团队想自建类似能力,AGPL 许可下可以直接读源码改。
优点亮点
- 推理在本机完成,个人数据不必上传,服务端不存内容。
- 理解结果写成 Markdown 文件,可读、可改、可迁移。
- 8GB 内存的 Apple 芯片 Mac 即可运行,硬件门槛低。
- Sidekick 用自带光标跨应用操作,电脑使用场景覆盖到界面层。
- 草稿与人机边界清楚,动手前需要确认。
- AGPL-3.0 开源,另有商业授权,既能自用也能二次开发。
价格与方案
软件以 AGPL-3.0 开源,个人使用免费,商业授权需另谈。运行成本落在本机算力,团队称用户硬件承担约九成计算,剩余部分复用用户已有的 ChatGPT 或 Claude 订阅,因此不产生额外云端推理账单。运行环境要求 Apple 芯片(M1 及以上)、macOS 15.4 以上、8GB 内存与约 10GB 磁盘空间。安装可用 Homebrew 的 cask,或从 GitHub 发布页下载。
总结与建议
Sentient OS 押的是一个很具体的判断:让 AI 整夜理解你的生活,云端的推理账单和隐私代价都付不起,但自己的芯片可以。它把这件事拆成可检查的一步,理解结果落成 Markdown,你能读能改也能带走。团队两人、十八九岁、约百万美元 pre-seed,做出来的东西已经有一万多用户在用。对愿意把数据留在本机的人来说,这是目前最完整的一条端侧路径。
版本演进
- Sentient OS 发布:夜间本机推理生成 Markdown 知识库 (2026-10-28):YC 2026 秋季批次团队开源 Sentient OS,macOS 端侧个人助理,AGPL-3.0。内置 Gemma 4 E4B,走定制 LiteRT-LM 分支,带 KV 缓存复用、推测解码与自定义 k-quants,8GB 内存 Apple 芯片 Mac 可整夜运行,用户硬件承担约九成算力。夜间读取邮件、消息与文件,把理解写成可编辑的 Markdown 文件夹;白天由 Sidekick 跨应用操作、Double Tap 在工作处起草回复。要求 macOS 15.4 以上、M1 起,约 1 万用户。