AI 模型与知识库
AI 的两半——负责回答的模型,以及它可以查阅的索引——都住在你自己的设备上。网站是它们的遥控器,而不是 它们运行的地方。
挑选模型
推荐 标签页列出适合所选设备的模型:设备会把最新的模型列表与自己的处理器、内存、显卡和可用磁盘 空间进行比较,为对话、代码和图像分别给出最合适的模型,并说明每个模型在哪里运行(GPU、GPU + 内存或 CPU)以及速度如何。自动选择并安装 会下载排名第一的对话模型并让设备切换到它;任意模型旁的 安装 则为其对应角色做同样的事。每次下载在使用前都会经过校验和验证。下载在 设备上 进行,而不是在 浏览器里,因此你可以关掉标签页稍后再回来;下载期间有一个标记显示百分比,也可以取消。
设备上已有的模型排在最前,其余按适合程度从高到低排列;最合适的标有星号,自动选择并安装 选的就是它(若已下载,设备只会切换到它)。每一行都说明模型在显卡、显卡加内存还是处理器上运行,以及大约每秒多少词元。展开一行可查看大小、上下文、内存占用、许可证、热度、更新日期和模型页面链接。
HuggingFace 和 Ollama 标签页仍可用于自行挑选模型。运行 1.12.24 之前版本 Filemote 的设备会显示普通的 目录 标签页,而不是推荐。
模型是通过 llama.cpp 运行的 GGUF 文件。挑选时有个粗略的经验:
- 10 亿到 20 亿参数的模型在普通笔记本上跑得从容,适合摘要和简短回答。
- 70 亿到 80 亿需要一台内存真正充裕的机器,回答明显更好。
- 再大的就是给带 GPU 的工作站准备的了。
模型载入后面板会说明,聊天也就开始作答。删除模型会释放它占用的磁盘;设置仍然指向它,所以删除之后 请另选一个。
专用槽位
除主模型外,还有四个可选槽位:文档、视觉、代码和摘要。填上某个槽位,意味着该类问题 会被路由到那个模型而不是主模型;留空则由主模型处理一切。
当某一类工作对你确实重要时(例如用视觉模型读扫描件),这样做值得;否则不值得,因为每个已载入的 模型只要还载着,就一直占着内存。
知识库是什么
索引一个文件夹,会把其中的文档切成 AI 可以检索的片段。之后,只要打开在聊天中使用知识库,相关 片段就会随你的问题一起交给模型,让它依据你的材料作答,而不是依据它碰巧记得的东西。
面板会显示已索引的片段数和文档数。立即索引会把选定的文件夹过一遍;清空知识库在确认后丢弃 整个索引。
索引能读取许多格式——文档、表格、PDF、经 OCR 的图片、经转写的音频与视频。大文件夹要花些时间,而 第一遍是最慢的一遍。
三个隐私层级,说准确
这一节值得仔细读,因为层级并不等同于「私密」。
| 层级 | 里面装什么 | 用于回答问题吗? | 会进入数据集导出吗? |
|---|---|---|---|
| 0 | 你索引的普通文档 | 是 | 是 |
| 1 | 浏览器历史记录 | 是 | 否 |
| 2 | 电子邮件(.eml、.msg) | 否 | 否 |
也就是说,邮件可以被索引、可以由你自己检索,但从不会作为上下文喂给模型:待在知识库里和出现在回答 里是两回事。浏览器历史会用于回答,但绝不会随导出离开。
两个敏感层级在你打开并勾选同意之前都是关闭的,而它们背后的数据在任何情况下都留在设备上。被索引的 东西不会上传到任何地方:索引就放在 AI 服务旁边,网站看到的只有计数。
按计划重新索引
每天都在变的文件夹值得按计划重新索引,桌面应用用星期几和当天时刻来配置它。背后的字段是
代理设置中的 KbScheduleDays 与 KbScheduleTime;设置
文件里旧的 KbScheduleIntervalHours 仍会被读取,但已不再控制任何行为。
镜像一个公开页面
上面讲的都是索引已经在您机器上的文件。页面镜像是把同样的做法用在网页上:您给出一个地址, 页面被下载一次,之后就作为普通文档留在您的知识库里。
这样做的意义在于之后发生的事。使用镜像页面的回答不会发出任何请求——文字已经在本地—— 所以关闭联网搜索时它们照样能用,您问题中的任何内容都不会离开这台机器。
添加之前有两点需要知道。镜像页面按公开文档存储:它会参与回答,也会包含在数据集导出中; 如果您想镜像一个需要自己登录才能看到的页面,这一点尤其重要。另外,下载失败的页面会连同失败原因 留在列表中——这个列表是您唯一能看到"为什么添加的页面什么都答不出来"的地方。
刷新会重新下载页面,并且只在文字确实发生变化时才重新索引。您可以随时手动刷新,也可以让它在 知识库的计划任务中进行——那是一个单独的开关,默认关闭:您为自己的文件设置的计划,不应该因为 后来添加了一个页面就开始联网。
当面板说 AI 服务器没有运行时
知识库由 AI 服务管理,因此服务停止时面板会直说。它仍可能把磁盘上的内容显示给你,并标明来源:计数 可以读,控件则要等服务起来才能用。
在这里一个按钮就能启动它。如果它拒绝启动, AI 无法加载说明了原因。
在桌面端做同样的事
本页描述的一切在 Windows 配置器里也有,而且更详细——参见 AI Hub。两者是同一个服务的两种视图:从浏览器下载的模型,正是桌面应用 随后载入的那个文件。
更新于 2026-10-03