AI 模型與知識庫
AI 的兩半——負責回答的模型,以及它可以查閱的索引——都住在你自己的裝置上。網站是它們的遙控器,而不是 它們執行的地方。
挑選模型
推薦 分頁列出適合所選裝置的模型:裝置會把最新的模型清單與自己的處理器、記憶體、顯示卡和可用磁碟 空間進行比較,為對話、程式碼和影像分別提供最合適的模型,並說明每個模型在哪裡執行(GPU、GPU + 記憶體或 CPU)以及速度如何。自動選擇並安裝 會下載排名第一的對話模型並讓裝置切換到它;任一模型旁的 安裝 則為其對應角色做同樣的事。每次下載在使用前都會經過總和檢查碼驗證。下載在 裝置上 進行,而不是 在瀏覽器裡,因此你可以關掉分頁稍後再回來;下載期間有一個標記顯示百分比,也可以取消。
裝置上已有的模型排在最前,其餘按適合程度從高到低排列;最適合的標有星號,自動選擇並安裝 選的就是它(若已下載,裝置只會切換到它)。每一列都說明模型在顯示卡、顯示卡加記憶體還是處理器上執行,以及大約每秒多少詞元。展開一列可查看大小、上下文、記憶體用量、授權、熱度、更新日期和模型頁面連結。
HuggingFace 和 Ollama 分頁仍可用於自行挑選模型。執行 1.12.24 之前版本 Filemote 的裝置會顯示一般的 目錄 分頁,而不是推薦。
模型是透過 llama.cpp 執行的 GGUF 檔案。挑選時有個粗略的經驗:
- 10 億到 20 億參數的模型在一般筆電上跑得從容,適合摘要與簡短回答。
- 70 億到 80 億需要一台記憶體真正充裕的機器,回答明顯更好。
- 再大的就是給搭載 GPU 的工作站準備的了。
模型載入後面板會說明,聊天也就開始作答。刪除模型會釋放它佔用的磁碟;設定仍然指向它,所以刪除之後 請另選一個。
專用插槽
除主模型外,還有四個選用插槽:文件、視覺、程式碼與摘要。填上某個插槽,表示該類問題 會被導向那個模型而不是主模型;留空則由主模型處理一切。
當某一類工作對你確實重要時(例如用視覺模型讀掃描件),這樣做值得;否則不值得,因為每個已載入的 模型只要還載著,就一直佔著記憶體。
知識庫是什麼
索引一個資料夾,會把其中的文件切成 AI 可以檢索的片段。之後,只要開啟在聊天中使用知識庫,相關 片段就會隨你的問題一起交給模型,讓它依據你的材料作答,而不是依據它碰巧記得的東西。
面板會顯示已索引的片段數與文件數。立即索引會把選定的資料夾走一遍;清空知識庫在確認後丟棄 整個索引。
索引能讀取許多格式——文件、試算表、PDF、經 OCR 的圖片、經轉寫的音訊與影片。大資料夾要花些時間,而 第一遍是最慢的一遍。
三個隱私層級,說準確
這一節值得仔細讀,因為層級並不等同於「私密」。
| 層級 | 裡面裝什麼 | 用於回答問題嗎? | 會進入資料集匯出嗎? |
|---|---|---|---|
| 0 | 你索引的一般文件 | 是 | 是 |
| 1 | 瀏覽器記錄 | 是 | 否 |
| 2 | 電子郵件(.eml、.msg) | 否 | 否 |
也就是說,郵件可以被索引、可以由你自己檢索,但從不會當成脈絡餵給模型:待在知識庫裡和出現在回答裡 是兩回事。瀏覽器記錄會用於回答,但絕不會隨匯出離開。
兩個敏感層級在你開啟並勾選同意之前都是關閉的,而它們背後的資料在任何情況下都留在裝置上。被索引的 東西不會上傳到任何地方:索引就放在 AI 服務旁邊,網站看到的只有計數。
依排程重新索引
每天都在變的資料夾值得依排程重新索引,桌面應用程式用星期幾與當天時刻來設定它。背後的欄位是
代理設定中的 KbScheduleDays 與 KbScheduleTime;
設定檔裡舊的 KbScheduleIntervalHours 仍會被讀取,但已不再控制任何行為。
鏡像一個公開頁面
上面講的都是索引已經在您機器上的檔案。頁面鏡像是把同樣的做法用在網頁上:您給出一個網址, 頁面被下載一次,之後就作為普通文件留在您的知識庫裡。
這樣做的意義在於之後發生的事。使用鏡像頁面的回答不會發出任何請求——文字已經在本機—— 所以關閉連網搜尋時它們照樣能用,您問題中的任何內容都不會離開這台機器。
新增之前有兩點需要知道。鏡像頁面以公開文件儲存:它會參與回答,也會包含在資料集匯出中; 如果您想鏡像一個需要自己登入才能看到的頁面,這一點尤其重要。另外,下載失敗的頁面會連同失敗原因 留在清單中——這份清單是您唯一能看到「為什麼新增的頁面什麼都答不出來」的地方。
重新整理會重新下載頁面,並且只在文字確實變動時才重新索引。您可以隨時手動重新整理,也可以讓它在 知識庫的排程執行中進行——那是一個獨立的開關,預設關閉:您為自己的檔案設定的排程,不應該因為 後來新增了一個頁面就開始連網。
當面板說 AI 伺服器沒有執行時
知識庫由 AI 服務管理,因此服務停止時面板會直說。它仍可能把磁碟上的內容顯示給你,並標明來源:計數 可以讀,控制項則要等服務起來才能用。
在這裡一個按鈕就能啟動它。如果它拒絕啟動, AI 無法載入說明了原因。
在桌面端做同樣的事
本頁描述的一切在 Windows 設定程式裡也有,而且更詳細——請參閱 AI Hub。兩者是同一個服務的兩種檢視:從瀏覽器下載的模型,正是桌面 應用程式隨後載入的那個檔案。
更新於 2026-10-03