AI Hub
AI Hub 是所有 AI 相關事務的桌面一側。它有三個索引標籤——AI Agents、Knowledge Base 與 Settings——在瀏覽器裡不好辦的事都在這裡做:準備執行環境、下載數 GB 的模型,以及指定要索引的 資料夾。
首次執行:三步驟精靈
從未跑過 AI 的機器看到的是一個精靈,而不是一整面設定:
- Environment —— 檢查是否有 Python 3.10 或更新版本,並安裝相依套件。這是耗時以分鐘計、 下載量最大的一步。
- Model —— 清單按這台電腦比對:把它的處理器、記憶體、顯示卡和可用磁碟空間與最新的模型清單進行比較, 並預先選中最合適的一個。每一列都說明模型會在哪裡執行(顯示卡、顯示卡 + 記憶體或處理器)以及速度如何。
- Launch —— 啟動服務並載入模型。
如果環境檢查回報找不到 Python,裝好之後再檢查一次;在 Windows 上安裝程式通常會附帶一份私有副本, 所以這一般只出現在可攜版。請參閱 可攜版:在 Windows 上免安裝執行 Filemote。
AI Agents
Main Orchestrator 是預設作答的模型。它的卡片顯示服務在線還是已停止、權重是否仍在載入,以及一個 請求計數。
- Start AI / Stop AI 控制服務。
- Change Model 或 Replace 更換已載入的模型。
- Unload 釋放模型佔用的記憶體,但不停止服務。
- Model Catalog 展開後列出所有適合這台電腦的模型,可用於主模型或專家槽位。每次下載在使用前都會經過 總和檢查碼驗證。在搜尋框中輸入還會搜尋 HuggingFace,用於手動挑選主模型。
啟動之前,設定程式可以驗證模型:確認它確實存在、類型適合聊天,以及機器記憶體是否夠用——會直白 提示「模型需要約 7 GB,只有 4 GB 可用」,而不是讓你在十分鐘後才失敗。
專用代理就是文件、視覺、程式碼與摘要這幾個插槽。載入其中一個,就把該類問題交給它;留空則回落到 主編排模型。每個已載入的模型只要還載著就一直佔記憶體——這就是全部的取捨。
關於 Stop 按鈕
Stop AI 會停止 AI 服務,而且值得知道:如今這句話成立的方式,和過去並不相同。
設定程式與代理可能同時持有 8765 連接埠上的同一個 AI 服務。曾有一個版本,Stop 只結束了視窗恰好持有 的那個控制代碼——由另一側啟動的服務照舊執行,而狀態輪詢發現它還活著,實際上又把它帶了回來。如果你 曾見過 AI「自己起來」,就是這件事,現在已經修好:Stop 會結束該連接埠上的行程,並記下這是你要求的, 因此不會有人在你背後把它復活。
AiAutoStart 是另一個設定:它讓 AI 服務隨代理一起啟動,按下 Stop 並不會改變它。
Knowledge Base
頂部的計數顯示chunks、documents 與磁碟佔用大小。
Indexed Folders 就是真正會被讀取的那份清單;+ Add Folder 與 Remove 管理它,索引過程會 顯示進度,並有自己的 Stop。另有兩個來源藏在同意勾選之後:Browser history 與 Email (.eml/.msg)——各自能走多遠,寫在 AI 模型與知識庫裡。
一個有用的細節:處理知識庫並不需要完整的 AI 服務。當代理沒有執行時,設定程式會啟動一個只管知識庫的 小幫手,因此索引一個資料夾並不表示得先載入一個語言模型。
Settings
模型預設值、運算裝置、回覆長度、系統提示詞,以及索引排程。這裡的每個欄位都對應
app_settings.json 裡的一個欄位,列在
手動設定代理中。
當它起不來時
Hub 會說明發生了什麼,而不是默默失敗:模型未下載、伺服器不可用、載入失敗。每則訊息都點名是哪一步。 按值得排查的順序列出的原因清單,見 AI 無法載入。
更新於 2026-10-02