AI-моделі та база знань

Обидві половини AI — модель, яка відповідає, і індекс, до якого вона може звернутися, — живуть на вашому власному пристрої. Сайт для них — пульт керування, а не місце, де вони працюють.

Вибір моделі

Вкладка Рекомендовані показує моделі, що підходять вибраному пристрою: пристрій порівнює актуальний список моделей зі своїм процесором, пам’яттю, відеокартою та вільним місцем на диску й показує найкращі варіанти для чату, коду та зображень — із тим, де кожна працюватиме (GPU, GPU + ОЗП або процесор) і наскільки швидко. Підібрати й установити завантажує найкращу модель для чату й перемикає пристрій на неї; Установити поруч із будь-якою моделлю робить те саме для її ролі. Кожне завантаження перед використанням звіряється з контрольною сумою. Завантаження відбувається на пристрої, а не в браузері, тож вкладку можна закрити й повернутися пізніше; поки завантаження триває, чип показує відсотки, і його можна скасувати.

Спершу йдуть моделі, які вже є на пристрої, далі решта — від найкращої. Найкраща позначена зірочкою, саме її вибирає Підібрати й установити (якщо вона вже завантажена, пристрій просто перемкнеться на неї). У кожному рядку видно, де модель працює — на відеокарті, на відеокарті з ОЗП чи на процесорі, — і приблизно скільки токенів на секунду чекати. Розгорніть рядок, щоб побачити розмір, контекст, витрату пам’яті, ліцензію, популярність, дату оновлення й посилання на сторінку моделі.

Вкладки HuggingFace та Ollama лишаються для самостійного вибору моделі. На пристрої з Filemote, старішим за 1.12.24, замість рекомендацій показується звичайна вкладка Каталог.

Моделі — це файли GGUF, які запускає llama.cpp. Грубе правило вибору:

  • Модель на 1–2 млрд параметрів спокійно працює на звичайному ноутбуці й годиться для стислих відповідей і підсумків.
  • 7–8 млрд потребують машини з реальним запасом пам'яті й відповідають помітно краще.
  • Усе, що більше, — для робочої станції з GPU.

Коли модель завантажено, панель про це повідомляє, і чат починає відповідати. Видалення моделі звільняє зайнятий нею диск; налаштування далі вказують на неї, тож після видалення виберіть іншу.

Спеціалізовані слоти

Крім основної моделі є чотири необов'язкові слоти: документи, зір, код і підсумовування. Заповнити слот означає, що питання такого роду підуть до цієї моделі, а не до основної; лишити порожнім — що все бере на себе основна.

Це має сенс, коли один вид роботи для вас важливий — наприклад, модель зору для читання сканів, — і не має в решті випадків, бо кожна завантажена модель тримає пам'ять увесь час, поки завантажена.

Що таке база знань

Індексація теки перетворює її документи на фрагменти, за якими AI може шукати. Далі, якщо ввімкнено використовувати базу знань у чаті, відповідні фрагменти передаються моделі разом із вашим запитанням, щоб вона відповідала за вашими матеріалами, а не за тим, що випадково пам'ятає.

Панель показує, скільки фрагментів і документів проіндексовано. Індексувати зараз проходить по вибраних теках; Очистити базу викидає весь індекс, з підтвердженням.

Індексація читає безліч форматів — документи, таблиці, PDF, зображення через OCR, аудіо та відео через розшифрування. Великі теки забирають час, і перший прохід — найдовший.

Три рівні приватності, точно

Цю частину варто читати уважно, бо рівні — не те саме, що «приватне».

РівеньЩо до нього потрапляєВикористовується у відповідях?Потрапляє в експорт датасету?
0Звичайні документи, які ви проіндексувалиТакТак
1Історія браузераТакНі
2Пошта (.eml, .msg)НіНі

Тобто пошту можна проіндексувати й шукати в ній самому, але моделі як контекст вона не передається ніколи: бути в базі знань і потрапляти у відповідь — різні речі. Історія браузера у відповідях використовується, але в експорт не йде.

Обидва чутливі рівні вимкнені, доки ви їх не ввімкнете й не поставите позначку згоди, а дані за ними в будь-якому разі лишаються на пристрої. Нічого проіндексованого нікуди не вивантажується: індекс лежить поруч з AI-сервісом, а сайт бачить лише лічильники.

Переіндексація за розкладом

Теку, яка змінюється щодня, має сенс переіндексовувати за розкладом — десктопний застосунок налаштовує його днями тижня й часом доби. За цим стоять поля KbScheduleDays і KbScheduleTime у налаштуваннях агента; старе KbScheduleIntervalHours у файлі налаштувань читається, але більше ні на що не впливає.

Дзеркало публічної сторінки

Усе описане вище індексує файли, які вже лежать на вашій машині. Дзеркало сторінки — те саме для вебу: ви даєте адресу, сторінка завантажується один раз і далі живе в базі знань як звичайний документ.

Сенс саме в тому, що відбувається потім. Відповіді, які використовують дзеркало, не роблять жодного запиту — текст уже локальний, — тому вони працюють при вимкненому веб-пошуку, і ніщо про ваше запитання машину не залишає.

Два моменти варто знати до додавання. Дзеркало зберігається як публічний документ: воно бере участь у відповідях і потрапляє в експорт датасету — це важливо, якщо виникне спокуса віддзеркалити сторінку за власним логіном. І сторінка, яку не вдалося завантажити, залишається у списку з причиною — цей список єдине місце, де видно, чому додана сторінка ні на що не відповідає.

Оновлення перезавантажує сторінку і переіндексовує її, лише якщо текст справді змінився. Оновлювати можна вручну будь-коли або під час планового прогону бази знань — це окремий перемикач, вимкнений за замовчуванням: розклад, заведений під ваші власні файли, не має починати ходити в мережу лише тому, що ви пізніше додали сторінку.

Коли панель каже, що AI-сервер не запущено

Базою знань керує AI-сервіс, тому при зупиненому сервісі панель прямо про це повідомляє. Вона все ж може показати те, що лежить на диску, з поміткою про джерело: лічильники читати можна, а елементи керування не працюють, доки сервіс не піднято.

Запускається він тут же, однією кнопкою. Якщо не запускається — чому, розбирає стаття AI не завантажується.

Те саме з десктопа

Усе, що описано на цій сторінці, є і в конфігураторі Windows, тільки докладніше — див. AI Hub. Це два види на той самий сервіс: модель, завантажена з браузера, — той самий файл, який потім завантажує десктопний застосунок.

Оновлено 2026-10-03

Не допомогло — написати в підтримку