Коротко
Кейс от 06.09.2026: на обычном ноутбуке без дискретной видеокарты (Intel i7, 4 ядра, 16 ГБ памяти) подняли рабочую связку «локальная языковая модель + ИИ-агент». Установили бесплатный движок Ollama, собрали свою версию модели Qwen 3 (1,7 млрд параметров) с контекстом 32 768 токенов и подключили агентную программу Goose: агент прочитал файл с восемью отзывами клиентов и сам разобрал их по тональности, предложив действия по каждому негативному. Такой анализ занял 1–3 минуты — бесплатно, без интернета. Кейс полезен тем, кто хочет офлайн-инструмент для черновиков, разбора текстов и работы с приватными данными, не отправляя их на чужие серверы.
Что получилось: агент реально вызывает инструменты — сам читает файлы и выполняет команды, вся работа идёт на процессоре, без игровой видеокарты и подписки.
Ключевые грабли: контекстное окно по умолчанию (~4 тысячи токенов) обрезает служебный промт агента — модель «не знает» про инструменты; PowerShell сохраняет Model File в кодировке UTF-16, которую Ollama не понимает; после пересборки модель старую версию ещё ~5 минут отдаёт из памяти — лечится командой
ollama stop.Ограничение-нюанс: для агентной работы модель берут из семейства Qwen 3 — умение вызывать инструменты важнее размера; качество ниже облачных гигантов — спорный отзыв модель отнесла к позитивным, финальное решение за человеком.
