Самая интересная вещь, которую можно сделать с локальной моделью, — отдать ей роль «мозга» ИИ-агента. Получается помощник, который читает ваши файлы, ищет, пишет и автоматизирует рутину, не отправляя ничего наружу и не тратя ни рубля на запросы.
Что нужно
- Установленная Ollama со скачанной моделью — подберите под своё железо.
- Установленный OpenClaw.
- Видеокарта с 8+ ГБ или Mac на Apple Silicon — иначе агент будет думать мучительно долго.
Настройка
Ollama притворяется привычным OpenAI-совместимым API, поэтому подключение сводится к указанию адреса:
- Убедитесь, что Ollama запущена — по умолчанию она слушает
localhost:11434. - В настройках OpenClaw укажите провайдера с адресом
http://localhost:11434/v1и именем скачанной модели. - Перезапустите агента и дайте простую задачу: «покажи список файлов в этой папке».
Подсказка: в свежих версиях Ollama есть интерактивное меню — наберите ollama в терминале и увидите пункт запуска интеграций, включая OpenClaw. Это самый короткий путь без ручной правки конфигов.
Готовые детали именно по OpenClaw — в нашем гайде OpenClaw и локальные модели, а для Hermes есть своя инструкция.
Что вы получаете
- Приватность: содержимое файлов и переписки не покидает компьютер — важно для документов, договоров, медицинских и финансовых данных. Что это значит на практике.
- Нулевую стоимость: агент обращается к модели десятки раз в день; на облачной модели это ощутимая сумма в месяц, здесь — ноль.
- Независимость: работает без интернета и не зависит от блокировок и способов оплаты.
Честные ограничения
Локальная модель 7–14B заметно слабее облачных флагманов, и на агенте это видно:
- Сложные многошаговые задачи будут получаться хуже: агент чаще сбивается и требует уточнений.
- Вызов инструментов у небольших моделей менее надёжен — берите модели с явной поддержкой function calling.
- Скорость зависит от вашего железа: на слабой машине агент «думает» десятки секунд.
Рабочая стратегия — гибрид: локальная модель для повседневного и приватного, облачная — для сложного. Переключение занимает одну команду, так что это не выбор навсегда.
Проверьте себя за вечер
Поставьте Ollama, скачайте модель 7–8B, подключите к OpenClaw и дайте три задачи: разобрать папку, найти что-то в интернете, составить черновик письма. Этого хватит, чтобы понять, устраивает ли вас качество — и стоит ли покупать доступ к облачной модели или достаточно бесплатного варианта.
Что эта связка даёт на практике и какое железо под неё нужно — в разборе локального ИИ-агента.