Локальный агент — это когда и программа, и модель работают на вашем компьютере: запросы никуда не уходят, платить не за что, интернет нужен только самому агенту для его задач. Разбираем, что для этого нужно и чем приходится расплачиваться.
Короткий ответ
Нужны три вещи: открытый агент, модель на своём железе и компьютер, который её потянет. Связка ставится за вечер, стоит ноль рублей в месяц и работает без интернета.
Расплачиваетесь качеством: локальная модель на домашнем компьютере слабее облачной. Для работы с файлами, почтой и рутиной этого хватает, для сложных рассуждений на большом объёме — нет.
Из чего собирается
1. Среда для модели. Ollama — самый простой путь: ставится как обычная программа, модели скачиваются одной командой. Альтернатива с графическим интерфейсом — LM Studio.
2. Модель. Выбирается под железо, а не под желание: таблица соответствия. Правило простое — модель должна помещаться в память видеокарты, иначе она поедет на процессор и станет медленной до неприменимости.
3. Агент. Открытый, умеющий работать с локальным провайдером. Готовая инструкция по связке — Ollama и OpenClaw, там же настройки конфигурации.
Установка Ollama по шагам для всех систем — здесь.
Какое железо нужно
Ориентиры, а не требования — многое зависит от модели:
| Железо | Что потянет | Для чего годится |
|---|---|---|
| Ноутбук без дискретной видеокарты | маленькие модели, 3–4 млрд параметров | простые задачи, черновики |
| Mac с Apple Silicon, 16 ГБ | средние модели | повседневная работа с текстом и файлами |
| Видеокарта 12–16 ГБ | средние и крупные | уверенная работа, включая код |
| Видеокарта 24 ГБ и выше | крупные модели | близко к облачному качеству |
Mac с общей памятью здесь в выигрыше: видеопамять и оперативная у него одна, поэтому 32 ГБ на маке тянут то, для чего на ПК нужна дорогая видеокарта.
Если железо не тянет, а приватность нужна — Ollama Cloud даёт промежуточный вариант.
Что локальный агент реально может
То же, что облачный, но с поправкой на модель:
- работа с файлами — найти, переименовать, разобрать, свести в таблицу;
- разбор документов — вытащить суть из договора или отчёта, не выкладывая его наружу;
- почта и мессенджеры — сортировка, черновики ответов;
- автоматизация по расписанию — cron-задачи;
- работа с вашими данными через MCP — база, 1С, внутренние системы.
Чего ждать не стоит: длинных рассуждений на сотнях страниц и генерации сложного кода уровня топовых облачных моделей. Полный список того, что вообще умеет агент, — 40 задач.
Главный аргумент: данные остаются у вас
Ради этого локальный запуск обычно и затевают. Но формулировать надо точно, иначе получится самообман.
Что действительно не уходит: содержимое запросов и документов, которые вы даёте модели. Она работает на вашей машине, наружу ничего не отправляется.
Что уходить может: всё, к чему агент обращается сам. Если он ходит в интернет, открывает страницы или пользуется внешним сервисом — эти обращения видны. Локальная модель делает приватным рассуждение, а не всю деятельность агента.
Разбор без мифов — локальный ИИ и приватность.
Сколько это стоит
Ноль рублей в месяц. Разово — железо, если нынешнего не хватает.
Для сравнения: облачный агент на среднем использовании — от нескольких сотен рублей в месяц за токены, сводная таблица цен. Локальный окупается быстро, если пользуетесь ежедневно, и не окупается вовсе, если раз в неделю.
Другие бесплатные варианты, включая облачные лимиты, — в обзоре бесплатных агентов.
Гибридная схема, которую обычно и выбирают
Не обязательно выбирать одно. Рабочая практика: локальная модель по умолчанию, облачная — на сложные задачи. Чувствительные документы не покидают компьютер, а когда нужна мощность, агент переключается на облако.
Настраивается это в конфигурации агента и переключается одной строкой — в связке Ollama и OpenClaw разобрано.
Что почти всегда идёт не так
- Берут модель не по железу. Скачивают крупную, она не влезает в видеопамять, работает минутами вместо секунд, человек решает, что локальный ИИ не работает.
- Ждут облачного качества. Разница есть и она заметна. Локальный агент выбирают за приватность и бесплатность, а не за качество.
- Забывают про права. Агент на своём компьютере имеет доступ к вашим файлам по-настоящему. Настройка прав нужна не меньше, чем облачному.
- Оставляют порт наружу. Локальный — значит локальный. Если открыли доступ к нему из сети, приватность закончилась.
С чего начать
- Поставить Ollama и скачать модель по таблице под железо.
- Поставить агента — первый запуск.
- Связать их — инструкция.
- Проверить на одной реальной задаче, а не на «расскажи анекдот».
Если задача корпоративная и локальный контур нужен по требованиям безопасности — оставьте заявку, разберём схему под ваши ограничения.