← все статьи

Локальный ИИ-агент на вашем компьютере

0 0 0
Файлы проекта соединены с OpenCode, который обращается к локальной модели через Ollama.

Схема локального вывода. Доступ к файлам и действия контролирует программа агента.

Локальный ИИ-агент полезен, когда нужно разбирать проект, готовить небольшие изменения и управлять тем, какие файлы получает модель. В этой инструкции соединяем Ollama и OpenCode: первая программа запускает модель, вторая даёт ей инструменты для работы с проектом. Разберём установку, ограничения компьютера, первый проверяемый запрос и причины типичных сбоев.

Это руководство по настройке, а не отчёт о тестировании на вашем оборудовании. Скорость и качество нужно проверить на собственной задаче. Для рабочих проектов учитывайте стоимость компьютера, обслуживания и проверки результата: отсутствие оплаты облачного API не превращает всю систему в бесплатную.

Чем агент отличается от чата с нейросетью

Чат возвращает текст. Агент может прочитать файл, найти место в проекте, предложить правку и вызвать команду. Возможности зависят сразу от модели, программы и разрешений. Установка сильной языковой модели сама по себе не даёт работающего агента: нужен корректный вызов инструментов и достаточный контекст.

КомпонентЧто делаетЧто проверять
OllamaЗагружает и обслуживает модельЛокальный режим, память, контекст
МодельПонимает задачу и выбирает действияПоддержка tools, лицензия, качество на ваших файлах
OpenCodeСвязывает модель с проектомПровайдер, права чтения, изменения и команды
ЧеловекЗадаёт ограничения и принимает работуИзменения файлов, проверки и соответствие задаче

До установки: определите первую задачу и бюджет памяти

Начните с небольшого проекта и действия, результат которого понятен без доверия к ответу модели. Например, найти обработчик формы, описать путь заявки или предложить улучшение доступности одной страницы. Не ставьте первой задачей «полностью переделай бизнес».

Для примера используем qwen3-coder:30b. В каталоге Ollama этот вариант занимает около 19 GB для весов. Это не полный расход памяти: контекст и выполнение требуют дополнительного места. Компьютер с 16 GB общей памяти не следует выбирать под этот пример. Подходящая конфигурация определяется доступной RAM/VRAM, контекстом и приемлемой задержкой.

Не покупайте оборудование только по размеру файла модели. Проверьте загрузку на имеющемся компьютере или тестовом сервере, запишите задержку нескольких запросов и посмотрите, сколько остаётся свободной памяти. Если модель постоянно выгружается или система активно использует диск вместо памяти, уменьшение задачи может быть полезнее бесконечной настройки промпта.

1. Установите Ollama и загрузите локальную модель

Возьмите установщик под свою ОС на официальной странице Ollama. Для Linux следуйте текущей инструкции проекта. После установки откройте терминал:

ollama --version
ollama pull qwen3-coder:30b
ollama run qwen3-coder:30b

Получите короткий ответ на простой вопрос. Загрузка весов требует интернета; дальнейший локальный вывод может работать без обращения к облачной модели. Зафиксируйте версии Ollama и модели для повторения опыта. Лицензию весов проверяйте отдельно от лицензии приложения.

2. Настройте контекст и отключите облачные функции

Официальная интеграция с OpenCode рекомендует контекст от 64k. Большой контекст расходует дополнительную память. В приложении Ollama выставьте соответствующее значение в настройках; подробности есть в документации контекста.

Если запускаете сервер вручную на macOS или Linux, сначала остановите уже работающий экземпляр Ollama, затем используйте отдельное окно терминала:

OLLAMA_NO_CLOUD=1 OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Не запускайте второй сервер поверх первого: получите конфликт порта. Для приложения или системной службы задайте параметры способом, описанным в FAQ для своей ОС, и перезапустите Ollama. Альтернатива отключению облака через переменную — параметр "disable_ollama_cloud": true в конфигурации сервера ~/.ollama/server.json. Если файл уже существует, добавьте поле, сохранив остальные настройки.

В другом терминале выполните ollama ps после запроса и проверьте выделенный контекст и размещение модели. Оставьте стандартную привязку сервера к локальному интерфейсу. Для этого учебного сценария открывать порт в интернете не требуется.

3. Установите OpenCode и подготовьте отдельный проект

Ниже используется документированный терминальный путь OpenCode 1. У проекта также есть OpenCode 2; не устанавливайте обе версии поверх одной команды. Варианты установки и различия смотрите в официальной документации. Если у вас уже установлен Node.js и npm, для ветки 1 подходит:

npm install -g opencode-ai@1
opencode --version

Откройте копию небольшого проекта, сохраните исходное состояние и уберите из неё реальные ключи, выгрузки клиентов и другие данные, не нужные задаче. Для первого опыта можно взять простую HTML-страницу. Запускайте агент из этой папки, чтобы рабочая область была определена явно.

Создайте в корне проекта opencode.json. Если конфигурация уже есть, объедините поля с существующей. Здесь модель указана явно, сетевые инструменты отключены, а изменения и команды требуют подтверждения:

{
  "$schema": "https://opencode.ai/config.json",
  "model": "ollama/qwen3-coder:30b",
  "provider": {
    "ollama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Ollama local",
      "options": { "baseURL": "http://localhost:11434/v1" },
      "models": { "qwen3-coder:30b": {
        "name": "Qwen3-Coder 30B local",
        "limit": { "context": 64000, "output": 8192 }
      } }
    }
  },
  "permission": {
    "*": "ask",
    "edit": "ask",
    "bash": "ask",
    "external_directory": "deny",
    "webfetch": "deny",
    "websearch": "deny"
  }
}

limit.context сообщает агенту доступный контекст, а limit.output задаёт выбранный бюджет ответа 8192 токена; это не заявление о максимуме модели.

Запустите opencode из проекта и проверьте выбранную модель. Для настройки провайдера также существует команда ollama launch opencode; в нашем примере ручная конфигурация делает выбор локальной модели видимым. Не включайте автоматическое одобрение команд при первом запуске.

4. Дайте агенту ограниченную и проверяемую задачу

Начните в режиме Plan, переключаемом клавишей Tab в документированной версии. Попросите найти конкретную часть проекта, прежде чем разрешать запись. Английский шаблон ниже переносим между инструментами; он не гарантирует более точный ответ, чем хороший русский запрос.

Act as a careful software maintenance assistant.
Task: inspect the contact form in this project and explain how a submitted
request moves from the browser to its destination.
Scope: project files only. Do not access parent folders or network services.
Do not edit files, install dependencies, or execute commands yet.
Return: relevant file paths, the observed flow, missing evidence,
and a minimal verification plan.
Separate facts found in files from assumptions.
If a file is unavailable, say so instead of inventing its contents.
Write your explanation in Russian.

Сопоставьте названные пути с файлами. Если агент говорит об обработчике, которого нет, запрос не принят. Если он возвращает JSON вызова инструмента обычным текстом и ничего не читает, это сбой интеграции, а не выполненная работа. Сначала решите его, затем переходите к изменениям.

После проверки плана разрешите одну правку. Например, добавить явные подписи к полям формы. До разрешения команды прочитайте её и определите, что она меняет. После работы сравните файлы с исходным состоянием, откройте страницу и проверьте отправку на тестовом получателе.

Как понять, что настройка пригодна для работы

СимптомЧто проверить
Модель не появляетсяИмя в ollama list и совпадение с конфигурацией провайдера
Ошибка подключенияЗапущен ли один сервер Ollama и верен ли baseURL
Вызов инструмента напечатан в чатеСовместимость модели, шаблона и версий; простой запрос на чтение файла
Теряется задачаФактический контекст, объём проекта и число одновременно поставленных целей
Очень медленный ответПамять и размещение модели в ollama ps; затем меньший объём задания
Правки выглядят убедительно, но ломают формуПроверка поведения и сравнение с исходником вместо оценки по стилю ответа

Запишите время на настройку, выполнение и ручную проверку трёх сопоставимых задач. Если результат приходится полностью переделывать, локальный режим пока не даёт ожидаемой экономии. В таком случае можно выбрать другую совместимую модель или оставить агенту только поиск и объяснение файлов.

Границы локальности и следующий шаг

Локальная модель означает локальный вывод, а не изоляцию всей программы. Внешние плагины, облачные провайдеры и команды могут обращаться к сети. Перечисленные разрешения уменьшают доступ инструментов, но не заменяют системную изоляцию. Для чувствительных проектов используйте отдельную среду и проверяйте фактические соединения.

Если задача связана с клиентской базой знаний, начните с схемы RAG и проверки источников. Если нужен рабочий процесс с системой заявок, посмотрите автоматизацию бизнес-процессов: там важно проектировать не только вызов модели, но и приёмку, ответственность и обслуживание.

Источники и дата проверки

Инструкция сверена 11 октября 2026 года с документацией Ollama / OpenCode, контекста Ollama, локального режима, провайдеров OpenCode и разрешений. Названия настроек могут измениться при обновлении; сохраняйте рабочие версии и проверяйте конфигурацию перед переносом в действующий проект.

От настройки к рабочей задаче

После запуска выберите небольшой проект: объяснить структуру папки, найти источник значения или подготовить ограниченную правку. Сохраните исходное состояние, посмотрите план и проверьте diff. Полезность локального агента оценивается по выполненной задаче вместе с затратами на настройку и проверку.

Если хотите освоить агентный процесс под свой проект, можно обсудить индивидуальное обучение нейросетям. Вводная консультация бесплатная, обучение платное, стоимость зависит от задачи. Выбор локального или облачного инструмента сделаем после оценки оборудования и требований.

Все статьи

Комментарии

Пока нет комментариев - будьте первым.