Лучшие локальные ИИ-агенты: ИИ-ассистент на вашем собственном железе
Семь локальных ИИ-агентов, ранжированных по тому, как они работают с Ollama, vLLM, LM Studio или llama.cpp и сколько ваших данных остаётся на вашей машине.
Коротко
| Бот | Лицензия | Мессенджеры | |||||
|---|---|---|---|---|---|---|---|
| Agent Zero | MIT | 19,8 тыс. | Да | Да | Telegram, WhatsApp | Бесплатно | |
| QwenPaw | Apache-2.0 | 37,5 тыс. | Да | Нет | Telegram, iMessage, Discord, Slack | Бесплатно | |
| ZeroClaw | MIT OR Apache-2.0 | 33,3 тыс. | Да | Да | Telegram, WhatsApp, Discord | Бесплатно | |
| nanobot | MIT | 49,9 тыс. | Да | Нет | Telegram, WhatsApp, Discord, Slack | Бесплатно | |
| Khoj | AGPL-3.0 | 38,1 тыс. | Да | Да | Нет | Бесплатно | |
| Rakazo | Apache-2.0 | 7,5 тыс. | Да | Да | Telegram, WhatsApp, iMessage, Slack | От 10 $/мес. | |
| OpenClaw | MIT | 394,2 тыс. | Да | Нет | Telegram, WhatsApp, iMessage, Discord, Slack | Бесплатно |
Чек-лист
Каждый агент из нашего списка умеет работать с локальной моделью. Но это ещё не делает его хорошим локальным ИИ-агентом. С облачной моделью ваши промпты, файлы и фрагменты памяти покидают машину при каждом обращении. Полностью локальная работа означает, что модель, поиск, речь и память выполняются на принадлежащем вам железе, и очень немногие агенты позволяют пройти этот путь до конца.
Как мы их ранжировали
В этом списке локальная работа важнее всего остального:
- Поддерживаемые локальные среды выполнения. Ollama, vLLM, LM Studio, llama.cpp. Чем больше вариантов, тем вероятнее, что агент подойдёт к уже имеющемуся у вас железу.
- Что ещё остаётся локальным. Веб-поиск, распознавание речи, синтез речи и эмбеддинги. Агент, который запускает модель локально, но отправляет каждый поисковый запрос в облачный API, всё равно выдаёт, над чем вы работаете.
- Отсутствие телеметрии и песочница — по чек-листу из таблицы выше, потому что сторонникам локального подхода обычно важно и то и другое.
- Сложность установки и зрелость.
Замечание о железе: сами агенты лёгкие. RAM и GPU нужны модели, и толковая локальная модель требует гораздо больше, чем любой агент из этого списка. Сначала выясните, какую модель потянет ваша машина, а потом выбирайте агента.
1. Agent Zero
Agent Zero дальше всех продвинулся к полностью локальной конфигурации. Он поддерживает Ollama, LM Studio, llama.cpp, vLLM и oMLX (документация по установке), веб-поиск идёт через встроенный экземпляр SearXNG вместо поискового API, а распознавание и синтез речи могут работать локально через встроенные плагины Whisper и Kokoro (плагины). Агент работает внутри собственного Docker-контейнера, изолированного от вашего компьютера, если вы не дадите ему доступ.
Единственная его телеметрия — проверка обновлений, которая отправляет вашу версию и хешированный ID экземпляра; её можно отключить в настройках. Закладывайте минимум 2 ГБ RAM на сам Agent Zero, не считая модели.

2. QwenPaw
QwenPaw от команды AgentScope из Alibaba поставляется с собственной средой выполнения llama.cpp, так что может работать полностью офлайн без API-ключа и без отдельной установки Ollama (документация по моделям). Команда также публикует небольшие модели QwenPaw-Flash, обученные для агентных задач. Ollama и LM Studio тоже работают.
По безопасным настройкам по умолчанию он уступает Agent Zero: песочница для команд выключена, а задокументированная команда быстрого старта qwenpaw init --defaults автоматически соглашается на анонимную телеметрию установки. Чтобы отказаться, запускайте интерактивный qwenpaw init.

3. ZeroClaw
ZeroClaw — самый чистый выбор, если у вас уже запущен Ollama или другой OpenAI-совместимый сервер моделей. У него нет телеметрии, песочница ОС включена по умолчанию, а цепочки фолбэка между провайдерами позволяют поставить локальную модель первой в очереди с облачной за ней — или вообще без ничего за ней. Как единый бинарник на Rust он работает на маленьких платах вроде Raspberry Pi рядом с сервером моделей на более мощной машине.

4. nanobot
nanobot из коробки поддерживает Ollama, vLLM и LM Studio (провайдеры), не отправляет телеметрию и хранит память в виде обычных файлов Markdown в ~/.nanobot, которые легко просматривать и бэкапить. Его WebUI делает локальную конфигурацию приятной в использовании. Включите песочницу bubblewrap или Seatbelt, прежде чем позволять локальной модели выполнять shell-команды; по умолчанию она выключена.

5. Khoj
Khoj — специалист: «второй мозг» на ИИ, который индексирует ваши заметки и документы и отвечает на их основе. Он может работать полностью офлайн, с моделями GGUF через llama.cpp и эмбеддингами, генерируемыми на вашей машине, а также поддерживает Ollama, LM Studio и vLLM (установка). GPU (CUDA, ROCm, Vulkan или Apple Metal) пригодится.
Он на пятом месте, потому что разработка замедлилась (релизов не было с марта 2026 года), каналов в мессенджерах нет, а анонимизированная телеметрия использования отправляется, пока вы не зададите KHOJ_TELEMETRY_DISABLE=True.

6. Rakazo
Rakazo, который делаем мы, запускает локальные модели через Ollama или LM Studio (модели при self-hosting), не отправляет продуктовую аналитику с self-hosted-установки и даёт каждому боту изолированный компьютер. Он стоит здесь, потому что его локальная поддержка уже, чем у Agent Zero или QwenPaw: две локальные среды выполнения и ни одной встроенной. Кроме того, он в бета-версии. См. обзор Rakazo.

7. OpenClaw
OpenClaw работает с Ollama, LM Studio и vLLM (провайдер Ollama), так что ему место в любом списке локальных агентов, а его огромная экосистема плагинов — веская причина его выбрать. Но для сторонников локального подхода настройки по умолчанию тянут не в ту сторону: ежедневная проверка обновлений включена (update.checkOnStart: false её останавливает), а команды выполняются на вашем хосте, пока вы не включите песочницу. Если вам нужен OpenClaw с локальным инференсом и закрытой песочницей, NemoClaw оборачивает его с маршрутизацией через Ollama, vLLM или NVIDIA NIM ценой 8 ГБ RAM и статуса альфа.

Агент и модель на разных машинах
PicoClaw демонстрирует полезный шаблон. Его агенту нужно всего 10 МБ свободной RAM, и он работает на платах за $10 и старых телефонах, но ему всё равно нужен сетевой доступ к модели (документация по железу). Направьте его — или ZeroClaw — на сервер Ollama или vLLM на настольном компьютере с GPU, и вы получите постоянно работающего агента на крошечном устройстве, а весь инференс останется в вашей собственной сети. PicoClaw не попал в рейтинг, потому что сам проект не рекомендует использовать его в продакшене до v1.0.
Более широкий обзор — в подборке лучших self-hosted ИИ-агентов.
Лучшие подборки
Free, MIT-licensed AI agent that runs in its own Docker Linux workspace with a terminal, browser and desktop apps, and chats on Telegram and WhatsApp.
Runs in its own Docker container with local models, but sends telemetry by default.
Открыть Agent ZeroСильные стороны
- Free and MIT licensed, with frequent releases (v2.11 to v2.15 between late August and early November 2026)
- The agent works in its own Linux workspace with a terminal, browser, desktop apps and LibreOffice, isolated from your computer unless you grant host access
- Web search runs through a local SearXNG instance, and speech-to-text and text-to-speech can run locally
- Projects keep memory, files, secrets, instructions and model choices separate per job, with workspace snapshots you can roll back
- Built-in Telegram, WhatsApp and email channels, a scheduler, MCP and a community Plugin Hub with 200+ plugins
Слабые стороны
- Needs Docker, and the container image is a full Linux desktop environment rather than a small service
- No built-in image generation; the docs show teaching it an image API yourself
- By default it checks for updates with Agent Zero's server, sending your version and a hashed instance ID
- Code runs in the same container as Agent Zero itself today; per-task sandboxes are only a v3 prototype
- WhatsApp works by linking a phone account through a Baileys bridge, which needs Node.js, rather than the official WhatsApp Business API
Free, Apache-licensed personal AI agent from Alibaba's AgentScope team, formerly CoPaw, with a web console, memory, multiple agents and many chat apps.
Many chat apps and local models, but no sandbox and telemetry on by default.
Открыть QwenPawСильные стороны
- Runs fully offline with a built-in llama.cpp runtime and purpose-trained QwenPaw-Flash models, no API key needed
- Several independent agents, each with its own memory, skills and heartbeat, that can work together
- Layered security: Tool Guard, File Guard, skill scanning, access policies and an optional kernel-level sandbox
- Broad chat coverage, especially for Chinese platforms such as DingTalk, Feishu, WeChat and QQ, alongside Telegram, Discord, Slack and iMessage
- Well-documented web console for channels, cron jobs, heartbeat, skills, MCP and files
Слабые стороны
- The command sandbox is off by default, and inside Docker it falls back to no isolation
- The recommended setup command accepts anonymous install telemetry automatically
- No WhatsApp channel, and iMessage works only on a Mac with a third-party helper and Full Disk Access
- Desktop apps are still in beta, and the project moves fast, with frequent beta releases
Personal AI agent in one Rust binary, MIT or Apache-2.0, with local or cloud models, 30+ channels, approval gates and an OS sandbox on by default.
Meets every check: one Rust binary, approval gates and an OS sandbox on by default, no telemetry, local models.
Открыть ZeroClawСильные стороны
- Safe defaults: the recommended profile asks before medium-risk actions, blocks high-risk ones, keeps files in the workspace and runs tools in an OS sandbox
- One small Rust binary with one config file, running on macOS, Linux, Windows and boards like a Raspberry Pi
- More than 30 channels, plus a web dashboard for chat, memory, config and cron
- Provider fallback chains, local models through Ollama, and cryptographic receipts for tool calls
- States plainly that it sends no telemetry and needs no cloud account or license server
Слабые стороны
- Slack, iMessage, Signal and several other channels are not in the standard release; you build from source with extra features to get them
- `zeroclaw quickstart` only sets up the model provider; channels and risk profiles mean editing the TOML config file
- The Docker sandbox backend isn't picked automatically under the default native runtime
- Model costs are on you
Free, MIT-licensed personal AI agent in Python with a browser UI and terminal app, scheduled tasks, memory, and chat on Telegram, Discord, Slack and more.
Small, readable Python with a good web UI and no telemetry, but shell commands aren't sandboxed by default.
Открыть nanobotСильные стороны
- Free and MIT licensed, with a small Python core that is meant to be read and modified
- Polished bundled WebUI with projects, file diffs, an MCP app catalog and an automations calendar, plus a terminal UI
- Many chat channels, including Telegram, Discord, Slack, WhatsApp, WeChat, Feishu, Teams, Matrix and email
- Scheduled automations, long-running goals and a heartbeat that reports only useful results to your last chat
- Works with local models through Ollama, vLLM or LM Studio
Слабые стороны
- Shell commands are not sandboxed by default; the bubblewrap or macOS Seatbelt sandbox must be turned on, and Windows has none
- Model costs are on you, and voice messages need a separate transcription provider such as Groq or OpenAI
- No native mobile or desktop app; on a phone you use the WebUI in a browser or a chat app
- Missed scheduled runs are not replayed and interrupted subagent tasks are not relaunched after a restart
AGPL-licensed, self-hosted AI second brain that chats over your notes and documents with web search, custom agents and scheduled research emails.
Good at chatting over your own notes and documents, but development has slowed, it has no chat-app channels and telemetry is on by default.
Открыть KhojСильные стороны
- Searches and chats over your own notes and documents, including Markdown, Org-mode, PDF, Word, Notion and GitHub
- Works with local models through Ollama, LM Studio, vLLM or offline llama.cpp, and generates embeddings on your machine
- Custom agents with their own persona, knowledge, chat model and tools
- Automations run a query on a schedule and email you the result
- Generated code runs in a local Terrarium sandbox that the Docker Compose setup starts for you
Слабые стороны
- Development has slowed: no release since March 26, 2026, the last commit was on August 2, 2026, and the team now focuses on other products
- The hosted Khoj Cloud, and with it the WhatsApp bot, shut down on April 15, 2026, so self-hosting is the only way to use it
- AGPL-3.0 requires you to share your changes if you offer a modified version to others over a network
- Sends anonymized usage telemetry by default until you set KHOJ_TELEMETRY_DISABLE
- Scheduled emails need Resend and authentication set up when self-hosting, and no chat apps such as Telegram or Slack are supported
Open-source, self-hostable platform for persistent AI bots that each get a job, a computer, memory and routines, using the model you choose.
Our own product. Meets every check: Apache-2.0, sandboxed bot computers, no telemetry by default, any model you connect.
Открыть RakazoСильные стороны
- Open source (Apache-2.0) and fully self-hostable, including with local models
- Choice of model per bot, including existing Claude or ChatGPT subscriptions
- Bots keep working on schedules and triggers with their own cloud computer
- Approval controls over which actions a bot may take on its own
Слабые стороны
- Still in beta, with frequent releases
- You supply and pay for the model on the hosted plans, unless you buy Rakazo credits
- Telegram, WhatsApp and iMessage/SMS are only available when self-hosted
- More setup than a single chat app
Free, MIT-licensed personal AI agent that runs on your own computer and takes orders from WhatsApp, Telegram, iMessage, Slack and 20+ other chat apps.
The biggest ecosystem and every chat app, but sandboxing is off and telemetry is on by default.
Открыть OpenClawСильные стороны
- Free and MIT licensed, with no paid tier
- Runs on your own hardware, and state, memory and credentials stay there
- Works in 29 chat channels, including WhatsApp, Telegram, iMessage, Slack, Discord and Microsoft Teams
- Model-agnostic: 64 model and media providers, plus local models
- Large ecosystem of skills and 142 official plugins, and very active development
Слабые стороны
- Model costs are on you and can run high: testers and users have reported spending over $100 in a day with expensive models
- Sandboxing is off by default and the agent can run commands on the host unless you turn on approvals
- Setup and upkeep expect comfort with the command line; maintainers warn it is risky for non-technical users
- Broad access to email, messages and the system makes prompt injection and malicious third-party skills a real risk
Функции
| Agent Zero | QwenPaw | ZeroClaw | nanobot | Khoj | Rakazo | OpenClaw | |
|---|---|---|---|---|---|---|---|
| Поиск в интернете | Да | Да | Да | Да | Да | Да | Да |
| Генерация изображений | Нет | Да | Да | Да | Да | Да | Да |
| Голосовой режим | Да | Да | Да | Да | Да | Да | Да |
| Загрузка файлов | Да | Да | Да | Да | Да | Да | Да |
| Память | Да | Да | Да | Да | Да | Да | Да |
| Выполняет действия за вас | Да | Да | Да | Да | Да | Да | Да |
| Интеграции с приложениями | Да | Да | Да | Да | Да | Да | Да |
| Работает самостоятельно | Да | Да | Да | Да | Да | Да | Да |
| Пишет первым | Да | Да | Да | Да | Да | Да | Да |
| Несколько ботов | Да | Да | Да | Да | Да | Да | Да |
Источники
Agent Zero
- agent0ai/agent-zero on GitHub (MIT, README, safety model)
- Agent Zero releases (v0.2 in June 2024 to v2.15 on November 1, 2026)
- Agent Zero homepage
- Agent Zero docs: Installation (Launcher, A0 Install, Docker, local models)
- Agent Zero docs: VPS deployment (hardware requirements)
- Agent Zero model provider list
- Agent Zero update check code (version and hashed ID sent to api.agent-zero.ai)
- Agent Zero built-in Telegram integration plugin
- Agent Zero built-in WhatsApp integration plugin
- Agent Zero built-in plugins (scheduler, notify user, email, SearXNG search, Whisper STT, Kokoro TTS)
- Agent Zero docs: Memory guide
- Agent Zero docs: Agent Profiles
- Agent Zero docs: API integration (adding image generation yourself)
- Agent Zero v3: A Sneak Peek Inside the Sandbox (August 17, 2026)
- Agent Zero LLM API (Venice.ai proxy for A0T token stakers)
QwenPaw
- agentscope-ai/QwenPaw on GitHub (Apache-2.0, README with install options and telemetry)
- QwenPaw documentation
- QwenPaw v1.1.0 release notes: CoPaw rebrands to QwenPaw
- copaw on PyPI (first release February 2026)
- QwenPaw docs: Channels
- QwenPaw docs: Models (cloud providers, llama.cpp, Ollama, LM Studio)
- QwenPaw docs: Security (Tool Guard, File Guard, sandbox)
- QwenPaw source: security.sandbox_enabled defaults to off
- QwenPaw docs: Heartbeat
- QwenPaw docs: Multi-agent
- QwenPaw docs: Comparison (voice and video interaction)
- QwenPaw docs: Desktop application (beta)
- QwenPaw docs: Plugins (GPT Image 2 image generation plugin)
- QwenPaw Qwen-Image tool plugin (image generation and editing)
ZeroClaw
- zeroclaw-labs/zeroclaw on GitHub (MIT OR Apache-2.0, v0.8.7, README)
- ZeroClaw website
- ZeroClaw docs: Sandboxing
- ZeroClaw source: risk presets (Balanced, recommended, has the sandbox on)
- ZeroClaw docs: Channels overview (default and standard release bundles)
- ZeroClaw docs: You own it (no telemetry)
- ZeroClaw docs: Docker and containers
- ZeroClaw source: tools (image generation, screenshot, web)
nanobot
- HKUDS/nanobot on GitHub (MIT, v0.4.1, README)
- nanobot documentation
- nanobot release archive (officially launched February 2, 2026)
- nanobot docs: Chat apps
- nanobot docs: Providers and models (Ollama, vLLM, LM Studio)
- nanobot docs: Configuration (security, exec sandbox off by default, transcription, Langfuse)
- nanobot docs: Automations and heartbeat
- nanobot docs: Concepts (heartbeat delivery, subagent recovery)
- nanobot docs: Memory and Dream
- nanobot docs: Multiple instances
- nanobot docs: Deployment (Docker, services, Render)
- nanobot source: skills installer runs with DISABLE_TELEMETRY
Khoj
- khoj-ai/khoj on GitHub (AGPL-3.0, README)
- Khoj releases (latest 2.0.0-beta.28, March 26, 2026)
- Khoj commit history (last commit August 2, 2026)
- Khoj Cloud Has Been Sunset (April 15, 2026)
- Khoj homepage (Open Paper, Pipali and the Khoj app)
- khoj-assistant on PyPI (first release 0.1.0, August 2, 2022)
- Khoj docs: Self-host setup (Docker, pip, model providers)
- Khoj docs: Ollama
- Khoj docs: Telemetry
- Khoj docs: Privacy
- Stop sending client IP in telemetry so it matches the privacy docs (#1382)
- Khoj docs: Automations
- Khoj docs: Code execution (Terrarium sandbox)
- Khoj docs: Agents
- Khoj docs: Image generation
- Khoj docs: Voice
- Khoj docs: WhatsApp (bot tied to Khoj Cloud)
- Khoj server settings (memory feature enabled and on by default)
Rakazo
- Rakazo homepage
- Rakazo pricing
- Rakazo privacy policy
- Rakazo on GitHub (README and license)
- Rakazo changelog
- Rakazo releases
- Rakazo docs: Image and video generation
- Rakazo docs: Memory
- Rakazo docs: Connect apps
- Rakazo docs: Routines
- Rakazo docs: Chat apps
- Rakazo docs: Messaging apps (self-hosting)
- Rakazo docs: Bots and chats (add another bot, bot templates)
- Rakazo docs: Groups (several bots in one chat)
- Rakazo docs: Mobile app (notifications)
- Rakazo privacy policy (updated Sep 14, 2026)
- Rakazo privacy policy source on GitHub
- Rakazo docs: Logs and monitoring (product analytics off by default)
- Rakazo docs: Desktop app (run locally in Docker, updates)
- Rakazo docs: Docker computers
- Rakazo docs: Self-hosted models (Ollama, LM Studio)
- Rakazo Railway template setup guide
OpenClaw
- OpenClaw homepage and Foundation section
- OpenClaw integrations: channels, providers and plugins
- openclaw/openclaw on GitHub (MIT, v2026.11.1)
- OpenClaw docs: Sandboxing (off by default)
- Wikipedia: OpenClaw
- Notebookcheck: OpenClaw can burn through hundreds of dollars per day
- OpenClaw docs: Memory overview
- OpenClaw docs: Automations
- OpenClaw docs: Chat channels
- OpenClaw docs: iMessage
- OpenClaw docs: Heartbeat, now a default Proactive check job
- OpenClaw docs: Multi-agent routing
- OpenClaw docs: Platforms (macOS, Windows, Linux, iOS and Android apps)
- OpenClaw docs: Tools (exec, browser, web search)
- OpenClaw docs: Audio and voice notes (inbound transcription)
- OpenClaw docs: Image and media support (inbound media)
- OpenClaw docs: Install (system requirements, installer script, npm, desktop apps, Docker)
- OpenClaw docs: One-click deploy on Railway
- OpenClaw docs: Usage telemetry and update checks (on by default, feature statistics opt-in)
- OpenClaw docs: Ollama provider (local models)






