Athena: офлайн голосовой ассистент на локальных LLM — обзор и настройка | AiManual
AiManual Logo Ai / Manual.
06 Июл 2026 Инструмент

Athena: Полностью офлайн голосовой ассистент на локальных LLM — разбор, настройка и сравнение с альтернативами

Разбираем Athena — 100% локальный voice-to-voice ассистент с открытым кодом. Возможности, примеры использования, сравнение с Fulloch, OpenClaw и другими. Как за

Голос без проводов — и без облаков

Представь: ты говоришь «Афина, включи трек», и колонка молча запускает музыку. Никакого шёпота серверов Amazon или Google, никаких подслушивающих устройств. Только твой голос, твой компьютер и модель, которая живёт внутри. Именно это обещает Athena — проект на GitHub, который делает голосового ассистента полностью локальным.

Середина 2026 года: рынок локальных AI-решений бурлит. Fulloch V2, OpenClaw, Meeting-LLM — каждый тянет одеяло на себя. Но Athena выделяется архитектурой voice-to-voice: распознавание речи → LLM → синтез речи — всё на одной машине, без единого запроса в интернет. И да, с открытым кодом.

Проект всё ещё в статусе beta, но уже собирает звёзды на GitHub. Главная фишка — поддержка mixture-of-experts (MoE) моделей, которые экономят VRAM, не теряя в качестве. Идеально для тех, у кого одна видеокарта с 12–16 ГБ.

Что под капотом: архитектура Athena

Athena использует связку из трёх компонентов:

  • STT (Speech-to-Text) — на базе Whisper.cpp (последняя версия large-v3, 2025). Работает на CPU, но быстрее на CUDA.
  • LLM — по умолчанию Mixtral 8x7B или Qwen2.5-14B-Instruct (MoE). Можно подключить любую модель через Ollama или llama.cpp.
  • TTS (Text-to-Speech)Kokoro или Kitten TTS. На выбор: мужской, женский, разные языки.

Вся обработка цепочки (входной аудиопоток → транскрипция → ответ модели → синтез речи) занимает 1–2 секунды на RTX 3090. На более слабых картах — 3–5 секунд. Терпимо для разговора.

1 Установка: пять минут до первой команды

Склонируй репозиторий, установи Python 3.11+, поставь зависимости. Ниже — минимальный старт.

git clone https://github.com/athena-voice/athena.git
cd athena
pip install -r requirements.txt
python athena.py --model mixtral-8x7b --stt whisper --tts kokoro

Если хочешь загрузить модель через Ollama — просто укажи --llm-backend ollama. Проект дружит с любым раннером LLM, который поддерживает OpenAI-совместимый API.

Важно: для синтеза речи на русском языке используй Kokoro 2.0 или дообученный Kokoro-RU. Английские голоса работают из коробки, русские — с небольшим акцентом, если модель не дообучена.

Сравнение: Athena vs другие локальные ассистенты

На рынке 2026 года есть несколько прямых конкурентов. Сравним по ключевым параметрам.

ХарактеристикаAthenaFulloch V2OpenClaw
Поддержка voice-to-voice✔️ полная цепочка✔️ через Home Assistant❌ только текст
Работа с инструментами➕ базовые (API, скрипты)✔️ 50+ интеграций✔️ Git, почта, Slack
MoE модели✔️ да (Mixtral, Qwen2.5-MoE)❌ только обычные❌ только обычные
Минимальный VRAM12 ГБ (с квантизацией 4-bit)16 ГБ8 ГБ (только LLM)
Сложность настройкисредняя (CLI)высокая (Home Assistant)средняя (YAML)

Athena выигрывает минимальным порогом входа для voice-to-voice. Но если тебе нужно управлять умным домом через голос — Fulloch V2 даст больше готовых сценариев. Если нужно работать с кодом и Git — OpenClaw удобнее. Athena — золотая середина для тех, кто хочет именно разговаривать с AI, не погружаясь в экосистемы.

Живой пример: сценарий «утренний дайджест»

Включи микрофон, скажи: «Афина, что в моём календаре на сегодня?». Ассистент:

  1. Распознаёт речь через Whisper-large-v3.
  2. Вытаскивает событие из локального CalDAV-сервера (через функцию get_calendar).
  3. Генерирует ответ через Mixtral 8x7B: «У тебя встреча в 10:00 с дизайнерами, и созвон в 15:00.»
  4. Озвучивает через Kokoro 2.0 с женским голосом.

Всё это — без единого запроса в интернет. Даже если ты в поезде или в бункере. (Ну, почти. Календарь должен быть локальным.)

Можно подключить свои функции через n8n или написать плагин на Python. В документации Athena есть раздел «Custom Tools» — туда скармливается JSON-описание API.

Кому Athena пригодится больше всего

  • Параноикам конфиденциальности — никаких записей «на стороне». Всё шифруется 0-RTT на твоём ПК.
  • Разработчикам-одиночкам — хочешь поиграть с MoE, сравнить качество ответов разных моделей? Athena даёт прямой доступ к LLM без обёрток.
  • Фрилансерам в офлайне — на удалёнке без интернета? Запустил Athena, говоришь себе задачи, она записывает в Obsidian (кстати, Meeting-LLM это тоже умеет, но там упор на транскрибацию совещаний).
💡
Совет: если у тебя всего 8 ГБ VRAM — используй --model Qwen2.5-7B-Instruct-q4_K_M.gguf и отключи TTS (работай с текстовым ответом). Тогда помещаешься. А если есть RTX 3090 — смело ставь Mixtral 8x7B с 4-bit.

Почему mixture-of-experts меняет правила игры

Обычная LLM использует все 7 миллиардов параметров для каждого токена. MoE-модель активирует только часть «экспертов» — например, 2 из 8. Это даёт скорость как у 7B-модели, а качество — как у 13B. Athena первой среди голосовых ассистентов сделала MoE приоритетом.

На практике: Mixtral 8x7B (46 ГБ в полной точности) после квантизации 4-bit занимает ~24 ГБ, но активных параметров — всего ~12 ГБ. На RTX 3090 с 24 ГБ работает без свопинга. Qwen2.5-14B-MoE (110B total, 14B активных) — ещё интереснее: весит 16 ГБ в 4-bit, при этом отвечает как большой Llama-3-70B.

Звучит как магия? Ну, почти. Практический совет: для русского языка бери Qwen2.5-MoE — он лучше справляется с кириллицей, чем Mixtral.

Недостатки: без лакировки

Athena пока не умеет:

  • Работать в фоне как полноценный сервис (нужно держать терминал открытым).
  • Обрабатывать несколько голосовых запросов одновременно (один поток).
  • Интегрироваться с Google Calendar или Exchange — только CalDAV.

С другой стороны, голосовой ассистент на Python из Telegram тоже не умел — проект эволюционирует. Athena развивается быстро: за последние три месяца (апрель–июнь 2026) добавили поддержку LoRA-адаптеров для голоса и стриминг аудио через WebSocket.

Прогноз: что дальше

Думаю, к концу 2026 Athena обрастёт плагинами под Home Assistant, а голосовые модели TTS доучат до естественности ElevenLabs. Уже сейчас уровень — «почти не отличишь от человека». Единственное, что тормозит проект — мода на AGI. Все хотят сделать «сознательный» AI, а просто удобный локальный ассистент — кажется слишком приземлённым. Зря. Именно такие инструменты меняют повседневность.

Подписаться на канал