HR-бот на стероидах: как создать анализатор резюме с локальной AI вместо оплаты OpenAI

Почему платить OpenAI $20 в месяц, если можно заставить железо работать?

Представьте: каждый день в компанию приходят десятки резюме. HR тратит часы на первичный отсев. ChatGPT API кусается по цене, а корпоративные решения стоят как небольшой автомобиль. Есть другой путь - локальная модель, ваш компьютер и Telegram как интерфейс.

Что скрывается за красивыми словами "локальный AI"

Когда говорят "запустить LLM локально", обычно подразумевают три варианта: оллима, текстовое поколение-веб-интерфейс или что-то вроде LM Studio. Мы выберем последнее - потому что это самый человечный способ работать с моделями. Вы не будете копаться в консоли, не будете писать тонны кода для запуска сервера. Открыли приложение, выбрали модель - работает.

1 Выбираем модель: что действительно нужно для анализа резюме

Вам не нужна модель на 70 миллиардов параметров. Серьезно. Для анализа текста достаточно 7-13 миллиардов. Модель должна понимать русский, уметь структурировать ответ и не галлюцинировать с датами.

2 Устанавливаем и настраиваем LM Studio: не так страшно, как кажется

Скачиваете LM Studio с официального сайта. Устанавливаете. Открываете. Видите интерфейс, который напоминает что-то между медиаплеером и IDE.

Первое, что делаете - идете в раздел "Search" и вбиваете "Qwen2.5-7B-Instruct-GGUF". Выбираете вариант от TheBloke (это гарантия качества конвертации). Скачиваете файл ~5GB.

# Пример того, как НЕ надо делать:
# Не пытайтесь скачивать модели через wget или curl напрямую
# LM Studio сам разберется с кэшированием и проверкой целостности

После загрузки переходите в "Local Models", выбираете скачанную модель и жмете "Load model". В правой панели включаете "Server" - это запустит локальный API на порту 1234.

3 Пишем Telegram бота: 100 строк кода, которые заменят HR-специалиста

Создаете бота через @BotFather, получаете токен. Устанавливаете библиотеки:

pip install python-telegram-bot openai

Да, openai. Но не для облачного API, а для совместимости с локальным сервером. LM Studio эмулирует OpenAI API, поэтому ваш код будет думать, что обращается к ChatGPT.

import os
from telegram import Update
from telegram.ext import Application, CommandHandler, MessageHandler, filters, ContextTypes
from openai import OpenAI
import tempfile
import json

# Настройки
LM_STUDIO_URL = "http://localhost:1234/v1"
TELEGRAM_TOKEN = "ваш_токен_бота"

# Инициализируем клиент для локального сервера
client = OpenAI(base_url=LM_STUDIO_URL, api_key="not-needed")

async def start(update: Update, context: ContextTypes.DEFAULT_TYPE):
    await update.message.reply_text(
        "Отправьте мне резюме в формате PDF или текстом. "
        "Я проанализирую опыт, навыки и дам оценку соответствия."
    )

async def analyze_resume(update: Update, context: ContextTypes.DEFAULT_TYPE):
    message = update.message
    
    if message.document:
        # Скачиваем PDF
        file = await message.document.get_file()
        with tempfile.NamedTemporaryFile(suffix='.pdf', delete=False) as tmp:
            await file.download_to_drive(tmp.name)
            resume_text = extract_text_from_pdf(tmp.name)  # Нужна функция для PDF
    else:
        resume_text = message.text
    
    # Промпт для анализа
    system_prompt = """Ты - опытный HR-специалист. Проанализируй резюме и ответь в формате JSON:
{
  "summary": "Краткое описание кандидата",
  "experience_years": число лет опыта,
  "key_skills": ["навык1", "навык2"],
  "missing_skills": ["навык1", "навык2"],
  "red_flags": ["проблема1", "проблема2"],
  "fit_score": оценка от 1 до 10
}
Будь строгим, но справедливым."""
    
    try:
        response = client.chat.completions.create(
            model="local-model",  # Модель не важна, LM Studio использует загруженную
            messages=[
                {"role": "system", "content": system_prompt},
                {"role": "user", "content": f"Резюме:\n{resume_text[:3000]}"}
            ],
            temperature=0.3,
            max_tokens=1000
        )
        
        analysis = response.choices[0].message.content
        
        # Парсим JSON и форматируем ответ
        result = json.loads(analysis)
        reply = (
            f"📋 *Резюме проанализировано*\n"
            f"{result['summary']}\n\n"
            f"📊 *Опыт:* {result['experience_years']} лет\n"
            f"✅ *Ключевые навыки:* {', '.join(result['key_skills'][:5])}\n"
            f"⚠️ *Не хватает:* {', '.join(result['missing_skills'][:3])}\n"
            f"🔴 *Вопросы:* {', '.join(result['red_flags'][:3])}\n"
            f"⭐ *Оценка:* {result['fit_score']}/10"
        )
        
        await message.reply_text(reply, parse_mode='Markdown')
        
    except Exception as e:
        await message.reply_text(f"Ошибка анализа: {str(e)}")

# Функция для извлечения текста из PDF (упрощенная версия)
def extract_text_from_pdf(pdf_path):
    # В реальном проекте используйте PyPDF2 или pdfplumber
    return "Текст из PDF (реализуйте extraction)"

def main():
    app = Application.builder().token(TELEGRAM_TOKEN).build()
    
    app.add_handler(CommandHandler("start", start))
    app.add_handler(MessageHandler(filters.TEXT & ~filters.COMMAND, analyze_resume))
    app.add_handler(MessageHandler(filters.Document.PDF, analyze_resume))
    
    print("Бот запущен...")
    app.run_polling(allowed_updates=Update.ALL_TYPES)

if __name__ == "__main__":
    main()

4 Запускаем систему: что пойдет не так и как это починить

Запускаете LM Studio, ждете загрузки модели (индикатор внизу станет зеленым). Запускаете бота. Отправляете тестовое резюме. И...

Скорее всего, получите одну из этих ошибок:

• "Connection refused" - LM Studio сервер не запущен. Проверьте, что вкладка "Server" активна.
• Медленный ответ - модель думает 30-60 секунд. Это нормально для CPU. Уменьшите контекст или выберите меньшую модель.
• Бот не видит PDF - нужно реализовать extract_text_from_pdf. Используйте pdfplumber.
• Модель галлюцинирует - увеличьте temperature до 0.1-0.2 для более строгих ответов.

А если нужно больше, чем просто анализ текста?

Базовая система работает. Но настоящая магия начинается, когда вы добавляете контекст. Например, сравнение с требованиями вакансии. Или проверку на соответствие корпоративным стандартам.

Модифицируем промпт:

def create_analysis_prompt(resume_text, job_description):
    return f"""Сравни резюме с требованиями вакансии:

Вакансия: {job_description}

Резюме: {resume_text}

Ответь в формате:
1. Соответствие требованиям (%)
2. Сильные стороны для этой позиции
3. Критические недостатки
4. Рекомендация: интервью/отказ/дополнительные вопросы"""

Теперь бот будет давать персонализированные рекомендации. Храните описания вакансий в SQLite базе, связывайте с чатами.

Почему это работает лучше облачных решений (кроме очевидной экономии)

• Конфиденциальность - резюме не уходят в облако. Особенно важно для HR агенств и рекрутеров, работающих с персональными данными. Если вы юрист и боитесь слива клиентских тайн - этот подход для вас.
• Кастомизация - можете дообучить модель на своих данных. Добавить корпоративный жаргон, специфические требования.
• Стабильность - нет зависимости от API лимитов, блокировок, изменений в тарифах.
• Интеграция - можете подключить к внутренним системам, CRM, учетным программам.

Если нужно работать с документами сложнее простых резюме, посмотрите статью про LocalAI и PDF - там подробно разбирают извлечение текста из сложных форматов.

Когда локальный бот - плохая идея

Не обманывайте себя. Эта система не для всех случаев:

• Обработка сотен резюме в час - локальная модель не справится. Нужен кластер или облачное решение.
• Требуется анализ видео-интервью или голоса - для этого нужны другие модели, которые тяжело запустить локально.
• Команда из 50 HR, которые работают одновременно - сервер не выдержит. Нужно масштабирование.
• Требуется юридическая ответственность за решения AI - тогда нужны сертифицированные решения с доказательной базой.

Что делать, когда надоест возиться с кодом

Через месяц использования вы поймете, что хотите большего. Хранить историю анализов. Добавлять комментарии. Экспортировать отчеты.

Два пути:

1. Использовать готовые фреймворки - например, добавить RAG (Retrieval-Augmented Generation) для поиска по базе резюме. Об этом подходе подробно в статье RAG в 2024 году.
2. Перейти на агентную архитектуру - когда бот не просто анализирует, а сам задает уточняющие вопросы, запрашивает дополнительные документы. Посмотрите обзор лучших агентов для локальных LLM.

Самый частый вопрос: "А если у меня слабый компьютер?"

Берете самую маленькую модель - Llama-3.2-3B. Настраиваете в LM Studio использование только CPU. Выставляете количество потоков по количеству ядер. Устанавливаете контекст 2048 токенов (вместо 8192).

Да, будет медленнее. Да, ответы будут проще. Но система заработает даже на ноутбуке пятилетней давности. Главное - начать. Потом докупите оперативки или возьмете серверный процессор с AVX-512.

Кстати, если интересно, как другие справляются с ограничениями железа, почитайте историю про запуск LLM на ноутбуке с 24GB VRAM - там есть хитрости оптимизации.

И последнее: не верьте AI слепо

Локальная модель иногда ошибается. Может пропустить важный навык. Или переоценить опыт. Или, как в случае, описанном в статье когда нейросеть не верит Reuters, принимать странные решения.

Ваш бот - инструмент, а не замена рекрутеру. Он фильтрует очевидный мусор, выделяет кандидатов на интервью, экономит время. Но окончательное решение всегда за человеком.

Запустите систему. Протестируйте на старых резюме, по которым уже известен исход. Настройте промпты под свои нужды. И когда она заработает - вы поймете, что создали что-то настоящее. Не очередную игрушку, а рабочий инструмент, который экономит деньги и время каждый день.