Практическое руководство: Как обучить Qwen 2B для реальной задачи, обогнав 35B модель за £1

Большинство инженеров до сих пор думают, что качество модели напрямую зависит от количества параметров. Хотят автоматизировать обработку диктовок врачей - сразу смотрят на Qwen 3.5-32B или GPT-5. А зря. Потому что я вот за 90 минут и £0.78 сделал из Qwen 2B монстра, который на моей задаче бьёт 35B модели. И сейчас покажу, как повторить.

Секрет не в магии, а в двух вещах: completions-only training и правильном сборе данных через обратный прокси. Когда у вас узкая задача (очистка диктовки, форматирование кода, перевод в определённый стиль), большая модель тратит 90% мощности на «понимание» инструкции. Маленькая модель, заточенная только на completion, делает то же самое быстрее и дешевле.

Что мы будем делать и почему это работает

Задача: превратить грязную диктовку врача («ну так видим пациента сорока лет жалуется на... эээ... головную боль в течение двух недель») в чистый клинический текст. Большие модели отлично справляются, но медленные и дорогие в инференсе. Мы берём Qwen 2B и обучаем его ТОЛЬКО на завершениях (completions), без инструкций. Модель учится паттерну: «грязный текст → чистый текст».

Почему 2B может обогнать 35B? Потому что 35B тратит ресурсы на:

• Понимание промпта
• Общие знания (которые нам не нужны)
• Генерацию «вежливого» ответа

Наша 2B делает одно действие. Как заточенный скальпель вместо швейцарского ножа.

Шаг 0: Подготовка - что нужно перед стартом

Железо: мне хватило RTX 4080 Super (16GB VRAM). Подойдёт любая карта от 12GB. Аренда на RunPod или Vast.ai обойдётся в $0.3-0.5/час. На всё обучение ушло 1.5 часа.

Софт:

• Python 3.11+
• PyTorch 2.4+ (актуально на март 2026)
• Transformers 4.45+
• Axolotl или Unsloth для обучения (я использовал Unsloth - он даёт ускорение в 2.5x)
• LiteLLM для reverse proxy

1 Собираем данные: обратный прокси и синтетика

Это самый важный этап. Без данных - ничего. Есть два пути:

Реальные данные: ставим LiteLLM как обратный прокси перед OpenAI API (или любым другим). Все запросы к большой модели логируем. Вам нужно 500-1000 пар «грязный текст → очищенный текст». За неделю использования на реальной задаче набирается.

# Конфигурация LiteLLM proxy
# config.yaml
model_list:
  - model_name: gpt-4-turbo
    litellm_params:
      model: openai/gpt-4-turbo
      api_key: sk-...
      num_retries: 3

litellm_settings:
  drop_params: True
  set_verbose: True
  log_requests: True  # Включаем логирование всех промптов и ответов

Запускаем: litellm --config ./config.yaml --port 8000

Теперь все запросы идут через ваш прокси на localhost:8000, вы логируете всё в JSON-файлы. Главное - убедитесь, что у вас есть право на использование данных для обучения (или анонимизируйте).

Синтетические данные: нет реальных данных? Генерируем. Берём чистые клинические тексты (их много в открытом доступе, анонимизированных) и «загрязняем» их:

• Добавляем слова-паразиты («ну», «так», «это»)
• Вставляем паузы («эээ», «ммм»)
• Ломаем грамматику (имитируя устную речь)
• Меняем порядок слов

Можно использовать для этого же Qwen 3.5-14B - попросить его создать «устную версию» текста. Получается чистая дистрибуция данных.

2 Подготовка датасета: почему не нужно интрукций

Вот где большинство ошибается. Они готовят датасет в формате:

{
  "instruction": "Очисти диктовку врача",
  "input": "пациент сорока лет эээ жалуется на головную боль",
  "output": "Пациент 40 лет жалуется на головную боль."
}

Неправильно! Нам нужно completions-only. Формат:

{
  "text": "пациент сорока лет эээ жалуется на головную боль → Пациент 40 лет жалуется на головную боль."
}

Или даже проще:
{
  "text": "пациент сорока лет эээ жалуется на головную боль Пациент 40 лет жалуется на головную боль."
}

Разделитель можно выбрать любой (→, |||, ###). Модель научится паттерну. При генерации вы даёте только первую часть до разделителя - она дописывает вторую.

Преобразуем все пары в один текст с разделителем. Размер датасета: достаточно 1000 примеров. Да, всего тысячи. Для узкой задачи - хватит.

3 Обучение: гиперпараметры и экономия

Использую Unsloth (последняя версия на март 2026 поддерживает Qwen 3.5).

from unsloth import FastModel
import torch
from transformers import TrainingArguments
from trl import SFTTrainer

model, tokenizer = FastModel.from_pretrained(
    model_name="Qwen/Qwen2.5-2B-Instruct",
    max_seq_length=2048,
    load_in_4bit=True,  # Экономия памяти
    # Используем новое квантование Q4_K_M если доступно
)

# Важно: отключаем causal mask для completions-only?
# Нет, оставляем включенным - модель учится предсказывать следующий токен

training_args = TrainingArguments(
    output_dir="./qwen2b-dictation-cleaner",
    num_train_epochs=3,  # Всего 3 эпохи!
    per_device_train_batch_size=8,
    gradient_accumulation_steps=2,
    warmup_steps=50,
    logging_steps=10,
    save_steps=200,
    eval_steps=200,
    evaluation_strategy="steps",
    learning_rate=2e-4,  # Чуть выше, чем обычно
    fp16=True,
    optim="adamw_8bit",
    report_to="none",
    gradient_checkpointing=True,
)

# Загружаем наш датасет
train_dataset = ...  # загрузка из JSON

trainer = SFTTrainer(
    model=model,
    tokenizer=tokenizer,
    args=training_args,
    train_dataset=train_dataset,
    dataset_text_field="text",  # наше поле с текстом
    max_seq_length=1024,
)

trainer.train()

Ключевые моменты:

• Всего 3 эпохи - больше не нужно, модель быстро переобучается
• Batch size 8 - оптимально для 2B модели на 16GB
• Learning rate 2e-4 - выше, чем для полного обучения, потому что мы делаем fine-tuning, а не pre-training

Время обучения на RTX 4080 Super: 87 минут. Стоимость аренды: $0.42 * 1.45 часа = $0.61 ≈ £0.48.

4 Инференс и сравнение с большими моделями

После обучения получаем модель ~1.3GB (в 4-битном формате). Запускаем сравнение:

*Точность измерялась как процент полностью правильных очисток на тестовой выборке из 200 примеров.

Разница в 1.4% точности между нашей 2B и 32B моделью не стоит 75-кратного увеличения стоимости инференса. А GPT-5 всего на 3.6% лучше при стоимости в 2100 раз выше.

Где это сломается и как чинить

Проблема 1: модель начинает «галлюцинировать» и добавлять информацию, которой не было в исходном тексте.

Решение: добавить в датасет примеры, где нужно сохранить все детали. Или использовать penalty при генерации.

Проблема 2: модель работает только с конкретным типом диктовок (например, неврологических).

Решение: добавить в обучение примеры из других специальностей. Или сделать несколько специализированных моделей - они всё равно маленькие.

Проблема 3: после квантования в 4-bit качество падает.

Решение: использовать Quantization-Aware Training или современные методы квантования вроде IQ2.

Что дальше? Пуш в production

Обученную модель можно:

1. Запустить на инференс-сервере с vLLM - получите 200+ токенов/сек на том же RTX 4080 Super
2. Собрать в Docker-образ размером 2GB
3. Развернуть на бесплатном инстансе Google Cloud Run (если укладываетесь в 2GB памяти)
4. Использовать в пайплайне обработки вместе с Whisper для транскрибации

Философия простая: не гонитесь за большими моделями для простых задач. Возьмите маленькую, заточите её под свою специфику - и она будет быстрее, дешевле, а часто и точнее. Особенно если у вас ограниченный бюджет или требования к latency.

P.S. Если интересно, как такую модель заставить работать ещё быстрее - посмотрите мою статью про IQ2 квантование. Там есть трюки, которые ускоряют инференс в 2-3 раза без потери качества.

Подписаться на канал