Snapcompact: как экономить токены, используя изображения вместо текста

Токены жрут бюджет. Если вы хоть раз выставляли лимит в OpenAI Dashboard и видели, как цифра улетает в космос от одного длинного промпта — вы меня поймете. Каждый лишний абзац, каждый развернутый ответ агента, каждый залогиненный JSON — все это стоит денег. И чем сложнее задача, тем больнее бьет по кошельку.

Обычно проблему решают так: суммаризируют историю, режут контекст, используют эмбеддинги (кстати, есть модели по 700 КБ, которые можно гонять локально). Но есть способ радикальнее — просто перестать пихать в модель горы текста. Вместо этого мы отдаем картинку.

Идея, от которой у бухгалтера дергается глаз

Snapcompact (собирательное название группы техник) работает на простом принципе: мультимодальные модели — GPT-4o, Claude 3.5 Opus, Qwen2.5-VL — умеют извлекать информацию из изображений. При этом стоимость «входного» изображения фиксирована, а за текст приходится платить за каждый токен. Если ваши данные легко визуализировать (таблицы, графики, логи, куски кода, JSON), вы можете отрендерить их в картинку и отправить модели вместо текстового промпта.

Звучит как магия? На практике — да, работает. Но есть нюансы, и главный: мультимодальные модели не настолько безупречно читают текст, как человек. Если у вас мелкий шрифт, искаженные символы или сложная верстка — модель потеряет часть данных. Поэтому Snapcompact — это компромисс: вы жертвуете идеальной точностью ради дикой экономии.

Как это выглядит в коде

Самый простой сценарий: у вас есть JSON-массив с данными, который нужно скормить LLM для анализа. Вместо того чтобы передавать его текстом, вы рендерите этот JSON в структурированную картинку (например, используя Pillow и pandas для визуализации таблицы).

import json
from PIL import Image, ImageDraw, ImageFont
import math

def render_json_to_image(data: list[dict], max_width=1200, row_height=30) -> Image.Image:
    """Превращает список словарей в картинку с псевдо-таблицей."""
    if not data:
        return None
    keys = list(data[0].keys())
    n_rows = len(data) + 1  # +1 заголовок
    n_cols = len(keys)
    col_width = max_width // n_cols
    height = n_rows * row_height + 20

    img = Image.new('RGB', (max_width, height), 'white')
    draw = ImageDraw.Draw(img)
    font = ImageFont.load_default()

    # header
    for ci, key in enumerate(keys):
        x = ci * col_width
        y = 0
        draw.rectangle([x, y, x+col_width, row_height], fill='lightgray')
        draw.text((x+5, y+5), key, fill='black', font=font)

    # rows
    for ri, row in enumerate(data):
        for ci, key in enumerate(keys):
            x = ci * col_width
            y = (ri + 1) * row_height
            draw.text((x+5, y+5), str(row.get(key, '')), fill='black', font=font)

    return img

# пример: список пользователей
users = [
    {'name': 'Alice', 'age': 30, 'city': 'New York'},
    {'name': 'Bob', 'age': 25, 'city': 'San Francisco'},
    {'name': 'Charlie', 'age': 35, 'city': 'London'}
]

img = render_json_to_image(users)
img.save('users_table.png')

Дальше вы шлете эту картинку в API вместе с промптом «распарси данные из таблицы». Текстовая часть промпта крошечная, основная информация — в пикселях. Сравните: 1000 токенов текста против одной картинки (кодируется в ~85–170 токенов в зависимости от количества патчей). Выигрыш очевиден.

Сравнение: Snapcompact vs традиционные методы сжатия

Snapcompact выигрывает в «плотности»: одна картинка заменяет килобайты текста. Но он проигрывает в точности, если данные неструктурированы. Например, длинное эссе или диалог превратить в картинку и прочитать без потерь сложнее. Зато для логов, таблиц, кода — это бомба.

Подводные камни: когда Snapcompact превращается в головную боль

• Разрешение картинки. Если вы сжимаете слишком сильно, модель не разберет мелкие детали. Оптимальный DPI — 150–200, ширина — 800–1200 пикселей.
• Цветовые схемы. Dark theme может запутать OCR. Используйте черный текст на белом фоне (как в примере выше).
• Мультистраничные данные. Если у вас таблица на 1000 строк, одна картинка не влезет. Придется бить на несколько изображений, что снижает экономию.
• Латентность. Отрендерить картинку — микросекунды, а вот передача base64 по сети может занять больше времени, чем короткий текст. В высоконагруженных системах это критично.

Кстати, о рендеринге: можно использовать не только изображения, но и анимированные PNG? Пока нет внятных тестов, но есть вероятность, что модель сможет извлекать информацию из последовательности кадров. Дерзкая идея для эксперимента.

Кому реально пригодится

• Разработчики AI-агентов. Агенты постоянно генерируют и передают друг другу JSON-ответы. Превратите промежуточные данные в картинку — сэкономите 30–40% затрат на токены.
• RAG-системы с цветными документами. RAG-Anything уже умеет работать с PDF и изображениями, а Snapcompact может стать его дополнением: картинка вместо текстового фрагмента.
• Аналитики, которые гоняют дашборды. Вместо того чтобы просить LLM прочитать 1000 строк CSV, передайте скриншот графика — модель ответит быстрее и дешевле.
• Все, кто работает с Qwen-Image-Layered (см. обзор инструмента): можно объединить сжатие контекста и манипуляции с изображениями.

Но есть и те, кому Snapcompact противопоказан. Если вы пишете медицинские диагнозы или юридические документы — любая потеря точности недопустима. Там лучше заплатить за токены, чем за ошибку. Хотя если вы используете тонкую настройку модели под OCR, возможно, и риск оправдан.

Размер имеет значение: считаем токены

Чтобы не быть голословным, вот реальный расчет на основе статьи про стоимость токенов Qwen 3.6 35B. Текстовый промпт на 2000 токенов через GPT-4o обойдется ~$0.03. Изображение 512x512 (85 токенов) стоит ~$0.0017. Разница в 17 раз. При 1000 запросов в день экономия — $28 в день, $840 в месяц. Не знаю как вам, а мне хватило бы на подписку на Midjourney и еще на пиццу осталось.

Но есть тонкость: за каждое изображение вы платите не только за патчи, но и за текстовую часть промпта (она обычно маленькая). Итоговый выигрыш может быть меньше, если модель тупит и просит повторить данные текстом. Придется экспериментировать.

Будущее метода

Snapcompact сейчас — хак, не стандарт. Но с выходом моделей с гигантским контекстом (Claude 2M, Gemini 10M) идея «сжать текстом» может уйти в прошлое. Однако пока прайсинг API остается попиксельным, изображения выгоднее. Возможно, уже через полгода мы увидим библиотеки, которые автоматически конвертируют текстовые дампы в визуальный код и обратно. А пока — делаем руками.

Если вы хотите попробовать прямо сейчас, рекомендую начать с бесплатного API OpenAI или Anthropic — оба поддерживают изображения. В доках есть готовые сниппеты.

Подписаться на канал