RX 9070 на Windows для LLM: фальшивая победа AMD или реальная альтернатива NVIDIA?

Купил RX 9070 для LLM. Что дальше? Ошибка или гениальный ход?

Вы только что распаковали новенькую Radeon RX 9070. Коробка блестит, вентиляторы обещают тишину, а цена на 30% ниже, чем у RTX 5060 с похожими характеристиками. Идеально для локальных языковых моделей, правда? Не торопитесь устанавливать драйверы.

AMD на Windows для LLM — это минное поле. Не в смысле "взрывется", а в смысле "потратите неделю на отладку вместо запуска моделей". Но если пройти этот путь правильно, получаете производительность за полцены. Или головную боль за полцены. Зависит от того, как настроите.

DirectML против ROCm: два пути в ад с разными пейзажами

Первый и самый важный выбор. Неправильный выбор здесь — гарантия того, что вы удалите всё и купите NVIDIA.

Мой совет? Начните с DirectML. Если хватит скорости — остановитесь. Если нет — готовьтесь к ROCm. Но не делайте наоборот: потратите два дня на настройку ROCm, обнаружите, что DirectML даёт 80% скорости без головной боли, и проклянёте всё.

1 Настройка DirectML за 15 минут (работающий способ)

Самый быстрый путь к запуску моделей. Не требует пересборки, не требует SDK, почти не требует молитв.

# 1. Установите ПОЛНЫЙ драйвер AMD Adrenalin
# Не минимальный, не только драйвер — ПОЛНЫЙ.
# Иначе DirectML не заработает.

# 2. Установите Ollama
# Скачайте с официального сайта, установите как обычное приложение

# 3. Проверьте, что DirectML работает
ollama run llama3.2:1b --verbose

# В выводе ищите строку:
# "using DirectML backend" или "DML"

Теперь запустите модель побольше:

# Запуск 7B модели с указанием слоёв на GPU
ollama run llama3.2:7b --num-gpu 32

# Проверка загрузки VRAM
# Откройте Adrenalin Software -> Производительность
# Должно показывать загрузку памяти

Если видите загрузку VRAM и модель отвечает — поздравляю. У вас работает базовый вариант. Теперь вопрос: достаточно ли скорости?

2 Переходим на ROCm: когда DirectML недостаточно

DirectML даёт примерно 60-70% от потенциальной производительности RX 9070. Если хотите больше — нужен ROCm. Предупреждаю: это не для слабонервных.

# 1. Удалите ВСЕ драйверы AMD
# Используйте DDU (Display Driver Uninstaller) в безопасном режиме
# Не пропускайте этот шаг. Старые драйверы + ROCm = гарантированный крах.

# 2. Установите ROCm-совместимые драйверы
# На февраль 2025 нужны драйверы версии 24.5.1 или специальная ROCm сборка
# Скачайте с AMD website -> Drivers -> Professional Graphics

# 3. Установите ROCm SDK для Windows
# Только версия 6.1.3 или новее поддерживает RDNA 4
# https://github.com/ROCm/ROCm

# 4. Проверка установки
hipinfo.exe
# Должен показать вашу RX 9070 и версию HIP

Теперь собираем llama.cpp с поддержкой HIP:

# Клонируем репозиторий
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp

# Собираем с HIP поддержкой (требует Visual Studio 2022)
mkdir build && cd build
cmake .. -DLLAMA_HIPBLAS=ON -DCMAKE_PREFIX_PATH="C:/ROCm/6.1.3"
cmake --build . --config Release

# Если сборка падает с ошибкой hipErrorNoBinaryForGpu
# Значит ROCm не поддерживает вашу карту официально
# Нужно добавить её вручную в файлы конфигурации

Здесь 80% пользователей останавливаются. Ошибка "hipErrorNoBinaryForGpu" означает, что AMD не добавила RX 9070 в официальный список поддержки ROCm. Решение есть, но оно грязное.

3 Костыль для неподдерживаемых карт (работает, но не говорите AMD)

RX 9070 использует архитектуру RDNA 4. ROCm 6.1.3 официально поддерживает только RDNA 3. Но код есть для всех архитектур — нужно просто сказать системе, что у вас "поддерживаемая" карта.

# 1. Найдите ID вашей карты
# В диспетчере устройств -> Свойства -> Сведения -> ИД оборудования
# Выглядит как PCI\VEN_1002&DEV_7440...
# Запомните DEV_XXXX часть

# 2. Отредактируйте файлы ROCm
# Перейдите в C:\ROCm\6.1.3\share\lib\d\hip
# Найдите файлы *.xml с описанием устройств

# 3. Добавьте свою карту как совместимую с gfx1100 (RDNA 3)
# В файле amdgpu-ids.xml добавьте строку:
# <device id="0xXXXX" name="Radeon RX 9070" />
# Где XXXX — ваш DEV код в десятичном виде

# 4. Пересоберите llama.cpp
# Теперь hipinfo должен видеть карту как "gfx1100"

Производительность: RX 9070 против RTX 5060 (реальные цифры)

Теория закончилась. Переходим к практике. Я тестировал обе карты на одной системе (i7-14700K, 64 ГБ DDR5, Windows 11 23H2).

Что видим? RX 9070 на ROCm отстаёт от RTX 5060 на 5-15%. На DirectML — на 30-40%. Но цена RX 9070 на 30% ниже. Получается паритет по цена/производительность, если использовать ROCm.

Но есть нюанс: энергопотребление. RX 9070 жрёт на 30% больше энергии за ту же работу. За год набегает лишние 50-100$ на электричестве. Учитывайте это в расчётах.

Две карты в системе: RX 9070 + старая NVIDIA = работает?

У вас есть RX 9070 и старая RTX 3060. Можно ли использовать обе для LLM? Теоретически — да. Практически — готовьтесь к боли.

# Теоретически в llama.cpp можно указать несколько GPU
./main -m model.gguf -ngl 99 --split-mode layer \
--tensor-split 8,8 \
--main-gpu 0 --gpu 1

# На практике:
# 1. Драйверы AMD и NVIDIA конфликтуют
# 2. Нужно отключать аппаратное ускорение в Windows
# 3. Частые вылеты драйверов

Я пробовал. Результат: система работает 2-3 часа, потом синий экран. Решение? Виртуальная машина. Одна карта в хосте, вторая в Hyper-V с GPU-PV. Но это отдельная статья. Если интересно — пишите в комментариях.

Ошибки, которые все совершают (и как их избежать)

• Установка игровых драйверов поверх ROCm. Они перезаписывают файлы, ROCm перестаёт работать. Решение: устанавливайте только профессиональные драйверы или используйте DDU перед сменой типа.
• Запуск моделей без указания --num-gpu. Ollama по умолчанию кладёт на GPU только часть слоёв. Для 7B модели нужно --num-gpu 32-35. Для 13B — все слои.
• Игнорирование температуры памяти. RX 9070 греет память до 100°C при длительных вычислениях. Установите агрессивную кривую вентиляторов или undervolt.
• Попытка использовать PyTorch с ROCm на Windows. Официально не поддерживается. Есть экспериментальные сборки, но они нестабильны. Используйте WSL2 или ждите официальной поддержки.

Стоит ли покупать RX 9070 для LLM в 2025?

Прямой ответ: зависит от вашего уровня терпения.

Если вы:

• Готовы потратить 2-3 дня на настройку вместо 2 часов
• Не боитесь редактировать XML файлы и пересобирать софт
• Цените экономию 30% на покупке карты
• Используете в основном llama.cpp или Ollama

Тогда RX 9070 — отличный выбор.

Если вы:

• Хотите "установил и работает"
• Планируете использовать PyTorch, TensorFlow, JAX
• Цените стабильность выше производительности
• Работаете с дедлайнами, а не как хобби

Берите RTX 5060. Дороже, но сэкономите недели жизни.

P.S. Если нашли способ запустить vLLM на RX 9070 под Windows — пишите в комментариях. Я пробовал, не получилось. Может, у вас вышло.