Где арендовать GPU дешевле DeepInfra: сравнение цен и условий на A100, H100, B200

Почему DeepInfra - не панацея для аренды GPU?

DeepInfra стал жертвой собственного успеха. Цены поползли вверх, доступность GPU упала. Если вы тренируете модели или делаете инференс, каждый доллар на счету. И DeepInfra не всегда самый дешёвый вариант.

Последние месяцы показали: провайдеры GPU меняют цены как перчатки. Новые игроки врываются на рынок, предлагая агрессивные тарифы. Старые облачные гиганты снижают цены в ответ. Где же прячутся скидки?

Цены на GPU: кто дешевле DeepInfra?

Сравниваем почасовую стоимость. Берём популярные конфигурации: A100 40GB, H100 80GB, новейший B200. Минимальное время аренды - критичный параметр. Не хотите платить за сутки, если нужно два часа.

A100: где найти старую добрую рабочую лошадку

A100 - золотой стандарт для многих задач. 40GB памяти хватает для большинства моделей. 80GB версия дороже, но иногда необходима.

• Hyperstack: 1.20$ за час - одна из самых низких цен. Но инстансы могут пропадать в пиковые часы.
• OVHcloud: 1.40$ за час, плюс европейские дата-центры. Если важна география, присмотритесь. У них есть интересные предложения для инференса, как в статье OVHcloud врывается в инференс.
• Runpod: 1.80$ за 80GB версию. Хороший баланс цены и памяти.
• Google Cloud и AWS: дорого для on-demand, но если брать предоплату на год, цена падает на 40-60%. Считайте TCO.

H100: гонка за флагманом

H100 быстрее A100 в 2-3 раза для некоторых задач. Но цена кусается. И дефицит.

Hyperstack снова в лидерах - 3.80$ за час. DeepInfra - 4.00$. Разница в 20 центов кажется мелочью, но при круглосуточной работе за месяц набегает 144 доллара. Не мелочь.

AWS за 8$ за час - это грабёж. Берите только если другие варианты исчерпаны. Или если у вас есть скидки от стартап-программ.

B200: будущее уже здесь, но не для всех

NVIDIA B200 - монстр с 192GB памяти. Идеален для огромных моделей. Но арендовать его могут единицы.

DeepInfra и OVHcloud предлагают B200. Цены около 10$ за час. Другие провайдеры пока не успели внедрить. Если нужен B200, выбор невелик.

Стоит ли оно того? Для инференса гигантских моделей - да. Для всего остального - переплата. Пока что.

Условия аренды: мелкий шрифт, который съедает бюджет

Почасовая оплата - это только вершина айсберга. Считайте всё.

• Минимальное время аренды: 1 час у большинства, но Google Cloud и AWS биллинг за секунду (с минимальным часом в 1 минуту). Для коротких задач это выгоднее.
• Исходящий трафик: может стоить 0.01$ за GB, а может 0.10$. Если выгружаете терабайты данных, разница колоссальная.
• Хранение дисков: отдельная плата за SSD. Обычно 0.10$ за GB в месяц. Не забывайте удалять диски после остановки инстанса.
• Сетевые сборы: между регионами, между облаками. Читайте документацию.

Как выбрать провайдера: шаги без воды

1Определите, что вам нужно

Какой GPU? Сколько памяти? Насколько критична производительность? Будете ли вы использовать инстанс постоянно или эпизодически? Ответы на эти вопросы сузят круг провайдеров.

2Сравните цены по таблице выше

Выпишите 2-3 самых дешёвых варианта для вашего GPU. Не забудьте про минимальное время аренды.

3Проверьте доступность

Зайдите на сайты провайдеров. Есть ли инстансы в нужном регионе? Есть ли очередь на H100? Если нет, отметьте этого провайдера как запасной вариант.

4Посчитайте полную стоимость

Добавьте к цене за GPU стоимость трафика, хранения, сетевых сборов. Умножьте на время работы. Получите реальную цифру.

5Протестируйте

Запустите инстанс на час. Загрузите модель, прогоните типовые задачи. Убедитесь, что всё работает как ожидается. Только потом берите в долгосрочную аренду.

Частые ошибки при аренде GPU

• Не учитывают исходящий трафик. Особенно когда скачивают датасеты или выгружают результаты. Счёт прилетает на тысячи долларов.
• Забывают остановить инстанс. GPU работает сутками, хотя задача завершилась за час. Автоматизируйте остановку через скрипты или используйте провайдеров с автостопом.
• Выбирают самый дешёвый вариант без проверки доступности. Экономят 0.10$ в час, но теряют дни в ожидании.
• Не читают условия долгосрочной аренды. Предоплата может быть невозвратной. Или есть штрафы за досрочное прекращение.

Вопросы и ответы

Где самый дешёвый A100?

Hyperstack - 1.20$ за час. Но проверяйте доступность. OVHcloud - 1.40$ за час, более стабильно.

Насколько доступны H100?

Плохо. Дефицит по всему миру. Готовьтесь к ожиданию или ищите альтернативы. Например, несколько A100 вместо одного H100. Или посмотрите в сторону децентрализованных провайдеров, как в статье Децентрализованные 4090 vs AWS H100.

Стоит ли арендовать B200?

Только если ваша модель не помещается в H100. И если бюджет позволяет. 10$ за час - это 7200$ за месяц непрерывной работы. Иногда дешевле купить железо.

Какие скрытые затраты при аренде GPU?

Трафик, хранение, сетевые сборы, плата за публичные IP-адреса. Читайте мелкий шрифт в тарифах.

Как сэкономить на долгосрочной аренде?

Ищите скидки за предоплату. Заключайте контракты на год. Используйте spot-инстансы (где доступны). Или подумайте о локальном железе, если проект долгий. Как в статье Цены на GPU взлетят на 60%.

Неочевидный совет

Иногда аренда GPU - это тупик. Если проект долгосрочный, посчитайте TCO. Возможно, дешевле купить железо и поставить в колокейшн. Или собрать свою станцию, как в Тихий монстр: собираем AI-станцию. Да, это капитальные затраты. Но через год вы сэкономите десятки тысяч долларов. И не будете зависеть от капризов провайдеров.

Рынок GPU аренды меняется каждый месяц. Новые провайдеры, новые цены, новые условия. Держите руку на пульсе. И не платите лишнего.