Хаос в Linux-сообществе: NVIDIA прекратила поддержку видеокарт Pascal для локальных LLM

Конец эпохи: почему Pascal больше не подходит для локального ИИ

В мире локальных языковых моделей (LLM), где энтузиасты и разработчики стремятся запускать мощные ИИ на своём собственном оборудовании, разразился настоящий кризис. NVIDIA, лидер рынка GPU для вычислений, официально прекратила поддержку драйверов для архитектуры Pascal (серии GeForce GTX 10xx) в операционных системах Linux. Это решение напрямую ударило по тысячам пользователей, которые использовали относительно доступные карты вроде GTX 1080 Ti для экспериментов с такими фреймворками, как llama.cpp, oobabooga's text-generation-webui и другими.

Техническая суть проблемы: CUDA и драйверы

Проблема кроется в зависимости современных инструментов для локального ИИ от актуальных версий CUDA — параллельной вычислительной платформы NVIDIA. Новейшие библиотеки, такие как cuBLAS и собственно фреймворки для LLM, требуют CUDA 12.x. Однако официальные драйверы NVIDIA для Linux, которые продолжают поддерживать карты Pascal, заморожены на ветке 550.x, которая совместима только с CUDA 11.x и ниже.

В результате пользователи, обновившие дистрибутив (особенно это заметно на Arch Linux и других rolling-release системах), сталкиваются с ошибками при компиляции или запуске проектов, требующих CUDA 12. Сообщество взорвалось гневными обсуждениями на форумах и в GitHub Issues. Ситуация напоминает растущее сопротивление большим технологиям, но на этот раз «врагом» стал не дата-центр, а политика поддержки железа.

Эффект домино: от Arch Linux до Docker

Особенно остро проблема проявилась в Arch Linux — дистрибутиве, известном своими последними версиями пакетов. После обновления системных библиотек и инструментов цепочка зависимостей разорвалась. Попытки установить старые версии драйверов или CUDA вручную приводят к конфликтам с другими пакетами.

# Типичная ошибка при попытке собрать проект с CUDA 12 на Pascal
nvcc fatal   : Unsupported gpu architecture 'compute_86'
# Или при запуске:
CUDA error: no kernel image is available for execution on the device

Проблема выходит за рамки настольных ПК. Многие энтузиасты разворачивали LLM-сервисы на старых серверах с картами Pascal в Docker-контейнерах. Теперь эти контейнеры, основанные на свежих образах с CUDA 12, перестали работать. Это ставит под вопрос устойчивость инфраструктуры локального ИИ, построенной на устаревающем, но всё ещё мощном железе. Интересно, что пока одни борются с драйверами, другие компании, как Klarna и HSBC, перестраивают целые отрасли вокруг ИИ, не сталкиваясь с подобными «железными» проблемами.

Что делать владельцам карт Pascal? Возможные пути

Сообщество не сдаётся и ищет обходные пути. Вот основные варианты, которые обсуждаются:

1. Остаться на старом дистрибутиве/ядре. Заморозить версии драйверов, CUDA и, возможно, всего дистрибутива. Это решение для standalone-систем, посвящённых только LLM.
2. Использовать проприетарный драйвер версии 550. Вручную установить драйвер ветки 550 и совместимые версии CUDA-библиотек, избегая обновлений.
3. Переход на Windows (частичное решение). На Windows драйверы для Pascal всё ещё получают обновления, поддерживающие CUDA 12.x. Но для многих Linux-энтузиастов это неприемлемый компромисс.
4. Ожидание community-патчей. Умельцы уже исследуют возможность бэкпорта необходимых функций из новых драйверов в старые. Успех не гарантирован.
5. Апгрейд железа. Грустная, но логичная рекомендация от NVIDIA. Переход на карты Turing (20xx) или Ampere (30xx) и новее.

1 Проверьте свою конфигурацию

Если вы столкнулись с проблемой, выполните в терминале:

nvidia-smi  # Покажет модель карты и версию драйвера
nvcc --version  # Покажет версию CUDA compiler

2 Рассмотрите использование CPU/ROCm

Для моделей небольшого размера можно временно перейти на вычисления только на CPU (через llama.cpp) или, если у вас есть карта AMD, изучить стек ROCm как альтернативу CUDA.

Большая картина: ускоренное устаревание и экология ИИ

Эта история поднимает важные вопросы об устойчивости и экологии технологий. Принудительное устаревание функционального оборудования (e-waste) противоречит принципам open source и DIY-сообщества, на которых вырос локальный ИИ. Пока гиганты вроде Google скупают энергосети для своих дата-центров, домашние исследователи вынуждены отправлять на свалку карты, которые ещё могли бы служить годами.

Ситуация с Pascal — тревожный звонок для всех, кто инвестирует в hardware для ИИ. Она показывает, что ваша вычислительная мощность зависит не только от техпроцесса и памяти, но и от доброй воли производителя драйверов. Возможно, это даст дополнительный импульс развитию открытых альтернатив, таких как ROCm от AMD, или даже стимулирует создание специализированного open source драйвера для старых карт NVIDIA, как это произошло с Nouveau, но для вычислений.

Пока владельцы GTX 1080 Ti ищут способы вернуть свои системы к жизни, остальное сообщество задумывается о будущем. Один из ключевых уроков: в мире, где модели сдают сложнейшие экзамены, а ИИ управляет операционными, инфраструктурная устойчивость и контроль над своим стеком становятся не менее важными, чем raw performance.