Инструменты
Подборка AI-инструментов. Только то, что работает.
Brain Pocket: Бабушкин способ запустить ИИ без инженера и кредитки
Brain Pocket — веб-сервис, который запускает языковые модели на вашем компьютере через браузер. Никакой установки, бэкенда или платежей. Проверяем, работает ли.
GLM-4.7-REAP-50-W4A16: как запихнуть 179 миллиардов параметров в 92 гигабайта
Практическое руководство по запуску гигантской GLM-4.7 модели на домашнем железе через экспорт-прунинг и INT4 квантование. Реальные команды и примеры.
LLMeQueue: очередь запросов к локальной LLM, которую не сломает даже тысяча пользователей
Создайте микросервис для массовой обработки запросов к локальной LLM на GPU с поддержкой OpenAI API. Очередь, балансировка, удалённый доступ.
Nanbeige 3B vs 30B модели: как запустить локально самый эффективный 3B-модель
Nanbeige 3B превосходит 30B модели в EQBench. Гайд по локальному запуску на слабом железе: установка, квантование, оптимизация.
Chinny: голос в вашем кармане — бесплатный оффлайн-клонер для iPhone и Mac
Обзор Chinny — приложения для клонирования голоса, работающего полностью оффлайн. Требования: 3 ГБ RAM, 3.41 ГБ места. Поддержка mp3/wav/m4a.
Lynkr: ваш личный диспетчер для 15+ LLM, который экономит деньги и нервы
Обзор Lynkr — open-source прокси для интеллектуальной маршрутизации запросов между 15+ LLM провайдерами, включая локальные модели Ollama. Экономит до 70% на API
Когда MCP отвечают как бабушки в очереди: как mcp-context-proxy режет болтовню
Обзор инструмента для сжатия ответов Model Context Protocol. Экономим токены, ускоряем работу локальных LLM. Установка, настройка, сравнение с альтернативами.
T-Scan: Практическое руководство по визуализации внутренних активаций трансформеров
Пошаговое руководство по T-Scan - инструменту для визуализации внутренних активаций трансформеров. Установка, примеры использования, сравнение с альтернативами.
Как готовить динамические GGUF-квантования в браузере: обзор GGUF Tool Suite Web UI
Обзор GGUF Tool Suite Web UI — инструмента для создания динамических GGUF-квантований прямо в браузере. Настройка под ваше железо без CLI.
Обзор и тестирование Basis Router: как студенческий проект упрощает подключение баз данных к облачным и локальным LLM
Тестируем Basis Router - open-source инструмент для подключения баз данных к LLM. Установка, настройка, сравнение с аналогами.
GigaChat 3: что скрывает архитектура и куда смотрит технический директор
Технический разбор GigaChat 3: архитектура модели, сравнение с альтернативами, примеры использования и планы развития от технического директора.
Solar-Open-100B-GGUF: Корейский гигант втиснулся в домашний компьютер
Обзор Solar-Open-100B-GGUF - 102-миллиардной MoE модели. Тесты, сравнение с аналогами, инструкция по запуску на домашнем железе через llama.cpp.