Нейросети блефуют. Экспертные системы работают
Забудьте про ChatGPT, который пишет код. Забудьте про Midjourney, который рисует картинки. Настоящий ИИ для бизнеса выглядит иначе. Он не генерирует тексты. Он принимает решения.
И делает это так, что вы можете объяснить каждое. Нейросети на это не способны.
Проблема в черном ящике
Спросите у GPT-4: "Почему вы рекомендуете именно эту дозировку антибиотика?" Ответ будет начинаться с "На основе анализа данных..." и заканчиваться туманными формулировками.
Теперь спросите у экспертной системы для медицины. Она выдаст цепочку правил:
- Пациент весит 70 кг
- Препарат X метаболизируется через почки
- Клиренс креатинина = 60 мл/мин
- По таблице дозировок для почечной недостаточности...
Каждый шаг проверяем. Каждое решение объяснимо. Врач может оспорить любой пункт. И система скажет, почему он ошибается.
GPT не понимает, что делает. Он лишь предсказывает следующее слово. Экспертная система знает правила предметной области и следует им.
Три причины, почему нейросети проигрывают
1. Они не умеют говорить "не знаю"
Спросите у LLM про редкое заболевание, о котором нет данных в обучающей выборке. Он выдумает симптомы. Придумает лечение. И сделает это уверенно.
Экспертная система в такой ситуации скажет: "Нет правил для этого случая. Обратитесь к специалисту". И сохранит жизнь пациенту.
2. Они не обучаются на ошибках
Допустим, нейросеть в кредитном скоринге одобрила заявку мошеннику. Что дальше? Переобучать модель на миллиардах данных? Ждать неделю?
Экспертную систему достаточно дополнить одним правилом: "Если IP-адрес из Нигерии И сумма > 5000$ И возраст аккаунта < 1 день → Отказ". Сделали за пять минут. Работает сразу.
3. Они требуют постоянного электричества
Нейросети работают в облаке. Нет интернета - нет ИИ. Экспертная система может работать на калькуляторе. В поле. В операционной. В самолете.
Это не технический недостаток. Это фундаментальное ограничение для критической инфраструктуры.
Как компании уже платят за формализацию знаний
Пока все обсуждают промпт-инжиниринг, Scale AI и Mercor платят экспертам $200 в час за их знания. Но не для обучения нейросетей. Для создания экспертных систем.
Читайте подробности в нашей статье "Эксперты на зарплате у ИИ".
Процесс прост:
- Берем senior-разработчика
- Записываем его решения в виде правил
- Тестируем на реальных кейсах
- Добавляем исключения
Через месяц получаем систему, которая принимает 80% решений как senior. И никогда не устает.
Пять шагов формализации знаний (без кода)
1 Выберите область, где есть четкие критерии
Не начинайте с творческих задач. Возьмите что-то с правилами: диагностика оборудования, проверка документов, расчет тарифов. Чем больше "если → то", тем лучше.
2 Запишите решения эксперта в режиме реального времени
Не спрашивайте "Как вы это делаете?". Сядьте рядом и смотрите. Записывайте вопросы, которые он задает сам себе. "Ага, сначала проверяю дату документа. Потом печать. Потом подпись".
3 Превратите наблюдения в дерево решений
Каждый вопрос - узел. Каждый ответ - ветвь. Не пытайтесь охватить все сразу. Начните с самого частого сценария.
4 Добавьте веса и приоритеты
Не все правила одинаково важны. Некоторые проверяются в первую очередь. Другие - только если первые пройдены. Эксперт это знает интуитивно. Вы должны сделать это явным.
5 Тестируйте на краевых случаях
Дайте системе самые странные ситуации. Что делать, если дата будущая, но печать есть? Если подпись неразборчива? Каждое исключение превращайте в новое правило.
Гибридный подход: где нейросети все же полезны
Не нужно выбирать между нейросетями и экспертными системами. Нужно правильно их комбинировать.
Нейросеть анализирует неструктурированные данные (тексты жалоб, изображения документов). Экспертная система принимает решение на основе извлеченной информации.
| Задача | Что делает нейросеть | Что делает экспертная система |
|---|---|---|
| Медицинская диагностика | Анализирует снимки МРТ, ищет аномалии | Ставит диагноз на основе найденных симптомов + анализов |
| Кредитный скоринг | Анализирует поведение в соцсетях | Принимает решение по формальным критериям |
| Техподдержка | Распознает проблему из текста пользователя | Предлагает решение по дереву неисправностей |
Почему корпорации до сих пор не взяли нейросети
Ответ прост: юристы. Невозможно объяснить в суде, почему нейросеть отказала в кредите. Можно объяснить, почему экспертная система это сделала.
В нашей статье "5 реальных причин, почему нейросети до сих пор не взяли корпорации" мы разбираем этот и другие юридические аспекты.
Что делать специалисту прямо сейчас
Если вы боитесь, что ИИ заберет вашу работу - начните формализовать свои знания. Сегодня.
1. Возьмите блокнот (да, бумажный)
2. Опишите три самых частых задачи, которые решаете
3. Разбейте каждую на шаги
4. Для каждого шага напишите критерии принятия решения
Через неделю у вас будет первая версия экспертной системы. Пусть на бумаге. Но она уже работает.
Нейросети не заменят вас. Они заменят тех, кто не может объяснить, что делает. Ваша задача - стать тем, кто создает правила для машин.
И да, это касается даже творческих профессий. Художник, который может описать процесс выбора цвета - ценнее того, кто "просто чувствует". Потому что его знания можно записать. И автоматизировать рутину.
Самый ценный специалист будущего - не тот, кто умеет пользоваться ИИ. А тот, чьи знания ИИ может воспроизвести. И чем сложнее вас заменить, тем дороже вы стоите.
А что насчет инженерного мышления?
Вот главный секрет: нейросети не умеют думать инженерно. Они не строят ментальные модели. Не проверяют допущения. Не ищут корневые причины.
Прочитайте нашу статью про DevOps для ИИ. Там мы показываем, как заставить нейросеть "видеть" инфраструктуру. И почему это так сложно.
Экспертная система изначально строится на инженерном подходе. Каждое правило - это проверяемая гипотеза. Каждый вывод - следствие из посылок.
И последнее: не верьте хайпу. Нейросети - это круто. Но они решают другие задачи. Читайте наш материал про коррекцию ожиданий от ИИ.
Ваша работа в безопасности. Если вы умеете объяснять, почему делаете то, что делаете.
