Официальная причина: «пропаганда порнографии»
Министерство коммуникаций и информации Индонезии (Kominfo) не стало церемониться. В пятницу вечером они выпустили заявление, где черным по белому написали: доступ к Grok, чат-боту от xAI, блокируется на всей территории страны. Причина? Платформа нарушила закон об электронной информации и транзакциях, а именно – статью о распространении порнографического контента.
Индонезия – не первая страна, которая нажимает на стоп-кран. Ранее аналогичные проблемы у Grok возникли в Индии, где регуляторы также потребовали экстренных мер по фильтрации контента.
Но «порнография» в данном контексте – термин лукавый. Речь не о классическом запрещенном контенте. Властей напугала именно способность модели создавать так называемые AI-глубокие фейки (AI deepfakes) – гиперреалистичные изображения и видео, которые можно сгенерировать по простому текстовому запросу. В теории это могут быть нюдовые изображения публичных лиц, политиков или просто незнакомых людей, созданные без их согласия.
Что на самом деле происходит? Контекст паники
Индонезия – страна с самым большим мусульманским населением в мире. Консервативные социальные нормы здесь сталкиваются с технологиями, которые эти нормы могут обойти за секунду. Местные СМИ уже успели накрутить историю, выпустив несколько репортажей о том, как легко Grok генерирует «непристойные» изображения.
Проблема в том, что системы безопасности вроде фильтров NSFW (Not Safe For Work) в таких моделях, как Grok, часто работают из рук вон плохо. Они либо слишком агрессивны (блокируют безобидные запросы), либо слишком пассивны (пропускают откровенно опасные). История с фейковыми нюдами показала это как нельзя лучше.
Техническая сторона: почему Grok так легко блокируют?
В отличие от децентрализованных пиринговых сетей, доступ к Grok в Индонезии шел через официальные каналы – магазины приложений и веб-сайт. Kominfo просто направило предписание интернет-провайдерам и операторам связи заблокировать DNS-записи и IP-адреса, связанные с сервисами xAI. Пользователи, открывая Grok, видят стандартную страницу о блокировке ресурса.
Обход блокировок через VPN, конечно, возможен. Но для рядового пользователя это лишний шаг, барьер. Именно на создание таких барьеров и расчет – снизить доступность потенциально опасного инструмента для масс.
Любопытно, что это уже не первый конфликт xAI с регуляторами. Компания Илона Маска и так находится под серьезным давлением после международных скандалов. Индонезийский инцидент – это логичное продолжение цепочки.
Что это значит для пользователей? Не только в Индонезии
Если вы думаете, что это касается только Джакарты, вы ошибаетесь. Тренд на ужесточение контроля над генеративным ИИ – глобальный. Индонезия просто одна из первых, кто применил максимально жесткую меру – полную блокировку.
- Риск внезапной потери доступа. Ваш любимый AI-ассистент может исчезнуть из App Store или перестать открываться в браузере в любой день. Как это случилось с Minimax или с поисковыми AI-сервисами.
- Ужесточение фильтров и потеря функциональности. Чтобы вернуться на рынок или избежать блокировки, разработчики будут закручивать гайки. Ожидайте, что модели станут более «стерильными», будут отказываться от все большего числа запросов. «Создай ироничный мем про политика» может стать таким же табу, как и запросы на генерацию насилия.
- Локализация и цензура под юрисдикцию. Крупные игроки, такие как OpenAI или Google, скорее всего, пойдут по пути создания отдельных, «облагороженных» версий своих моделей для строгих юрисдикций. Маленькие и независимые проекты могут просто уйти с этих рынков.
Скандалы вроде расследований вокруг deepfake от Grok только подливают масла в огонь. Регуляторы теперь смотрят на генеративные модели не как на игрушку, а как на потенциальное оружие.
Будущее: как будут регулировать дальше?
Индонезия показала радикальный сценарий: не договариваться, а запретить. Но это не единственный путь.
| Страна/Регион | Подход к регулированию | Пример |
|---|---|---|
| Европейский союз | Всеобъемлющий закон (AI Act). Классификация рисков, строгие требования к прозрачности и тестированию. | Запрет на социальное скоринга, удаленный биометрический идентификацию в реальном времени. |
| Китай | Жесткая премодерация и цензура. Все модели должны пройти проверку и получить одобрение государства. | Доступны только «одобренные» модели, генерирующие «социалистические» ценности. |
| США (отдельные штаты) | Фокус на приватность, защиту от дискриминации и deepfakes (особенно в политике). | Законы, обязывающие маркировать AI-генеренный контент. |
| Индонезия, Индия | Реактивное регулирование. Блокировка после инцидента, требования к платформам. | Блокировка Grok, предписания исправить «непристойный» контент. |
Ирония в том, что пока одни страны блокируют ИИ, другие борются за право его использовать. Вспомните историю с Италией и Meta, где запрет на сторонние ИИ в мессенджере признали незаконным. Или прогнозы Дженсена Хуанга о победе открытых моделей.
Так что же делать пользователю, который хочет и пользоваться технологиями, и не попасть под раздачу? Держать ухо востро. Диверсифицировать инструменты. Не хранить критически важные данные в сервисах, которые могут исчезнуть. И следить не только за анонсами новых фич, но и за новостями из кабинетов регуляторов. Потому что следующей на очереди может быть ваша страна.
А что насчет Grok? Скорее всего, xAI пойдет на переговоры с индонезийскими властями, пообещает усилить фильтры и, возможно, даже запустить специальную, кастрированную версию. Полная и безоговорочная капитуляция в стиле «мы уходим» здесь маловероятна – рынок слишком большой. Но прецедент создан. Теперь каждый регулятор знает: нажать на кнопку «заблокировать» – это быстро и эффективно. И этот сценарий будет повторяться.
