Индонезия заблокировала Grok из-за скандала с ИИ-дипфейками

Индонезийские власти приняли жёсткое решение после резонансных инцидентов в сети. Доступ к Grok был временно заблокирован на территории страны из-за массового распространения дипфейков с сексуальным подтекстом, созданных без согласия пострадавших.

Официальное заявление прозвучало в субботу. Поводом стала волна изображений, сгенерированных ИИ и опубликованных в социальной сети X, которые затрагивали реальных женщин и несовершеннолетних.

Почему власти Индонезии вмешались

По данным регуляторов, через Grok пользователи получали сексуализированные изображения, нередко содержащие сцены насилия и нападений. Контент создавался по запросам и распространялся публично, что вызвало серьёзную обеспокоенность на государственном уровне.

Министр связи и цифровых технологий Индонезии Меутья Хафид подчеркнул, что подобные практики рассматриваются как грубое нарушение прав человека. Речь идёт не только о морали, но и о безопасности граждан в цифровом пространстве.

Дополнительно министерство инициировало внутренние совещания с участием профильных чиновников для оценки дальнейших шагов и возможных санкций.

Международная реакция на ситуацию вокруг Grok

Индонезия стала не единственной страной, отреагировавшей на проблему. За последнюю неделю правительство Индии обязало xAI принять срочные меры, чтобы Grok не использовался для создания непристойных материалов.

Европейская комиссия потребовала сохранить всю документацию, связанную с работой чат-бота, что может стать основой для полноценного расследования. В Великобритании регулятор Ofcom объявил о быстрой проверке возможных нарушений законодательства и получил публичную поддержку со стороны премьер-министра.

Позиция xAI и Илона Маска

Первоначально компания xAI опубликовала извинение от имени Grok, признав, что часть контента могла нарушать этические нормы и американские законы, касающиеся сексуального насилия над детьми. Позднее доступ к функции генерации изображений был ограничен только платными подписчиками X.

При этом само приложение Grok, по состоянию на тот момент, оставалось доступным для всех пользователей. Комментируя ситуацию с регулированием ИИ-инструментов, Илон Маск заявил, что властям «нужен любой повод для цензуры».