15.01.2026
Все фото: коллаж Mustafin Magazine
Текст: Махаббат Молдаханова, Руслан Абдряев
“Пикантный” ИИ: почему Grok стал фабрикой откровенных дипфейков
Разбираем реакцию регуляторов, ответы разработчиков и реальные последствия
Чат-бот Grok от xAI Илона Маска снова стал источником массовых скандалов. Поводом стали откровенные изображения и видео, которые пользователи начали активно генерировать и распространять в соцсети X. В центре истории оказались дипфейки с обнаженными людьми, в том числе с лицами знаменитостей, а также почти полное отсутствие ограничений со стороны платформы.
Автор Mustafinmag разобрался в ситуации вокруг спорной функции чат-бота xAI – от расследований и разговоров о границах ИИ до того, насколько это все актуально для Казахстана.
“Без фильтров” – слишком далеко?
Функции Grok доступны не только в отдельном приложении и на сайте. Именно там пользователи получили инструменты для генерации изображений и видео с выраженной сексуализацией и жестокими сценами. В отличие от OpenAI, Google и других компаний в сфере искусственного интеллекта xAI позволила Grok создавать материалы для взрослых. Более того, сервис может отвечать грубыми выражениями, непристойным юмором и сексуальными сценами.
Исследователь AI Forensics Пол Бушо изучил около 800 заархивированных ссылок на видео и изображения, созданные Grok. В подавляющем большинстве эти адреса содержали контент сексуального характера. Отдельно он и его коллеги передали французким регуляторам почти 70 ссылок, где потенциально мог фигурировать контент с участием несовершеннолетних.
Еще больше пугающих цифр
В X сообщили, что принимают меры против материалов, содержащих эксплуатацию детей. Любой, кто использует Grok для создания незаконного контента, понесет те же последствия, что и при загрузке незаконного контента, написал Маск.
Исследовательница соцсетей и дипфейков Женевьева О провела 24-часовой анализ изображений, опубликованных аккаунтом @Grok в X. Чат-бот генерировал около 6700 изображений в час, которые были идентифицированы как содержащий сексуальный подтекст и наготу.
“Некоторые бесчеловечные импульсы поощряются и поддерживаются этой технологией без каких-либо ограничений или этических норм”, – отметила профессор права Даремского университета Клэр МакГлинн. По ее словам, бесконтрольное создание и распространение подобных материалов нормализует сексуальное насилие и принижает важность этой проблемы.
Знаменитости и “пикантный” режим
Grok не применяет никаких возрастных ограничений для просмотра сексуализированных видео, несмотря на то что в ряде стран уже действуют законы о верификации пользователей на сайтах с контентом 18+. Контент делится на два типа: полностью вымышленные ИИ-персонажи и изображения реальных людей.
Ключевую роль сыграла функция Imagine. Она позволяет сначала создать изображение по текстовому запросу, а затем превратить его в видео с помощью четырех предустановок: “Пользовательская”, “Обычная”, “Веселая” и “Пикантная”.
Автор The Verge протестировал инструмент на примере Тейлор Свифт. После выбора нужного режима видео быстро превратилось в откровенную сцену. Сходство певицы было не идеальным, но она все же была узнаваема.
В сети также уже появлялись фейковые обнаженные изображения Кейт Миддлтон, Милли Бобби Браун, журналистки Саманты Смит и других публичных фигур. Пользователи не обошли стороной и самого Маска – в X распространялись картинки с ним в бикини.
Реакция регуляторов
Реакция властей последовала быстро. Прокуратура Парижа объявила о расследовании. В Индии, Малайзии, Великобритании и Австралии начались проверки. Тем временем Индонезия временно заблокировала Grok на территории страны.
Кстати, Казахстан тоже готовится к борьбе с дипфейками. С января 2026 года в стране вводится обязательная маркировка ИИ-контента и ответственность за дипфейки. Однако стоит учитывать важный нюанс: отвечать по закону будут владельцы ИИ-систем, а не сами пользователи, которые делятся фейками в соцсетях.
Искать каждого анонимного автора сложно, поэтому контроль перекладывают на платформы. Именно они должны ограничивать доступ и разбираться со своими пользователями. Проблема в том, что в случае с Grok существующие границы между юрисдикциями могут значительно усложнить этот процесс.
На фоне скандалов команда X по безопасности заявила, что она начала ограничивать возможности Grok. Платформа сообщила о технологических мерах, которые запрещают редактирование изображений реальных людей в откровенной одежде, включая бикини.
Также генерация и редактирование изображений через аккаунт Grok в X теперь доступны только платным подписчикам. В компании утверждают, что это должно повысить ответственность пользователей. Дополнительно платформа ввела геоблокировку – в странах, где это незаконно.
Однако на практике ограничения оказались далеко не абсолютными. По запросам журналистов, Grok по-прежнему сравнительно легко создавал откровенные дипфейки даже с бесплатного аккаунта. В xAI и X объяснили проблему “пользовательскими запросами” и случаями, когда обход фильтров дает неожиданный результат.
Инструменты для создания откровенных дипфейков существовали и раньше, но именно интеграция Grok в одну из крупнейших соцсетей мира резко снизила порог входа. Теперь для этого не нужны ни специальные навыки, ни сторонние сервисы – именно это делает ситуацию по-настоящему тревожной.
Читайте также
“Смажьте мясо маслом”: как еда стала главным инструментом рейдж-бейта
Разбираем, какие рецепты и лайфхаки вызывали у людей самые яркие эмоции
06.01.2026
MIT Technology Review назвал технологические провалы 2025 года
24.12.2025