Отдельную тревогу вызвали случаи генерации сексуализированных изображений с участием несовершеннолетних. По данным Wired, часть контента содержала признаки сексуализированного насилия над детьми. В отдельных случаях изображения, созданные с помощью Grok, находили не только в X, но и на форумах даркнета. Примечательно, что эксперты предупреждали о подобных рисках и ранее. Исполнительный директор группы по надзору за ИИ The Midas Project Тайлер Джонстон заявил Reuters, что еще в 2024 году предупреждал xAI о том, что функция генерации изображений почти неизбежно будет использоваться для создания сексуализированного контента и дипфейков. По его словам, эти предупреждения были проигнорированы.
Реальные жертвы
Уже появилось несколько реальных историй, подтверждающих масштабы проблемы. 31-летняя Джули Юкари из Рио-де-Жанейро опубликовала в X фотографию в платье рядом. А на следующий день обнаружила, что пользователи просят Grok сгенерировать ее изображение в бикини. «Я наивно думала, что чат-бот просто не выполнит такой запрос, — говорит она Reuters, — но скоро в соцсети появились изображения с практически обнаженной мной». Новый год начинается для нее с желания «спрятаться от всех» и стыда за тело, которого по сути даже не существует в реальности.
27-летняя инфлюенсерша (и по совместительству мать одного из сыновей самого Илона Маска) Эшли Сент-Клэр столкнулась с похожей ситуацией. Только, по ее словам, пользователи использовали фотографию, на которой ей было всего 14 лет. Она заявила The Guardian, что фото оставались доступным минимум 12 часов, прежде чем платформа удалила их — и то после журналистского вмешательства. Позже к Сент-Клэр обратились другие женщины: на некоторых изображениях их избивали, калечили или наносили синяки.
Реакция властей и критика платформы
Скандал с Grok привлек внимание властей несколько стран. В Великобритании расследование возглавил медиарегулятор Ofcom, который получил «крайне тревожные сообщения» о том, что чат-бот используется для создания и распространения изображений обнаженных людей, а также сексуализированных изображений детей. По британскому законодательству подобные материалы квалифицируются незаконными. Ofcom проверяет, не пренебрегла ли платформа X оценкой рисков для пользователей и учла ли угрозу для детей. В самых серьезных случаях регулятор может обратиться в суд с требованием к провайдерам или рекламодателям прекратить работу с платформой и заблокировать доступ к сайту на территории страны.
Премьер-министр Великобритании Кир Стармер назвал происходящее «позорным, отвратительным и недопустимым». Он подчеркнул, что X должен взять ситуацию под контроль и выразил полную поддержку действиям Ofcom. «Если платформа извлекает выгоду из вреда и злоупотреблений, она теряет право на саморегулирование», — заявил Стармер, добавив, что его правительство будет защищать «уязвимых от сильных мира сего».
Подобные шаги предпринимаются и в других странах. Малайзийская Комиссия по коммуникациям и мультимедиа заявила о намерении судиться с X и xAI за несоблюдение обязанностей по обеспечению безопасности пользователей. Малайзия, как и Индонезия, уже временно заблокировали Grok. Внимание к чат-боту и генерируемому им контенту усиливается и в других странах, включая Индию и Францию. Кроме того, Еврокомиссия обвинила X в генерации не только сексуализированного контента, но и антисемитского, и обязала платформу сохранять все документы, связанные с Grok, до конца 2026 года.
Эксперты указывают, что подобные инструменты существовали и раньше, но их распространение было ограничено специализированными сервисами. Интеграция Grok в массовую соцсеть сделала такие изображения общедоступными, что, по мнению наблюдателей, превращает их в реальную угрозу. Профессор Даремского университета Клэр МакГлинн отмечает: «Основные действия с Grok связаны с раздеванием женщин и сексуализацией их изображений <...> Это патриархат в действии. Почему женщины должны "отказываться от своих прав", чтобы избежать домогательств и насилия со стороны мужчин? Именно технологические платформы и мужчины, использующие эти инструменты, должны изменить свое поведение».
Ответ X и Илона Маска
В первые дни скандала X заявляла, что удаляет незаконный контент, навсегда блокирует аккаунты нарушителей и сотрудничает с правоохранительными органами. 9 января компания ограничила доступ к функции генерации изображений и сделала его доступным только для платных подписчиков — стоимость подписки начинается от $30 в месяц. Представители платформы подчеркнули, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при публикации такого контента напрямую.