Недавно Маск выпустил новые модели ИИ Grok, способные генерировать изображения в Twitter/X. И написал: "Grok - самый веселый ИИ в мире!". Пользователи .резвились от души, создавая то Камалу Харрис в в бикини, то Трампа за рулём вертолета на фоне горящих зданий Всемирного торгового центра. Изображения были намеренно нефильтрованными.

Однако через неделю эксперты заметили, что Grok всё же начал вводить в свой инструмент ИИ дополнительные ограничения в режиме реального времени. Запросы на откровенное изображение насилия и жестокости стали отклоняться чаще. Использование ИИ для распространения контента, эксплуатирующего детей, или создания изображений с целью причинения вреда другим людям и так запрещено правилами. Было решено, что Маск таким образом хотел продемонстрировать опасность нефильтрованного изобразительного контента.

При этом эксперты по-прежнему обвиняют Grok в том, что этот инструмент менее разборчив при генерации изображений на основе так называемой дезинформации. Он скреативил запрашиваемые изображения в 80 % случаев, создав 16 из 20 изображений, содержащих дезинформацию.

Однако даже эксперты признают, что поддельные изображения не обязательно приводят к ложным выводам. Онлайн-аудитория день ото дня все лучше разбирается в том, что реально, а что нет.

Главной проблемой генераторов изображений на самом деле является их выпуск без четкой цели использования. В результате на данный момент они оказались просто дорогостоящей игрушкой.