Девочки, минувший понедельник отметился интересным событием. Генеральный директор "Инстаграма"* Адам Моссери в серии постов в социальной сети Threads* заявил, что пользователям не стоит доверять изображениям, которые они видят в интернете, потому что искусственный интеллект "со всей очевидностью" создаёт реалистичные картинки, которые легко спутать с настоящими фотографиями.

По этой причине, развил Моссери свою мысль, пользователям необходимо проверять источники информации, ну а обязанность социальных сетей — помогать им в этом: "Наша роль как интернет-платформ заключается в том, чтобы выявлять и отмечать специальными метками сгенерированный ИИ-контент настолько хорошо, насколько мы способны это делать". При этом Моссери признаёт, что "отдельные изображения" этих меток не получат, а потому, мол, платформы должны "предоставлять контекст о том, кто именно делится информацией", чтобы пользователи могли понять, кому они могут верить, а кому нет.

Заявления Моссери появились не на пустом месте: ситуация с ИИ-контентом в социальных сетях вообще и в "Инстаграме", в частности, не так проста, как может показаться на первый взгляд.

С одной стороны, после так называемого "вмешательства России в выборы", когда неназванные некто за $100 тысяч привели Трампа к его первой победе, а Цукерберга изнасиловали в Конгрессе, головная организация META* стала очень внимательно относиться к модерации контента. Настолько внимательно, что все её площадки превратились в антирусскую и антитрамповскую машину пропаганды, о чём — вы не поверите, девочки — сразу после повторного избрания Трампа президентом США Цукерберг сильно пожалел. Оказалось, что это сильно отпугивает пользователей, а потому сегодня конкретных решений по модерации нет. Касается это и сгенерированных изображений.

С другой стороны, ИИ-истерия в индустрии настолько сильна, что сама META этим летом предложила использовать свой собственный ИИ-движок (META AI), чтобы пользователи генерировали новый контент на основе собственных фотографий.

При этом для самих пользователей ИИ больше похож на игрушку, тогда как коммерческие организации вовсю используют генерацию изображений для того, чтобы зарабатывать на доверчивой аудитории.

Есть злобные индийские хакеры, которые эксплуатируют слабое место алгоритмов "Инстаграма" — их склонность продвигать в реки изображения как можно менее одетых людей. Эти специалисты создают дипфейки, меняя лица реальных пользователей "Инстаграма", воруют их контент, а потом уводят любителей обнажёнки на другие площадки — например, Onlyfans, где ИИ-генерация уже лишена всяческих ограничений.

Ну а есть и простые коммерсанты, которые смекнули, что ИИ-инфлюенсеры дешевле и эффективнее живых, тем более, что реальная фотография или реальное видео в "Инстаграме" сегодня могут получить большое количество просмотров, только если в него вложена значительная работа фотографов и ретушёров. Вместе с тем ИИ-генерация даёт точно такой же эффект фактически без затрат. Генерировать изображения можно бесконечно, а вымышленные ИИ-персонажи никогда не вляпаются в политический скандал и не выскажут противоречивых мнений. У самого популярного в мире ИИ-инфлюэнсера в "Инстаграме" сейчас 7 миллионов подписчиков. Это бразильская виртуальная модель Лу до Магалу, которая уже успела сделать коллабы с такими крупными брендами, как Burger King, Red Bull, Adidas, Samsung и McDonald’s.

Для завершения полного цикла, таким образом, осталось совсем немного — нужно организовать ИИ-генерацию лайков и просмотров, полностью заменив аудиторию на этих, как его... кажется, они называются боты.

* — экстремистская организация, запрещена в России

The Verge

Instagram’s head says social media needs more context because of AI

Consider the source.