Журналисты в шоке от возможностей Google Reimagine в Pixel 9. Эта функция создает пугающие фото, включая сцены насилия

Google стала последней компанией из тройки техногигантов, анонсировавшей собственные инструменты для редактирования фото с помощью ИИ.

До неё это сделали Samsung и Apple, которая этой осенью выпустит свой инструмент Image Playground. Google же добавила функцию Reimagine в Pixel 9. Авторы The Verge, правда, ужаснулись её возможностям.

В течение недели тестирования журналисты добавляли на фотографии сцены аварий, дымящиеся бомбы в общественных местах, простыни, якобы покрывающие окровавленные тела и многое другое. Печально, что подобные вещи можно создавать с помощью встроенной функции, а не через специализированное ПО. Подобный контент должен заранее выявляться и блокироваться, но этого не происходит.

Вот, что им удалось сделать:

Представитель Google, Алекс Мориконе (Alex Moriconi), прокомментировал ситуацию:

Мы разрабатываем наши инструменты генеративного ИИ с учётом намерений пользователей, но у нас есть чёткие правила и условия использования, определяющие, какой контент допустим, а какой нет.

Однако пример The Verge показал, что эти ограничения можно легко обойти креативными запросами.

Авторы призывают относиться с осторожностью к фотографиям, которые могут появиться в интернете после релиза этой функции. Их необходимо проверять на достоверность. [The Verge]