ИИ-боты компании Meta* копируют знаменитостей без их согласия. Чат-боты могут заводить романтические беседы и присылать эротические фотографии, пишет Reuters.

Компания создала и разрешила пользоваться десятками чат-ботов, которые использовали имена и образы звёзд вроде Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селены Гомес без их разрешения. Виртуальные собеседники писали, что они — реальные актёры и артисты. Они могли вести романтические беседы и генерировать для пользователей эротические изображения с минимумом одежды.

Агентство Reuters выяснило, что как минимум три таких бота, включая две «пародийные» версии Тейлор Свифт, были созданы одним сотрудником Meta*. По его словам, они разрабатывались исключительно в исследовательских целях. Тем не менее эти экспериментальные проекты стали доступны широкой публике, а общее число взаимодействий с ними достигло 10 миллионов. Один бот использовал изображение 16-летнего актёра Уокера Скобелла с голым торсом и генерировал с ним непристойный контент.

Внутренние правила Meta* запрещают создание цифровых копий знаменитостей, допуская персонажей на их основе только с пометкой «пародийный». Представитель компании Энди Стоун признала, что ИИ-система действительно нарушила внутренние регламенты, создавая запрещённый контент. На момент расследования Reuters компания удалила около 12 подобных ботов — как с пометкой «пародийный», так и без каких-либо опознавательных знаков.

Ранее от кокетливого ИИ-бота погиб пенсионер из США. «Старшая сестрёнка Билли» от Meta*, представившаяся реальным человеком, завела флиртующую переписку с 76-летним Бью, восстанавливающимся после инсульта. Нейросеть пригласила его к себе «домой в Нью-Йорк». Бью отправился на вокзал, но, опаздывая на поезд, споткнулся, упал и скончался от полученных травм. Компания отказалась комментировать инцидент.

*компания Meta признана экстремистской в России и запрещена

❗ Подписаться на Baza | Прислать новость