Расследование: миллионы людей в Telegram используют чат-ботов для создания эротики и порно
Эксперты выразили обеспокоенность по поводу доступности онлайн-чат-ботов, генерирующих обнаженные изображения реальных людей по запросам пользователей. По их мнению, дипфейки создадут «совершенно кошмарный сценарий». Под пристальное внимание попал Telegram, в котором доступны около 50 таких чат-ботов, сообщает издание Wired.
Расследование Wired в отношении Telegram выявило десятки чат-ботов на базе искусственного интеллекта, которые «создают откровенные фотографии или видео людей всего за пару кликов». Некоторые из них «снимают одежду» с изображений, а другие могут создавать фотографии людей, занимающихся сексуальной активностью. По оценкам издания, около 4 млн пользователей в месяц пользуются возможностями чат-ботов по созданию фейковых изображений.
«Мы говорим о значительном, на порядок увеличении числа людей, которые явно активно используют и создают этот вид контента», — рассказал Wired эксперт по дипфейкам Генри Айдер, который был одним из первых, кто обнаружил подпольный мир откровенных чат-ботов Telegram четыре года назад.
«Действительно вызывает беспокойство тот факт, что эти инструменты, которые реально разрушают жизни и создают кошмарную ситуацию, в первую очередь для молодых девушек и женщин, по-прежнему так легко доступны и их можно найти на поверхности Интернета, в одном из крупнейших приложений в мире», — добавил Айдер.
Помимо таких знаменитостей, как Тейлор Свифт и Дженна Ортеги жертвами роста порнографических дипфейков стали девочеки-подростки для создания обнаженных фотографий. Некоторые из них использовались в качестве «секс-шантажа». Недавний опрос показал, что 40% американских школьников сообщили о распространении дипфейков в своих школах.
По данным Wired, сайты с дипфейками процветали на фоне достижений в области технологий искусственного интеллекта, но подверглись пристальному вниманию со стороны законодателей. В августе прокуратура Сан-Франциско подала в суд на более чем дюжину «раздевающих» сайтов.
В Telegram боты могут использоваться для переводов, игр, оповещений или, как в данном случае, для создания опасных дипфейков. Когда Wired связалось с компанией по поводу откровенного контента чат-бота, она не получила ответа, но боты и связанные с ними каналы внезапно исчезли.
«Подобные фейковые изображения могут нанести вред здоровью и благополучию человека, вызывая психологическую травму и чувства унижения, страха, смущения и стыда», — сказала Эмма Пикеринг, руководитель отдела по борьбе с насилием с использованием технологий и расширению экономических прав и возможностей в британской организации по борьбе с домашним насилием Refuge.
«Хотя эта форма насилия распространена, виновные редко привлекаются к ответственности, и мы знаем, что этот тип насилия становится все более распространенным в отношениях между близкими партнерами», — говорит Пикеринг.
Елена Михейл, директор и соучредитель правозащитной группы #NotYourPorn, заявила, что ее беспокоит то, насколько сложно «отслеживать и контролировать» приложения в Telegram, которые могут продвигать подобные откровенные изображения.
«Представьте, что вы выживший, которому приходится делать это самостоятельно, наверняка эта нагрузка не должна ложиться на отдельного человека. Разумеется, бремя должно лежать на компании, которая должна внедрить что-то проактивное, а не реактивное», — говорит Михейл.
Недобровольная фейковая порнография запрещена во многих штатах, однако эксперты утверждают, что условия предоставления услуг Telegram в отношении контента категории X расплывчаты.
«Я бы сказала, что на самом деле неясно, запрещено ли на платформе создание или распространение интимных изображений без согласия других лиц», — говорит Кейт Руан, директор проекта по свободе слова Центра демократии и технологий.
Ранее в этом году генеральный директор Telegram Павел Дуров был арестован и обвинен в содействии распространению детской порнографии. В своем заявлении он сообщил, что платформа регулярно сотрудничает с правоохранительными органами по их просьбе, и что компания «не позволяет преступникам злоупотреблять платформой или уклоняться от правосудия».
Однако эксперты говорят, что Telegram следует привлечь к ответственности. «Telegram предоставляет функцию поиска, которая позволяет вам идентифицировать сообщества, чаты и ботов», — сказал Айдер.
В сентябре основатель и глава Telegram Павел Дуров заявил, что платформа для обмена сообщениями приступила к удалению «проблемного контента» и будет более активно выполнять запросы правительств. Это заявление было сделано спустя несколько недель после его ареста во Франции по обвинению в непринятии мер против преступников, использующих приложение.
