Платформа Civitai запрещает ИИ-модели на основе реальных людей – это огромный удар по создателям неэтичного ИИ-контента

Популярная платформа для обмена моделями искусственного интеллекта Civitai объявила о запрете ИИ-моделей, предназначенных для генерации изображений реальных людей. Это решение стало серьезным ударом по экосистеме создания нежелательного и неэтичного контента для взрослых с использованием искусственного интеллекта.

Согласно заявлению, Civitai удаляет "модели и изображения, изображающие реальных людей" с платформы.

Эти ресурсы и изображения будут доступны загрузившему их пользователю в течение короткого периода времени, прежде чем они будут удалены.

Civitai объясняет это решение двумя ключевыми факторами: требованиями платежных систем и ужесточением законодательства.

Это изменение является требованием для продолжения сотрудничества со специализированными платежными партнерами.

Ранее в этом месяце один из платежных провайдеров прекратил обслуживание сайта, и с 20 мая Civitai временно не может принимать платежи по кредитным картам.

В качестве законодательных причин компания ссылается на недавно подписанный президентом Дональдом Трампом закон Take It Down Act, который криминализирует нежелательный контент для взрослых, созданный с помощью ИИ, а также на Закон ЕС об искусственном интеллекте – комплексный регуляционный акт, принятый в прошлом году.

Как сообщает 404 Media, до недавнего времени политика Civitai позволяла пользователям загружать модели генерации изображений (LoRA, чекпоинты и т.д.), предназначенные для воссоздания внешности реальных людей – от знаменитостей до обычных пользователей интернета. Хотя сам сайт запрещал генерацию и публикацию нежелательного контента, пользователи могли скачивать эти модели и комбинировать их на своих устройствах или в облачных сервисах, создавая нежелательные материалы.

По словам генерального директора Civitai Джастина Майера, для контроля за соблюдением нового правила компания будет использовать комбинированный подход: автоматическое отклонение контента, который загрузчики идентифицируют как изображающий реальных людей; услуги компании Clavata для обнаружения известных публичных фигур; возможность подать жалобу на сходство, которая будет рассмотрена в течение 24 часов; и пилотный проект с использованием хеширования лиц для блокировки нежелательных загрузок.

Несмотря на серьезность этих мер, эксперты отмечают, что сообщество, занимающееся созданием нежелательного контента, вероятно, найдет альтернативные платформы для размещения своих моделей. Некоторые пользователи уже начали архивировать существующие модели, а конкурирующие сайты позиционируют себя как альтернативу Civitai.