Доклад показал важность пометки контента, созданного ИИ

МОСКВА, 5 июн - РИА Новости. Ключевое направление развития технологий по противодействию дезинформации - маркировка контента, путём чёткого обозначения материалов, созданных искусственным интеллектом, говорится в докладе "РИА-Аналитика" "Влияние искусственного интеллекта на медийное пространство".

"Невзирая на мрачные сценарии, параллельно развиваются и технологии противодействия дезинформации. Одно из ключевых направлений — маркировка контента, то есть явное обозначение материалов, созданных ИИ, или материалов, достоверность которых не подтверждена", - отмечают аналитики.

В докладе подчёркивается, что крупные платформы экспериментируют с пометками, вроде "это изображение сгенерировано искусственным интеллектом" или предупреждениями под сомнительными постами и хотя такие ярлыки не являются панацеей, они дают аудитории сигнал отнестись к содержанию критически.

"Другой подход - внедрение цифровых водяных знаков в синтетический контент. Современные методы позволяют добавлять в текст или изображение тонкие скрытые паттерны, незаметные для человека, но определяемые алгоритмами. Например, генератор текста может вставлять специальные последовательности слов или символов, а нейросеть для изображений — менять пиксели по определенному алгоритму", - считают авторы доклада.

Они отметили, что подобные отметки помогают автоматизированно фильтровать сгенерированный контент или хотя бы помечать его для проверки, однако злоумышленники тоже не стоят на месте: водяные знаки можно попытаться исказить или полностью удалить, изменив незначительно изображение или перефразировав текст.

"Полностью защититься этим методом нельзя — необходима координация между разработчиками моделей, чтобы каждое поколение ИИ содержало проверяемый маркер. Кроме того, открытые модели без ограничений могут распространяться без всяких меток, что создает "лазейку". Тем не менее, водяные знаки повышают порог входа для массовой дезинформации: теперь злоумышленнику нужно затратить больше сил, чтобы скрыть следы ИИ", - заключили авторы доклада.

Полный текст доклада читайте на сайте ria.ru в разделе РИА Новости Аналитика.