«Ошибка считать нейросети всеобщим благом: они уже работают на Пентагон»: на ВЭФ обсудили опасности ИИ
ВЛАДИВОСТОК, 3 сентября, ФедералПресс. Для обеспечения безопасности России необходимо выработать стратегию развития искусственного интеллекта. Уже сейчас от нейросетей исходит большая опасность, а через пару лет угрозы будут куда существеннее – к такому выводу пришли участники сессии «Измерение социального воздействия ИИ: прогресс, риски, пути развития», которая прошла в рамках Восточного экономического форума.
«По поводу того, что ИИ воспринимается как всеобщее благо – нечто бесплатное или почти бесплатное, что к нам пришло и которым мы пользуемся для бесконечного повышения своей эффективности. Это помощник во всех делах – в делах, которые невозможно доверить человеку, и, конечно, это чудо. Но поскольку оно бесплатно или почти бесплатно, мы забываем, что являемся по сути сырьем для обучения этих алгоритмов. Каждый наш запрос, каждая наша цифровая активность развивает его дальше», – отметил Александр Асафов, политолог, Первый заместитель председателя комиссии Общественной палаты города Москвы по развитию гражданского общества и общественному контролю.
Эксперт отметил, что всеобщая вера в чудо нейросетей приводит к серьезным ошибкам. Самый страшный пример: чаты с искусственным интеллектом при общении на суицидальные темы 80 % ответов были неверными, и приводили к суицидам.
«Ошибочные медицинские диагнозы, разрушенные браки – это рутина использования «всемогущего помощника», – резюмировал политолог.
Александр Асафов уверен, что одним регулированием сферы решить вопрос не получится. С его использованием надо быть аккуратными:
«Дело в том, что OpenAI, ChatGPT автоматически передает все данные запросов на русском языке, включая полный цифровой отпечаток аккаунта: кто спрашивает, что спрашивает, зачем. Без запросов со стороны спецслужб – просто автоматически. В этом году ведущие директора по развитию компаний, занимающихся развитием платформ искусственного интеллекта – Anthropic, Google и многих других – получили звания офицеров Пентагона американских вооруженных сил по развитию искусственного интеллекта», – добавил эксперт.
Элина Сидоренко, генеральный директор АНО «Белый интернет», член Совета при президенте Российской Федерации по развитию гражданского общества и правам человека уверена: уже сейчас формируется так называемый «цифровой пролетариат»: новое социальное явление, которое связано с тем, что искусственный интеллект нуждается в обслуживании определенными людьми за невысокую зарплату.
«В странах, где активно развивается ИИ, формируется этот цифровой пролетариат. Он не защищен, низко оплачиваем, и со временем таких людей станет еще больше», – отметила Элина Сидоренко.
Но главная проблема на сегодня – криминализация интернет-среды. И главный вызов – это дипфейки: и всего 2 % от них – политические, все остальные так или иначе сексуализированы: сексуальный шантаж, порнография, преступления, связанные с новым явлением – цифровой педофилией.
«С точки зрения защиты прав мы понимаем проблематику защиты человека от цифрового мошенничества. Россия должна продвигать выработку стандартов и определение сфер деятельности, где использование ИИ и дипфейков должно быть недопустимо – например, в образовании», – резюмировала Сидоренко.
Ранее сообщалось о том, что Мария Захарова привела статистику распространения дипфейков в России в начале 2025 года. Рост по сравнению с предыдущим годом кратный.
Фото: ФедералПресс / Герман Парло