Игорь Ашманов о внедрении ИИ в России: «Мы движемся к точке невозврата»

Закон – прежде всего. Пока в Европе вступают в силу масштабные нормативные акты об искусственном интеллекте, в России, по словам Игоря Ашманова, ИИ внедряется практически без правил. В интервью «ФедералПресс» ИТ-эксперт, управляющий партнер компании «Ашманов и партнеры» объяснил, почему стране необходим ограничительный закон об ИИ, какие угрозы несет бесконтрольная цифровизация и в каких сферах эти технологии недопустимы.

В ЕС продолжается законодательное регулирование ИИ. Не так давно – 2 августа – там вступил в силу Акт об искусственном интеллекте. Как обстоят дела с законодательством в этой сфере в России?

– У меня есть большой отчет, сделанный юристами для Совета Федерации. В ЕС действительно вводится закон, который наши цифровизаторы и ИИ-евангелисты называют «жестким». Они утверждают: «Вот, они ввели регулирование ИИ, поэтому у них нет своего искусственного интеллекта, а он есть в США». Таким образом, они призывают не регулировать искусственный интеллект в России, аргументируя тем, что это «затормозит развитие технологий».

Это лукавство и сознательная подмена причины и следствия. В ЕС действительно нет собственных технологий в таких сферах, как социальные сети, интернет-поисковики, видеохостинги – и так уже последние 20 лет. Это связано, в частности, с тем, что у Европы прозрачные границы с США, и «Кремниевая долина» фактически «высосала» все кадры. Все, кто хоть что-то мог создать, уезжали в США: там зарплаты в несколько раз выше, а также существует устойчивая легенда о том, что через опционы можно стать миллионером.

Таким образом, ЕС фактически стал цифровой колонией США – подобно тому, какой долгое время оставалась и Россия. Европейцам пришлось приступить к регулированию цифрового пространства, поскольку на нем доминируют американские ИТ-гиганты, действующие без ограничений. Главный экспортный продукт США – даже не доллар, а транснациональные корпорации, которые расширяют влияние Вашингтона по всему миру. Именно поэтому европейские страны вынуждены вводить нормативы в сфере искусственного интеллекта. Принятый закон абсолютно рационален: его суть заключается в том, что ИИ не должен вмешиваться в частную жизнь человека и не может принимать решения вместо людей.

Кстати, в США тоже существует регулирование в сфере искусственного интеллекта, однако развитие отрасли идет хаотично, при этом в нее вкладываются колоссальные средства. Кроме того, при президенте Трампе была поставлена цель – достичь мирового господства с помощью ИИ. В Китае также действует система регулирования, причем достаточно широкая. Например, там запрещены рекомендательные алгоритмы, допускающие дискриминацию граждан.

В России пока существуют лишь фрагментарные, точечные элементы регулирования – например, запрет коллекторам использовать ИИ для давления на граждан. Однако полноценного закона до сих пор нет. Мы создали рабочую группу в Совете Федерации по вопросам регулирования искусственного интеллекта, и ее работа будет направлена на выработку абсолютно разумных норм, направленных на защиту наших граждан.

Как можно законодательно регулировать ИИ, какие аспекты должны регулироваться?

– Усилиями наших цифровизаторов во власти мы движемся к некой точке невозврата. Мы словно плывем на лодке к водопаду, вместо того чтобы остановиться, выбраться на берег и оглядеться. Цифровизация должна начинаться с закона, и я надеюсь, что первый шаг в этом направлении будет сделан уже осенью.

Закон должен быть, конечно, ограничивающим. Никакое стимулирование нашим ИТ-гигантам не требуется – они уже сейчас повсеместно внедряют ИИ.

Мы должны в законе четко определить, где полезен и нужен ИИ: на войне и в производстве. Возможно, в медицине, но с огромными ограничениями, чтобы не потерять компетенции врачей – если диагностировать заболевания будет ИИ, наши медики деградируют. И ни в коем случае нельзя допускать ИИ в сферу образования: профориентация через ИИ – это попытка управлять судьбами людей.

Кроме того, любое общение с ИИ может быть маркировано.

Допускаете ли вы обучение ИИ-моделей вне законодательных норм? Нужны ли для ИИ отдельные правовые режимы, где законодательство не действует?

– Законодательное регулирование должно касаться не столько обучения, сколько сферы применения ИИ. Везде, где искусственный интеллект может автономно принимать решение о судьбе человека, его надо прямо запрещать.

Кроме нарушения авторских прав, какие еще сегодня угрозы таит в себе ИИ?

– Только что Минцифры опубликовали проект использования ИИ в государственном управлении. Он предполагал общение с гражданами заменить на ботов, что я считаю совершенно непристойным предложением: это значит, что чиновники хотят отгородиться от население, которое их раздражает, стеной ботов. В результате это предложение было отклонено и снято с сайта – документ отправили на доработку. В нем, в частности, содержалась идея использовать ИИ для анализа и отбора резюме кандидатов на государственную службу.

Сейчас при звонке в контактные центры человек попадает на бота, задача которого – не помочь, а отогнать от оператора.

Искусственный интеллект не только порождает массу некачественного контента во всех сферах, к которым прикасается, но и позволяет удобно снимать ответственность с человека. Именно это стремление уйти от личной ответственности – самое опасное, особенно в таких чувствительных областях, как медицина и образование.

Кроме того, мы сейчас идем по пути цифровизации регулирования отношения человека и государства. Оригиналами документов будут признаваться электронные копии. Но в цифре все может быть украдено или уничтожено.

Бездумную цифровизацию надо регулировать, и я надеюсь, что законодатели займутся этим в ближайшее время. Сейчас в Госдуме создана межфракционная рабочая группа под руководством Александра Бабакова. Мы работаем вместе и, думаю, какие-то результаты будут уже осенью.

Уже несколько лет говорят о том, что вот-вот наступит эпоха господства ИИ. Как вы считаете, наступила она или нет? И что это вообще означает?

– Сейчас мы сталкиваемся даже не с пузырем искусственного интеллекта, а с его настоящей пандемией. И с этим необходимо что-то делать, поскольку внедрение ИИ продолжается повсеместно.

Искусственного интеллекта сегодня много – под этим понятием объединяется все, что имитирует когнитивную деятельность человека. Сейчас наиболее популярным считается генеративный ИИ, который по сути просто продолжает заданный запрос, используя свои вычислительные мощности.

Но я считаю, что работа с помощью ИИ – это мошенничество. Мошенничество студентов, преподавателей. На днях в кафе я наблюдал, как трое молодых людей за соседним столиком с помощью ИИ общались с девушкой одного из них. Что произойдет дальше, если он сам девушке не может написать в мессенджер? И это сейчас повсеместно.

В чем будет выражаться полноценное внедрение искусственного интеллекта в бизнесе, в управлении? Есть ли его предел?

– Предела нет. А «полноценное использование» – не тот термин. Это деградация.

Приведу пример: я у себя в компании только что уволил человека, который бумаги для стратегической сессии и коммерческие предложения писал с помощью ИИ. На стратегической сессии произошел скандал, потому что его презентация не соответствовала реальному положению дел на рынке. Но этот человек уже деградировал, он не в состоянии сам что-то писать. Это равнозначно тому, что здоровый человек начинается ходить на костыле и у него нога начинает атрофироваться.

В заключение, вопрос, который волнует многих: какие профессии исчезнут после внедрения ИИ?

– Не профессия, а люди. Которых можно заменить на искусственный интеллект. Но я надеюсь, скоро пройдет отрезвление и ИИ будет использоваться только там, где он экономически нужен: на войне и в производстве.

Изображение сгенерировано нейросетью Kandinsky 3.1