Эксперты отмечают важную роль Кодекса этики в сфере искусственного интеллекта
Эксперты рассказали о том, как применяется критическое мышление при использовании ИИ в научных исследованиях, как меняются представления о высшем образовании благодаря ИИ и что обеспечивает баланс этики разработчика и пользователя ИИ-решений.
Заместитель руководителя Департамента по исследовательским центрам в сфере ИИ Аналитического центра Сергей Астахов отметил, что недавнее вручение Нобелевской премии по физике за фундаментальные открытия в области машинного обучения - это признание со стороны научного сообщества значимости искусственного интеллекта в исследовательской деятельности. И чем больше будет расти влияние ИИ-технологий, тем значительнее будет роль этического аспекта.
В своих выступлениях эксперты подчеркнули, что фундаментальные исследования и прикладное применение ИИ-технологий в социальной сфере должны соответствовать критериям этики, среди которых - сохранение автономии и свободы воли человека при использовании ИИ; обеспечение прозрачности, объяснимости и понятности алгоритмов; отсутствие дискриминации в используемых наборах данных и в работе ИИ-решений.
Руководитель юридической группы Центра ИИ и науки о данных СПбГУ Владислав Архипов обозначил, что в рамках различных междисциплинарных исследований существует дилемма. «Искусственный интеллект – это «кисть в руках художника», некий инструмент под управлением человека или это «черный» ящик», который выдает результат? В первую очередь это вопрос нашего восприятия и отношения к технологии, которая может использоваться по-разному, особенно в области научных исследований и образования», - заявил эксперт.
В рамках сессии участники затронули и тему ответственности за результаты применения ИИ, обозначив, что польза от внедрения ИИ всегда должна оцениваться через анализ рисков возможных ошибок. Эксперт Исследовательского центра в сфере ИИ, территориальный руководитель в ЦФО и СЗФО Университета Иннополис Анна Малиновская отметила: «Когда речь идет об этике ИИ, мы всегда говорим про совместную ответственность и разработчика, и пользователя, и заказчика. Когда каждый понимает, что на нём лежит ответственность за конечный результат, это дает положительный синергетический эффект для развития».
В заключение сессии эксперты обозначили важную роль Кодекса этики в сфере искусственного интеллекта, который формирует человекоцентричную и доверенную среду развития технологий как для разработчиков ИИ-решений, так и для научно-образовательных организаций.
Также на площадке Форума прошла постерная выставка, где исследовательские центры Университета ИТМО, НИУ ВШЭ, Университета Иннополис, НМИЦ онкологии им. Н.Н. Блохина, ИСП РАН, НГУ и Самарского университета представили свои наработки в области этики ИИ.
Напоминаем, что в рамках федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика Российской Федерации» в 2021 году проведена «первая волна» отбора исследовательских центров в сфере ИИ. Шесть научно-образовательных организаций получили государственную поддержку на создание и развитие таких центров: Сколтех, Университет Иннополис, Университет ИТМО, НИУ ВШЭ, МФТИ и ИСП РАН им. В.П. Иванниĸова. В 2023 году в рамках «второй волны» отбора исследовательских центров в сфере ИИ поддержку получили еще шесть научно-образовательных организаций: НМИЦ онкологии им. Н.Н. Блохина, Самарский университет, Новосибирский государственный университет, НИЯУ «МИФИ», Университет Лобачевского, СПбГУ.