ВОЗ: 6 принципов регулирования ИИ в здравоохранении для применения без вреда
Всемирная организация здравоохранения призвала к ответственному и эффективному регулированию применения искусственного интеллекта (ИИ) в сфере здравоохранения. ВОЗ опубликовала руководство, где изложены принципы безопасного использования ИИ, сообщает портал ВОЗ.
Эксперты ВОЗ признают потенциал ИИ для улучшения результатов клинических испытаний и медицинской диагностики. Но обращают внимание, что при использовании нейросетей нужно защищать конфиденциальность данных и продолжать исследовать механизмы работы ИИ во избежание неточности работы в дальнейшем. «Искусственный интеллект открывает большие перспективы в сфере здравоохранения, но также сопряжен с серьезными проблемами, включая неэтичный сбор данных, угрозы кибербезопасности, а также предвзятость или дезинформацию», – сказал Тедрос Адханом Гебрейесус, глава ВОЗ.
В рекомендациях ВОЗ обозначены 6 принципов регулирования технологий ИИ:
- Документирование решений ИИ
Для повышения доверия к новым технологиям важна открытость данных и документирование, в том числе, регистрация всего жизненного цикла решений и отслеживание процессов их разработки.
2. Модели обучения и кибербезопасность
Вопросы целевого назначения технологий нужно решать комплексно на основе более простых моделей. Важно непрерывное обучение и контроль со стороны человека, а также нужно учитывать модели обучения и угрозы кибербезопасности.
3. Валидация
Обеспечению безопасности и упрощению регулирования поможет внешняя валидация (доказательства, что продуктом можно пользоваться) данных и четкое определение целевого назначения технологий ИИ.
4. Препятствия для распространения ошибок
Для устранения распространения систематических ошибок и погрешностей, нужен порядок контроля качества данных, тщательная проверка систем перед запуском.
5. Конфиденциальность и защита данных
Для конфиденциальности и защиты данных нужно решать проблемы применения комплексных режимов регулирования: устанавливать пределы действия юрисдикции и определяемые ими требования по получению согласий на обработку данных.
6 Сотрудничество на всех уровнях
Укрепление взаимодействия между регуляторами, пациентами, медиками, производителями и госструктурами для обеспечения соответствия продукции нормативным требованиям в течение всего жизненного цикла.
Доклад также указывает, что работа систем искусственного интеллекта зависит не только от программного кода, реализованного в них, но и от данных, которые используются при их обучении и накапливаются из медицинских учреждений и при взаимодействии с пользователями. Чем лучше регулирование качества этих данных, тем ниже вероятность, что системы ИИ увеличат отклонения, содержащиеся в тренировочных данных.
В октябре 2023 года министр здравоохранения РФ Михаил Мурашко, выступая на форуме «Биотехмед», отметил, что более 70 регионов уже приступили к внедрению программ на основе ИИ в деятельность учреждений здравоохранения, а до конца года это должны сделать все субъекты РФ.