Риски применения ИИ в эпидемиологии обсудили на ПМЭФ

Анна Попова отметила, что глобальный рынок ИИ в медицине бурно развивается и демонстрирует небывалый рост, он оценивается в 30 миллиардов долларов в 2024 году и показывает среднегодовой прирост в 50%.

При этом применение ИИ в эпидемиологии не всегда дает качественный результат. Например, прогнозы, которые специалисты строили на математических моделях с использованием ИИ во время пандемии COVID-19, не оправдывались.

Серьезный риск - применение ИИ в "немирных целях". С одной стороны, эти технологии помогают ученым в разработке лекарств и вакцин, изучении изменчивости патогенов. Но с другой с помощью того же ИИ можно "сконструировать" новые опасные патогены, которые потенциально способны стать биологическим оружием.

По словам Поповой, в мире есть немало тревожных примеров безответственного отношения к использованию новых технологий. В частности, компания OpenAI в январе прошлого года сняла запрет на применение ChatGPT в военных целях. "В прошлом году группа биохимиков в США протестировала возможности чат-бота Claude. Программа предложила исследователям способы использования патогенов в баллистических ракетах, чтобы нанести максимальный ущерб, подсказала, в какую погоду их лучше использовать и для каких целей", - сказала Анна Попова.

Директор по развитию технологий искусственного интеллекта "Яндекса" Александр Крайнов подчеркнул, что ИИ упрощает процесс совершения открытий, но конечный результат зависит от целей и намерений людей, использующих эту технологию.

Стремительное развитие инноваций и сложность установления границ и контроля между "положительным" и "отрицательным" применением ИИ отметил управляющий директор, директор центра индустрии здоровья Сбера Сергей Жданов. Он подчеркнул, что для ликвидации рисков необходимо управлять процессами внедрения ИИ, и это - задача государства.

Конечно же, ограничения применения технологий ИИ лежат в морально-этической плоскости, и здесь пока отсутствует нормативное регулирование и лишь вырабатываются механизмы контроля на международном и национальном уровне.

"Искусственный интеллект - новый фактор в эпидемиологии. И нужно говорить о регулировании, так как при его использовании риски могут быть очень велики, а цена ошибок - человеческие жизни",- резюмировала Анна Попова.

Где уже применяется ИИ в медицине в мире и России

1. Диагностика заболеваний

• Анализ медицинских изображений с возможностью оценки риска патологии. В России уже широко используют программные продукты для анализа МРТ и КТ-снимков, маммографических изображений для выявления опухолей и других патологий на ранней стадии. За рубежом внедрен аналогичный продукт IBM Watson Imaging, который используется для анализа онкологических снимков в 230 больницах 13 стран.
• Продукт Google DeepMind используется в офтальмологии - алгоритм обнаруживает диабетическую ретинопатию и возрастную макулярную дегенерацию с точностью 94%.
• Первая в России ИИ-система Botkin, получившая регистрационное удостоверение Росздравнадзора, анализирует более 15 видов исследований.
• В России создан Атлас генома рака: он уже содержит данные по более чем 10 тысячам опухолей - эти данные помогают в анализе заболеваемости и поисках новых эффективных способов лечения рака.
• Внедренный в НМИЦ гематологии ИИ-продукт "Гематолог.AI" увеличил точность диагностики лейкозов до 89%.

2. Роботизированная хирургия

• Система "Da Vinci Surgical System" широко применяется в мире и в ведущих российских клиниках - их около 30. Робот, управляемый хирургом, действует с ювелирной точностью, что снижает осложнения при вмешательстве. Так, при проведении простатэктомии кровопотеря уменьшается на 50%.
• Нейронавигация с ИИ - такие технологии внедрены в ФМБА, они также снижают осложнения при проведении сложных операций на 25%.

3. Сервис для пациентов

• В России внедрены ИИ-продукты, которые облегчают для пациента дистанционную запись к врачу, помогают анализировать медицинские карты (более 250 млн. записей в год) и прогнозировать нагрузку на врачей.