Девочки, вам какая антиутопия больше нравится? "Терминатор", "Матрица" или, может быть, "Чёрное зеркало"?

На самом деле, чтобы серьёзно осложнить нашу жизнь, не нужно устраивать ядерную зиму или создавать параллельную реальность, достаточно взять какую-нибудь систему и добавить к ней передовую технологию. Рецепт катастрофы изложен в материале газеты "Вашингтон пост": "Можно ли доверять доктору, которому помогает искусственный интеллект? Я сходил к такому".

Проблемы работников массовой страховой медицины универсальны вне зависимости от страны.

1️⃣ Они завалены писаниной — большую часть времени на приёме у врачей занимает запись анамнеза и заполнение документов, требуемых клиникой или администрацией здравоохранения. Согласно одному из исследований, на один час, проведённый с пациентом, приходится два часа административной работы.

2️⃣ Они обязаны учитывать различные клинические рекомендации, даже если те проникли в систему по политическим или коммерческим причинам — спрашивать мужчину, не беременный ли он или рекомендовать "Арбидол" при ОРВИ.

3️⃣ В попытке сократить затраты на медицинское обслуживание государство постоянно сокращает время, отводимое на приём пациентов, при этом пациенты справедливо ожидают индивидуального подхода — и он им действительно нужен, ведь каждый случай в медицине уникален.

4️⃣ Измотанные административной работой и стеснённые ограничениями врачи допускают ошибки — человеческий фактор. Иногда такие ошибки могут стоить пациенту жизни: как говорится, у каждого хирурга есть своё маленькое кладбище.

И вот, девочки, блестящий ответ на все эти проблемы — медицинские ИИ-системы, которые не знают усталости и могут оперировать большими объёмами данных, а также выдавать в качестве результата понятный любому текст на естественном языке.

Как отмечает "Вашингтон пост", сегодня в США уже миллионы пациентов получили медицинскую помощь при содействии ИИ. Крупнейшая американская компания-производитель медицинского программного обеспечения Epic Systems заявила, что системы генеративного ИИ, которые она продаёт, уже обслужили 2,35 млн пациентов, и ежемесячно оформляют 175 тысяч медицинских записей.

Пока что это "интеллектуальные секретари", которые фиксируют показания пациентов и ведут служебную переписку, но технология не стоит на месте, и уже сегодня медицинские стартапы предлагают расширить этот функционал. Стартап Glass Health предлагает докторам ИИ-помощника, который даёт рекомендации по лечению на основе диагноза, а стартап K Health разработал чат-бот, к которому можно обратиться за советами по поводу здоровья.

Всё бы хорошо, но опасность ИИ-систем для применения в медицине заключается в том, что в ответ на запрос они дают не достоверный, но идеально правдоподобный ответ, так как их работа основана не на мыслительном процессе и не работе со смыслами, а на взвешивании вероятностей при составлении предложений из слов и более крупных кусков текста из предложений.

Из этого следует целый ворох проблем. Сегодня известен феномен галлюцинирующих ИИ-систем, которые на очевидные вопросы выдают очевидно неправильные ответы. Например, что туристический рюкзак и рюкзак с парашютом равнозначны для того, кто прыгает из самолёта.

В медицине галлюцинирующий ИИ заявил, что у людей с тёмной кожей выше болевой порог. ChatGPT посоветовал лечить мастит (воспаление женских молочных желез) горячими компрессами, массажем и учащённым кормлением, тогда как в официальной рекомендации содержалась противоположная рекомендация: холодные компрессы, покой и снижение частоты кормлений.

Как отмечает "Вашингтон пост", ИИ-секретари, которые должны вести протокол беседы с пациентом, с лёгкостью вписывают в текст то, чего никто не говорил или начинают подыгрывать врачу, вольно развивая одну из мыслей, проскользнувших у него в разговоре с пациентом.

При этом с развитием технологий всё больше врачей будут слепо полагаться на выводы и рекомендации, предложенные ИИ, а впоследствии, как и положено в экономически эффективной системе, неумелых посредников выкинут на помойку, как испорченный телефон.

Тут-то и начнётся самое интересное.

Washington Post

Column | Should you trust an AI-assisted doctor? I visited one to see.

Our tech columnist visits a doctor assisted by AI. He finds potential and worrisome questions about whether it’s accurate, biased or always useful in health care.