Врачи теряют навыки диагностики рака после работы с ИИ

Новое исследование показало неожиданную опасность внедрения искусственного интеллекта в медицинскую практику. Врачи, которые получили доступ к ИИ-помощникам для выявления предраковых образований в толстой кишке, стали значительно хуже справляться с диагностикой без поддержки алгоритмов.

Исследование, опубликованное на этой неделе в медицинском журнале The Lancet, продемонстрировало эффект деградации профессиональных навыков при зависимости от технологий. Ученые наблюдали за работой четырех центров эндоскопии в Польше на протяжении шести месяцев, изучая показатели успешности обнаружения рака толстой кишки.

Методология эксперимента включала три месяца наблюдений до внедрения ИИ-инструментов и три месяца после. Когда искусственный интеллект был введен в практику, колоноскопии случайным образом распределялись между процедурами с поддержкой ИИ и без неё.

Результаты оказались более чем показательными. Врачи, проводившие колоноскопии без ИИ-поддержки после периода работы с искусственным интеллектом, показали снижение эффективности обнаружения на 20% по сравнению с показателями до внедрения технологии. Особенно впечатляет тот факт, что в исследовании участвовали 19 высококвалифицированных специалистов, каждый из которых провел более 2000 колоноскопий.

Если даже опытные врачи подвержены деградации навыков из-за зависимости от ИИ-инструментов, последствия для менее опытных специалистов могут оказаться катастрофическими. Данное явление получило название "дескиллинг" – процесс утраты профессиональных компетенций вследствие чрезмерной опоры на автоматизированные системы.

Парадокс заключается в том, что эффективность ИИ в медицинских применениях не вызывает сомнений. Многочисленные исследования подтверждают способность искусственного интеллекта значительно улучшать результаты в различных областях – от обнаружения раковых опухолей до диагностики заболеваний на основе медицинской истории пациента. Анализ информации на основе обширного массива предыдущих примеров составляет основу функционирования ИИ, и существуют доказательства того, что люди могут усиливать собственные способности с помощью таких инструментов.

Проблема дескиллинга не ограничивается медицинской сферой. Ранее в этом году Microsoft опубликовала исследование, показавшее, что работники умственного труда, полагающиеся на ИИ, перестают критически мыслить о выполняемой работе и чувствуют уверенность в том, что помощи искусственного интеллекта достаточно для качественного выполнения задач. Исследователи из Массачусетского технологического института аналогично обнаружили, что использование ChatGPT для написания эссе приводит к снижению критического взаимодействия с материалом.

В долгосрочной перспективе зависимость от ИИ создает реальную угрозу эрозии способностей к решению проблем и логическому мышлению, что особенно опасно в контексте продолжающихся проблем с галлюцинациями и генерацией некорректной информации системами искусственного интеллекта.

Согласно данным Американской медицинской ассоциации, примерно два из трех врачей уже используют ИИ для расширения собственных возможностей. Остается надеяться, что медицинские специалисты сохраняют способность распознавать моменты, когда технология может "галлюцинировать" несуществующие части тела или предоставлять некорректную диагностическую информацию.