Опасные советы от ИИ: почему чат-боты могут быть опасными для вас в роли виртуальных психологов
В последнее время чат-боты все чаще используются в сфере здравоохранения, особенно в качестве виртуальных психологов. Однако, как отмечает Екатерина Орлова, заместитель директора Института клинической психологии и социальной работы при Пироговском Университете, применение искусственного интеллекта (ИИ) в этой области сопряжено с рисками.
Одним из основных опасений является утечка личных данных пациентов. Все самые сокровенные переживания, страхи и травматические ситуации, которые человек доверяет алгоритму, могут попасть в руки злоумышленников или недобросовестных корпораций. Даже обезличенные данные могут быть деанонимизированы и использованы для манипуляций или дискриминации.
ИИ не способен оказать полноценную психологическую помощь, так как не способен воспринимать и анализировать невербальные сигналы, пишет Газета.Ru.
"ИИ не чувствует, не сопереживает по-настоящему, и, как следствие, не улавливает тончайшие нюансы человеческих эмоций", — сказала Орлова.
В критических ситуациях, когда человек наиболее уязвим, ИИ может не распознать его отчаяние или дать опасный совет, что повлечет за собой ответственность за последствия. Кроме того, алгоритмы ИИ могут быть предвзятыми, так как они обучаются на данных, созданных людьми, и могут воспроизводить стереотипы, дискриминируя отдельные группы людей или психические состояния.
Еще один риск заключается в создании иллюзии замены. Люди могут начать полагаться на чат-ботов как на панацею, откладывая визиты к живым специалистам даже в серьезных случаях. Возникает вопрос о границах доверия: понимают ли пациенты, как их данные используются, и осознают ли они возможные риски, задаётся вопросом психолог.
Технологический прогресс делает помощь доступнее, но также ставит перед нами новые вызовы. Важно пересмотреть нормы приватности, ответственности и человечности в терапии. Оптимальным решением может быть гармоничное сочетание технологий и профессионализма специалистов, где ИИ служит инструментом, но не заменяет живое участие, считает эксперт.
Уточнения
Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.