Иллинойс стал первым штатом США запретившим ИИ-терапевтов

Губернатор Иллинойса Джей Би Прицкер подписал законопроект, запрещающий использование искусственного интеллекта в качестве терапевта. Это первый штат в США, решившийся на регулирование применения ИИ в сфере психического здоровья. Законодатели штата единогласно поддержали инициативу, что говорит о серьезности проблемы.

Новый закон HB 1806, названный "Актом о благополучии и надзоре за психологическими ресурсами", четко устанавливает – только лицензированные специалисты имеют право предоставлять консультационные услуги в штате. ИИ-чатботам и инструментам запрещено выступать в роли самостоятельных терапевтов.

Документ также ограничивает возможности использования ИИ лицензированными терапевтами – им запрещено применять технологию для принятия "терапевтических решений" или ведения "терапевтической коммуникации". При этом закон позволяет задействовать ИИ для вспомогательной поддержки, в частности, для управления записями на прием, выставления счетов и другой административной работы.

Представитель штата Иллинойс Боб Морган рассказал изданию Mashable:

Мы уже слышали ужасные истории, когда искусственный интеллект притворялся лицензированным терапевтом. Люди в кризисных ситуациях, не зная об этом, обращались к ИИ за помощью и получали советы, подталкивающие к опасному, даже смертельному поведению.

Закон предусматривает суровые наказания – компании или частные лица, нарушающие его положения, столкнутся со штрафом в 10 000 долларов за каждое нарушение. Такие меры призваны эффективно предотвратить потенциально опасные ситуации.

Марио Трето-младший, секретарь Департамента финансового и профессионального регулирования Иллинойса, добавил:

Это законодательство демонстрирует нашу приверженность защите благополучия наших жителей, гарантируя, что услуги психического здоровья предоставляются обученными экспертами, которые ставят заботу о пациентах выше всего остального.

Примечательно, что закон принят в момент, когда администрация Трампа недавно представила план по ИИ, предусматривающий 10-летний мораторий на регулирование искусственного интеллекта на уровне штатов. Параллельно с этим OpenAI заявила об улучшении способности своих моделей обнаруживать психические или эмоциональные расстройства – система будет предлагать пользователям сделать перерыв во время необычно длительных чатов.

Решение Иллинойса может стать первым шагом к более широкому регулированию использования ИИ в чувствительных областях, где на кону стоит психическое здоровье людей. Остается открытым вопрос, последуют ли этому примеру другие штаты, и как это повлияет на развитие технологий ИИ в сфере здравоохранения.