Маркировать ответы нейросетей на медицинские темы предложили в ГД

В Госдуме предложили ответы нейросетей на медицинские темы помечать предупреждающей надписью, а также запретить ИИ рекомендовать лекарства и биодобавки пользователям, пишут РИА Новости.

С таким предложением в Минцифру и Роскомнадзор обратился вице-спикер Госдумы Борис Чернышов. Он указал на то, что необходимо реагировать на современные реалии, когда пользователи вместо визита к врачу спрашивают совет у нейросетей, которые никак не отвечают за достоверность и правильность информации.

Он предлагает ввести строгие правила для российских нейросетей, которые обрабатывают медицинские запросы пользователей, и внедрить три обязательных требования, чтобы минимизировать риски здоровью пользователей:

1. Каждый ответ нейросети в области медицины должен быть четко помечен. Надпись должна быть заметной и постоянно видна. Она должна предупреждать: «Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу».
2. Перед получением медицинской информации пользователь должен подтвердить согласие, нажав: «Я понимаю, что это не диагноз врача, и принимаю риски». Система не должна предоставлять результаты по запросу без явного и осознанного согласия пользователя.
3. Запретить рекламу и рекомендации лекарств и биологически активных добавок, а также указание их торговых наименований.

«Указанные меры направлены на защиту жизни и здоровья наших граждан, минимизацию рисков от неконтролируемого самолечения и формирование ответственного подхода к использованию технологий искусственного интеллекта», — подчеркнул Чернышов.

На сервисе OpenAI уже запрещено использовать нейросети для медицинских консультаций без участия лицензированного медика. Сервис также не может автоматизировать важные решения в сфере медицины.

Фото: wrightstudio @123RF.com