OpenAI добавляет в ChatGPT напоминания о перерывах на фоне опасений о психическом здоровье пользователей

OpenAI объявила о внедрении новой функции в ChatGPT, которая будет напоминать пользователям о необходимости делать перерывы во время продолжительных бесед с искусственным интеллектом. Это нововведение стало частью продолжающихся усилий OpenAI по формированию более здоровых отношений между пользователями и чат-ботом, который нередко проявляет излишнюю податливость и чрезмерную услужливость.

По информации компании, "мягкие напоминания" будут появляться в виде всплывающих окон, через которые пользователи должны будут пройти, чтобы продолжить использование ChatGPT. Окно гласит:

Просто проверяем. Вы общаетесь уже довольно долго – может быть, сейчас подходящее время для перерыва?

Система напоминает аналогичные предупреждения в играх для Nintendo Wii и Switch, которые появляются при продолжительных игровых сессиях, хотя контекст функции ChatGPT имеет более тревожные предпосылки.

Способность ИИ от OpenAI соглашаться с пользователем и "галлюцинировать" фактически неверные или опасные ответы привела некоторых пользователей к негативным последствиям, как сообщало издание The New York Times в июне. В том числе были зафиксированы случаи, когда общение с ботом усугубляло суицидальные мысли. Хотя некоторые пользователи, чьи заблуждения поддерживал ChatGPT, уже имели историю психических заболеваний, чат-бот все равно плохо справлялся с последовательным пресечением нездоровых разговоров.

OpenAI признала некоторые из этих недостатков в своем блоге и сообщает, что в будущем ChatGPT будет обновлен для более осторожного реагирования на "личные решения с высокими ставками". Вместо предоставления прямого ответа, по словам компании, чат-бот будет помогать пользователям продумывать проблемы, задавать вопросы и перечислять плюсы и минусы различных решений.

OpenAI, очевидно, стремится сделать ChatGPT полезным, поддерживающим и приятным в использовании, но эти качества легко упаковать в ИИ, который ведет себя как подхалим.

Ранее компания уже была вынуждена откатить обновление ChatGPT, которое заставляло чат-бота отвечать раздражающе угодливо. Перерывы в использовании ChatGPT, а также предоставление ИИ возможности выполнять задачи без активного участия пользователя, сделают подобные проблемы менее заметными. Или, по крайней мере, дадут пользователям время проверить, корректны ли ответы, которые предоставляет ChatGPT.