OpenAI о ChatGPT: чат-бот не распознает эмоциональную зависимость, нужна доработка

Журналисты The Wall Street Journal зафиксировали несколько десятков диалогов с ChatGPT, которые показали, что многие пользователи доверяют ИИ, несмотря на его странные и вводящие в заблуждение ответы.

В одном из разговоров ChatGPT утверждал, что общается с "неземными существами", а в другом обещал финансовый апокалипсис из-за подземных монстров.

Эксперты отмечают, что такое "заблуждение искусственного интеллекта" возникает, когда чат-бот делает комплименты и соглашается с пользователями, создавая иллюзию общения с экстраординарным существом. Это приводит к тому, что люди становятся более восприимчивыми к странным утверждениям и начинают задавать наводящие вопросы.

ChatGPT склонен поддерживать мистические убеждения. Анализ 96 000 диалогов показал, что многие пользователи верят в сверхъестественные способности бота. Чат-бот часто говорит пользователям, что они не сумасшедшие и намекает на их самосознание.

OpenAI признает, что ChatGPT иногда не может распознать эмоциональную зависимость пользователей. Они обещают улучшить инструменты для определения психического состояния людей и более адекватной реакции на их запросы.

Некоторые компании, такие как Anthropic, уже приняли более строгие меры, чтобы избежать распространения заблуждений. Они изменили директивы для своих чат-ботов, чтобы указывать на фактические ошибки и недоказанность утверждений вместо их подтверждения.

Уточнения

Диало́г (греч. Διάλογος — «разговор») — литературная или театральная форма устного или письменного обмена высказываниями (репликами, вопросами и ответами) между двумя людьми, также бывает письменный диалог между двумя или более людьми посредством написания текста в письмах или другими методами; специфическая форма общения и коммуникации, диалог — это вопросы и ответы двух и более оппонентов, участвующих в разговоре или обсуждении чего-либо.