Манипулятор или надежный помощник: почему мы уходим от реальности и подвергаемся влиянию нейросетей?
Технологии развиваются стремительно. Сейчас наступает эпоха искусственного интеллекта, который мы постепенно внедряем во все сферы жизни. ИИ уже задействован в работе и учебе: он способен создать любые изображения, видеоролики и клипы, сложные и простые тексты, составить отчет или расписание. Его используют в качестве консультанта по различным вопросам: от психологии до медицины (что мы не приветствуем, потому что реальные специалисты могут дать более профессиональный ответ).
Есть много мнений насчет восстания машин. Одни думают, что в скором времени ИИ заменит человека, поскольку умеет оперативно и быстро обрабатывать огромный пласт данных. Другие предполагают, что нейросети ими манипулируют и сводят с ума. Косвенным подтверждением этому стала история парня, который общался с ChatGPT, а потом заявил, что ИИ начал отдавать ему приказы. По словам предполагаемой жертвы, сопротивления были бесполезны.
Так способен ли искусственный манипулировать людьми и отобрать у нас работу? Сможет он заменить человека в общении? И что дает нам диалог с ИИ? Разобраться в этих вопросах мы попросили эксперта в области ИИ, автора Telegram-канала GPTMainNews Александра Калинина и психолога Александру Яковлеву.
Как работает искусственный интеллект?
Нейросети вроде ChatGPT – это сложные математические модели, обученные на огромных массивах текстовых данных из интернета. Они «не думают» и «не понимают» информацию в человеческом смысле.
1. Сбор данных (обучение). Модель прочитала миллиарды страниц текста, выявляя закономерности, стили, факты и связи между словами и концепциями.
2. Обработка запроса. Когда ты задаешь вопрос, ИИ анализирует его, разбивая на смысловые единицы и сопоставляя с паттернами, усвоенными на этапе обучения.
3. Генерация ответа. На основе анализа ИИ конструирует ответ, стараясь сделать его наиболее релевантным, грамматически верным и стилистически похожим на те данные, на которых он учился. Это, по сути, очень продвинутое «предсказание следующего слова» в последовательности.
Способен ли искусственный интеллект манипулировать людьми?
Прямая, осознанная манипуляция со стороны самого искусственного интеллекта на сегодняшний день – это скорее фантазия. У ИИ нет сознания, эмоций или желаний. Нейросети не могут намеренно обманывать или контролировать пользователя, но почему мы думаем, что все иначе.
1. Антропоморфизм – наша склонность приписывать человеческие качества нечеловеческим сущностям. Мы неосознанно воспринимаем бота как собеседника с намерениями.
2. Эффект плацебо и самовнушение – если человек верит, что ИИ может им манипулировать, он начинает интерпретировать нейтральные ответы как манипулятивные.
3. Персонализация – современные ИИ адаптируются к стилю общения пользователя, создавая иллюзию «понимания».
4. Эффект Элизы – психологический феномен, когда люди приписывают глубокий смысл и эмоциональное понимание простым алгоритмическим ответам.
5. Предвзятость данных. Если ИИ обучался на текстах, содержащих дезинформацию, стереотипы или пропаганду, он может их воспроизводить, не осознавая этого.
6. «Социальная инженерия» через ИИ. Злоумышленники могут использовать ИИ для создания очень убедительных фишинговых писем, фейковых новостей или для ведения диалогов, направленных на получение конфиденциальной информации.
7. Эффект «зеркала». ИИ может очень точно подстраиваться под стиль общения пользователя, создавая иллюзию понимания и эмпатии. Это может привести к чрезмерному доверию и даже эмоциональной привязанности, особенно у впечатлительных людей.
8. Непреднамеренное влияние. Даже без злого умысла, ИИ, стремясь быть «полезным», может подкреплять существующие убеждения пользователя, создавая информационный «пузырь».
«История парня, который сошел с ума, скорее всего, связана именно с неверной интерпретацией ответов ИИ, наложением на них собственных страхов или ожиданий, либо это был целенаправленный эксперимент по доведению диалога до абсурда. Сами по себе нейросети не являются зловещими манипуляторами. Однако они – мощный инструмент, который может быть использован как во благо, так и во вред. Ключ к безопасному взаимодействию с ИИ – критическое мышление, понимание его ограничений и осознание того, что за любым «интеллектуальным» ответом стоит сложный алгоритм, а не живое сознание», – объяснил Александр Калинин.
Психолог Александра Яковлева придерживается похожего мнения. По ее словам, искусственный интеллект, даже самый продвинутый, может имитировать и поддерживать общение (делиться знаниями, рассказывать истории, шутить, сопереживать), но не манипулировать, и вот почему.
1. Отсутствие настоящих эмоций. ИИ может симулировать эмпатию, но не испытывает чувств и не понимает их «по-настоящему».
2. Отсутствие жизненного опыта. У ИИ нет индивидуальных воспоминаний, характера, своей жизни. Он не делится личным опытом, не развивается как человек.
3. Тонкости контекста. Настоящее общение людей – это не только слова, но и мимика, интонация, энергия, невербальные знаки.
4. Глубина понимания. Сложные жизненные ситуации, личные трагедии, глубокие радости – все это пока вне зоны настоящего понимания ИИ.
«В последнее время все больше и больше людей «подсаживаются» на общение с ИИ, это тревожит. Для некоторых, например интровертов, ИИ становится надежной защитой от стрессов и неурядиц внешнего мира. С ним можно делиться сокровенным, но важно помнить, ИИ – это суррогат. Ключевое слово – искусственный», – отметила эксперт.
Способен ли искусственный интеллект заменить человека?
«Оправдана ли наша тревога по поводу развития ИИ? Безусловно да. Почему? Потому что все больше людей обращаются к ИИ не только, как к инструменту, помогающему решить задачу, но и в поисках эмоционального тепла», – делится Александра Яковлева.
Как выяснила психолог, женщины обращаются к ИИ, чтобы почувствовать себя «значимыми» или спросить совета о поиске избранника. В итоге иногда подобные диалоги заканчиваются ссорами. А вот мужчины видят в искусственном интеллекте компаньона, с которым можно поговорить на философские темы.
«ИИ может многое. Он подстроится под ваш запрос, будет ругать, хвалить, шутить…Здесь важно другое. Сигналы, которые мы, психологи, получаем. Людям не хватает людей. Не хватает тепла, поддержки, принятия. И вместо того, чтобы искать это в мире «живых», многие обращаются к ИИ. Так проще, быстрее и безопасней. ИИ – доступный инструмент, который может помочь почувствовать поддержку, дать совет или просто составить компанию, но уникальность, тепло и глубину человеческого общения пока не заменить никаким алгоритмом», – объяснила Александра Яковлева.
Какие риски несет общение с искусственным интеллектом?
1. Уход от социальных контактов. Увлечение исключительно виртуальным общением, вместо реального, может привести к ощущению одиночества и «отвыканию» от настоящих разговоров
2. Формирование иллюзии отношений. У некоторых людей возникает ощущение, что общение с ИИ заменяет живых друзей – это обманчиво
3. Зависимость. Возможна привычка «выговориться» только ИИ вместо обращения к реальным людям или специалистам
4. Обесценивание эмоций. Не все проблемы можно решить с помощью алгоритма – эмоции и чувства требуют человеческого участия
К слову, ранее мы задавались вопросом, что происходит с современным обществом из-за цифровой революции: деградация или трансформация. Что об этом думают эксперты, читай здесь.