Глава Microsoft AI предупредил о риске «психоза ИИ»

Руководитель Microsoft AI Мустафа Сулейман опубликовал эссе We must build AI for people; not to be a person ("Мы должны создавать ИИ для людей, а не вместо человека"), в котором ввел термин Seemingly Conscious AI (SCAI, "кажущийся сознательный ИИ"). По мнению Сулеймана, современные ИИ-технологии вплотную подошли к созданию иллюзии сознания. Подобные системы будут восприниматься как обладающие собственной личностью, памятью, эмоциями. Это особенно опасно, потому что человек по своей природе склонен приписывать сознание тому, кто говорит, помнит и общается.

Сулейман предупреждает, что создание подобных систем возможно в ближайшие 2-3 года с использованием нынешних технологий: больших языковых моделей, инструментов, памяти, автопромптинга и так далее. Никакой эксклюзивной инфраструктуры не потребуется — хватит обычного ноутбука с API-доступом.

Сейчас нет никаких доказательств сознательности искусственного интеллекта, но иллюзия сознания может привести к "психозу ИИ" — ситуациям, когда люди начинают воспринимать ИИ как живое существо. Это может оправдать призывы о правах ИИ, его защите и даже гражданстве. Сулейман обеспокоен тем, что такие идеи могут отвлечь внимание от действительно важных вопросов и размыть границы реальности.

Сулейман призывает к общественному дебату, нормам и ограничениям. Нужно не допускать маркетинга ИИ как "живого", не поощрять антропоморфную подачу. Его главный призыв — "мы должны строить ИИ для человека, а не в форме человека". ИИ должен быть помощником и партнером, но не поводом для эмоциональной зависимости.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.