Угроза человечеству: чего ждут от AGI в ближайшие годы
В ближайшие пять-десять лет искусственный интеллект может выйти на уровень когнитивных способностей человека. Но готово ли общество к такому скачку?
Генеральный директор Google DeepMind Демис Хассабис рассказал в интервью Time о своих тревогах, признался, что мысль о скором появлении искусственного общего интеллекта (AGI) не даёт ему спать по ночам. По его словам, мы стоим на пороге реальности, к которой человечество оказалось не готово.
"Это что-то вроде распределения вероятностей. Но это происходит, так или иначе, это происходит очень скоро, и я не уверен, что общество к этому готово. И нам нужно обдумать это, а также подумать о проблемах, связанных с управляемостью этих систем, доступом к ним и тем, чтобы всё прошло хорошо", — отметил Хассабис.
Эту оценку поддерживает и лауреаты Нобелевской премии по химии 2024 года, заявившие, что ИИ с когнитивными функциями человека появится в течение ближайшего десятилетия.
Почему стоит бить тревогу?
"Для меня это вопрос международных стандартов и сотрудничества, причём не только между странами, но и между компаниями и исследователями по мере того, как мы приближаемся к финальным этапам создания AGI. И я думаю, что мы на пороге этого", — подчеркнул Хассабис.
Ранее Хассабис уже предлагал создать своего рода ЦЕРН для ИИ — международную платформу для безопасных исследований на передовой технологий
"Я бы выступил за своего рода ЦЕРН для сверхразумных ИИ. Нужна организация вроде МАГАТЭ, чтобы отслеживать небезопасные проекты, и международный регулирующий орган под эгидой ООН — своего рода техническую ООН", — объяснял он в феврале.
DeepMind предупреждает: ИИ может уничтожить человечество
Опасения Хассабиса небеспочвенны. В недавней научной публикации DeepMind заявила, что сверхразумный ИИ может стать причиной полного исчезновения человечества.
"Учитывая огромное потенциальное влияние сверхразумного искусственного интеллекта, мы ожидаем, что он также может представлять потенциальную угрозу серьёзного вреда", — говорится в исследовании.
Особое внимание в документе уделено экзистенциальным рискам — сценариям, которые могут привести к необратимой катастрофе для цивилизации.
Что такое AGI?
AGI (Artificial General Intelligence) — это система, способная не только решать узкие задачи, но и обучаться, анализировать и применять знания в разных сферах на уровне человеческого интеллекта.
Это качественно новый шаг в развитии технологий, несущий с собой как колоссальные возможности, так и огромные риски.
Уточнения
Иску́сственный интелле́кт (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.