«Крестный отец» ИИ спрогнозировал появление «сверхразума» и назвал главные риски этой технологии

Джеффри Хинтон, известный как «крестный отец ИИ», выразил серьезную обеспокоенность по поводу экзистенциальных рисков, связанных с развитием искусственного интеллекта. В эксклюзивном интервью South China Morning Post он заявил, что вероятность того, что ИИ уничтожит человечество, составляет от 10 до 20 процентов. По его мнению, технологическая гонка между США и Китаем только усугубляет эту угрозу.

Главная проблема, по словам Хинтона, заключается в том, что сверхинтеллект, превзойдя человека, может решить избавиться от нас. Это не обязательно будет злой умысел. ИИ, стремясь выполнить поставленные перед ним задачи, неизбежно придет к выводу, что для этого ему нужно выжить и получить больше контроля. Эти подцели он выведет для себя сам, и в какой-то момент человечество может стать для него помехой.

Хинтон считает, что традиционные методы контроля, основанные на доминировании, не сработают против более умной сущности. Единственный выход — попытаться спроектировать ИИ так, чтобы он «заботился о нас, как мать о ребенке». Это потребует не просто обучения на данных, а встраивания в его архитектуру своего рода инстинкта, похожего на то, как эволюция «запрограммировала» материнскую любовь.

Несмотря на серьезность долгосрочной угрозы, Хинтон считает, что международное сотрудничество возможно именно в этой области. В отличие от кибератак или разработки автономного оружия, где интересы стран расходятся, в вопросе предотвращения захвата власти ИИ интересы США, Китая и других технологически развитых стран совпадают.

Помимо экзистенциального риска, Хинтон выделил и более близкие угрозы: массовую безработицу в течение ближайших 5−10 лет, резкий рост кибератак (фишинговые атаки в США выросли на 1200% за год), распространение фейковых видео, а также использование ИИ для создания биологического оружия. Он призвал к международному регулированию и созданию систем аутентификации контента.