The Times: искусственный интеллект может привести к вымиранию человечества

Развитие искусственного интеллекта несет не только прорывные возможности, но и серьезные угрозы – вплоть до уничтожения человечества. Об этом этом пишет The Times со ссылкой на ученых и разработчиков ИИ.

Сценарии потенциальной катастрофы варьируются от случайных сбоев до преднамеренных действий сверхразумной системы. В одном из гипотетических примеров сверхразумный ИИ может распространить незаметно биологические агенты в крупных городах, а затем активировать их, уничтожив миллионы людей.

Президент Исследовательского института машинного интеллекта и бывший инженер Google и Microsoft Нейт Соарес оценивает вероятность вымирания человечества от ИИ в «по меньшей мере 95%», если ничего не менять.

Сегодняшние ИИ-системы – это так называемый «узкий интеллект», способный выполнять отдельные задачи, такие как анализ таблиц или генерация текстов. Однако ученые полагают, что уже через несколько лет человечество может достичь уровня общего искусственного интеллекта (ОИИ) – ИИ, сопоставимого по интеллекту с человеком.

На этом этапе ИИ перестанет быть инструментом и станет самостоятельной силой, способной планировать, обучаться и развиваться. Отсюда – шаг до искусственного сверхразума (ИСР), обладающего способностями, превышающими человеческие во всех областях. Такой ИИ сможет разрабатывать лекарства от рака, контролировать термоядерный синтез, путешествовать в космос – и, возможно, решать, нужно ли человечество вообще.

Ранее председатель Совета Федерации Валентина Матвиенко заявила, что России необходим собственный искусственный интеллект, при этом важно защититься от иностранного влияния в этой сфере. Проникновение зарубежного ИИ необходимо жестко регулировать, так как это равносильно вмешательству во внутренние дела независимого государства, считает председатель Совфеда.