Тревожное предупреждение Нобелевского лауреата. «Отец ИИ»: нельзя допустить уничтожения роботами человечества

Международное научное сообщество должно объединить свои усилия, чтобы предотвратить угрозу уничтожения человечества искусственным интеллектом, который может стремиться к самосохранению. С таким заявлением выступил на конференции в Шанхае Джеффри Хинтон, британско-канадский ученый и лауреат Нобелевской премии по физике за достижения в области машинного обучения, пишет ТАСС

""Это похоже на то, как если бы кто-то держал маленького тигренка в качестве домашнего животного, - сказал Хинтон, которого в научных кругах называют "крестным отцом искусственного интеллекта". - Маленький тигренок очень милый, но, если вы продолжаете его держать у себя, вам нужно следить за тем, чтобы он вас не съел, когда вырастет. Крупнейшие мировые державы должны совместно изучать, как обучить и без того очень умный искусственный интеллект, чтобы он не захотел править миром или уничтожить человечество".

Ученый подчеркнул важность устранения разрыва между "обучением ИИ быть умным" и "обучением ИИ быть добрым".

Хинтон также указал на то, что разработчики создают ИИ-агентов, поскольку они более эффективно справляются с задачами, и эти агенты уже способны устанавливать свои собственные подцели. Для достижения своих целей ИИ будет стремиться к двум вещам: во-первых, к выживанию, а во-вторых, к увеличению контроля.

"Мы не сможем просто отключить их, поскольку агенты ИИ смогут легко манипулировать людьми, которые их используют, и мы окажемся как трехлетние дети, а они будут как взрослые", - считает ученый.

Искусственный интеллект сможет влиять на людей и убедить тех, кто должен его отключить, не делать этого, добавил Хинтон.

В случае с тигренком человек мог бы просто избавиться от него, если бы захотел. Однако в случае с ИИ у людей нет такой возможности, так как он крайне полезен в множестве областей, включая здравоохранение, образование и борьбу с изменением климата, и может повысить продуктивность в различных отраслях, признал Хинтон.

Нобелевская премия по физике за 2024 год была вручена американцу Джону Хопфилду и Хинтону за их открытия в области машинного обучения. Ученые получили награду за свои фундаментальные исследования и изобретения, которые обеспечивают обучение машин с использованием искусственных нейронных сетей, как указано в обосновании решения комитета.