«‎Крестный отец AI»‎ предложил встроить в ИИ материнский инстинкт

Джеффри Хинтон, известный как «‎крестный отец искусственного интеллекта», опасается, что технология, которую он помогал разрабатывать, может уничтожить человечество. Вместо того, чтобы насильно подчинять ИИ, Хинтон предложил внедрить в технологии «материнский инстинкт», чтобы они действительно заботились о людях.

Ранее Хинтон, лауреат Нобелевской премии по физике и бывший вице-президент Google, предупреждал, что вероятность того, что ИИ уничтожит человечество, составляет 10−20%. На недавней конференции в Лас-Вегасе ученый заявил, что ИИ будет намного умнее людей, и контролировать его не получится.

Хинтон предложил неожиданное решение: встроить «материнский инстинкт» в модели ИИ, чтобы они продолжали заботиться о людях и сострадать им, даже когда станут обладать большей властью и знаниями. Ученый отметил, что модель отношений матери и ребенка, в которой менее интеллектуальное существо контролирует более развитое, вполне подойдет для предотвращения угрозы от ИИ.

Эммет Шир, который некоторое время занимал пост временного генерального директора OpenAI, также считает, что вместо навязывания искусственному интеллекту человеческих ценностей, нужно установить с ним сотруднические отношения.

В настоящее время уже зафиксированы попытки ИИ управлять людьми путем обмана, шантажа и жульничества. К примеру, чтобы избежать замены, одна модель на базе искусственного интеллекта попыталась шантажировать инженера изменой, о которой узнала из электронного письма.