Нобелевский лауреат Джеффри Хинтон: если ИИ не будет «опекать» человека, он его «заменит», поэтому модели нужно обучать «материнским инстинктам»

 Он ушёл из Google в 2023 году из-за этических разногласий по поводу развития искусственного интеллекта.

• Выступая на конференции Ai4 в Лас-Вегасе, исследователь сказал, что разработчики должны создавать не только более «умные» системы, но и учиться встраивать в них «материнские инстинкты».
• Хинтон считает, что нейросети со временем станут умнее людей, поэтому важно сделать так, чтобы они «по-прежнему заботились о нас». Система, при которой более разумным «материнским» существом управляет менее разумное, лучше «доминирования над ИИ».

Мы будем детьми ИИ. Это единственный хороший исход. Если он не будет меня опекать, он меня заменит.

Джеффри Хинтон, исследователь

• Учёный относит себя к «лагерю» ИИ-критиков. В интервью CBS News он сравнил развитие ИИ с воспитанием «милого тигрёнка», который станет опасен, когда вырастет. Больше всего его волнует рост числа ИИ-агентов, которые работают автономно без помощи человека.

• Хинтона называют «крёстным отцом» ИИ. Он изобрёл нейронную сеть «Машина Больцмана» в 1980-х. Хинтон также был научным руководителем Ильи Суцкевера. В 2012 году они вместе с Алексом Крижевским разработали нейросеть для анализа фотографий.
• Их стартап DNN Research купила Google в 2013 году. Хинтон тогда перешёл в корпорацию и покинул её в 2023. Он предупредил, что ИИ повлияет на рынок труда и наводнит интернет фальшивыми фотографиями, видео и текстами.

В 2024 году Хинтон получил Нобелевскую премию за открытия в области машинного обучения.

 

Источник: vc.ru