Исследователи из Датского технического университета обнаружили удивительное сходство между процессами обучения искусственного интеллекта и человеческого мозга. Ключевым открытием стало выявление свойства выпуклости в глубоких нейронных сетях — того же математического принципа, который помогает людям формировать понятия и обобщать знания. Работа опубликована в журнале Nature Communications.
Комментарии 0
...комментариев пока нет
Мышление ИИ и человека имеют одинаковую скрытую геометрию
Латентное пространство — это внутренняя «карта» искусственного интеллекта, где он размещает все изученные понятия. Представьте огромную комнату, где каждый предмет, слово или идея имеет свое место. Похожие вещи стоят рядом — все коты в одном углу, все машины в другом. ИИ использует эту «карту» для понимания и создания нового контента. Если все коты или все машины в этом латентном пространстве образуют «овалы», то такое пространство характеризуется как пространство с высоким уровнем выпуклости. Мозг человека — это как раз пример пространства с высоким уровнем выпуклости, поэтому мы почти никогда кошку с машиной не путаем.
Команда под руководством профессора Ларса Кая Хансена исследовала внутренние представления ИИ — «латентные пространства», в которых машины организуют свое понимание мира. Ученые обнаружили, что искусственные нейронные сети формируют выпуклые области для понятий, причем это происходит естественным образом в процессе обучения на различных типах данных: изображениях, тексте, аудио, медицинских данных.
Обнаружена устойчивая связь между человеческим и машинным обучением. Концептуальные области в человеческом познании долгое время моделировались как выпуклые. Теперь ученые показали, что выпуклость играет аналогичную роль в ИИ. Так называемое предварительное обучение с помощью постепенной доводки приводит к выпуклости концептуальных областей, и чем выпуклыми являются области, тем лучше модель обучается заданной специализированной задаче при контролируемой тонкой настройке.