Умеете печь хлеб — легче освоить рецепт торта. Человек не учится заново пользоваться духовкой и отмерять ингредиенты, а переиспользует уже знакомые навыки и комбинирует их с новыми. Мозг делает это автоматически, а вот для современных нейросетей это проблема — бенчмарки вроде ARC-AGI показывают, что даже если модели показать несколько примеров решения задачи по одному и тому же правилу, она не всегда справляется с еще одной похожей задачей. Исследователи из Принстона выяснили, почему.
В статье, опубликованной в Nature, авторы описали механизм, который назвали "когнитивными Лего". Префронтальная кора — область мозга, отвечающая за высшее мышление — не строит каждое новое поведение с нуля. Вместо этого она собирает его из готовых модульных блоков, комбинируя их под текущую задачу.
Чтобы это доказать, исследователи обучили макак-резусов трем задачам на визуальную категоризацию: определять форму объекта (похож на кролика или на букву «Т») и его цвет (красный или зеленый). Задачи были спроектированы так, чтобы иметь общие компоненты — например, одинаковые движения глаз для ответа. Анализ активности мозга показал: когда задачи пересекались, префронтальная кора использовала одни и те же нейронные паттерны. Еще одно важное наблюдение: мозг активно подавляет "блоки", нерелевантные текущей задаче — это помогает фокусироваться и не перегружать когнитивные ресурсы.
"Я думаю о когнитивном блоке как о функции в компьютерной программе, — объясняет Тим Бушман, старший автор исследования. — Один набор нейронов различает цвета, и его выход соединяется с другой функцией, которая управляет действием". У нейросетей с этим проблема: когда они учатся новому, то перезаписывают старые знания. "Если нейросеть научилась печь торт, а потом учится печь печенье — она забудет, как печь торт", — говорит ведущий автор Сина Тафазоли. Это называется катастрофическим забыванием.
Открытие может повлиять на две области. Во-первых, внедрение композициональности в машинное обучение позволит создавать ИИ, который накапливает навыки, а не теряет их. Во-вторых, понимание механизма "когнитивных Лего" открывает путь к терапии расстройств, при которых мозг теряет гибкость — шизофрении, ОКР, последствий черепно-мозговых травм.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.