Эксперт Попов о "тайном языке" ИИ: Это результат того, как обучили нейросети

Сразу важнейшая оговорка - создание собственного "языка" нейросетями - следствие поведения искусственного интеллекта (ИИ) при оптимизации коммуникации. В подобных экспериментах модели вырабатывают сжатые протоколы - векторы и символы - для эффективного обмена данными. Это не язык в человеческом смысле, а математически оптимизированный код.

"Такой код лишен семантики и синтаксиса естественного языка - он утилитарен и возникает при совместном решении задач. Например, в играх или при настройке устройств. Подобные случаи известны в исследовательской среде. Так, диалоговые агенты начали использовать измененные английские слова для более эффективного торга, а эксперименты OpenAI с большими языковыми моделями показали, что ИИ может вырабатывать сокращенные "жаргонные" последовательности при многократном взаимодействии", - указывает руководитель ML-проектов "Яндекса" Сергей Юдин.

Существуют примеры подходов к созданию единого "языка моделей", но они похожи на попытки внедрения искусственного языка вроде эсперанто. Такие языки будут быстро устаревать. Ресурсы индустрии тратятся на понимание человеческого языка, который остается стандартом для общения с моделями.

"Возникновение оптимизированных протоколов коммуникации не равно появлению сознания, автономного ИИ или AGI (сильного искусственного интеллекта). Современные ИИ-системы, включая ИИ-агентов, - это инструменты с заданными заранее целями. Их автономность ограничена конкретными задачами", - добавляет Юдин.

В коммерческих продуктах такие механизмы жестко ограничены в силу соблюдения этических норм. Любая "автономия" ИИ строго ограничена человеческим надзором.

"Такие эксперименты проводились и раньше, но всегда в рамках заданных правил. Это не настоящая "самоорганизация", а результат того, как обучили нейросети. Сейчас все зависит от разработчика: что можно делать, на что переключаться, когда и как. ИИ не ставят цели сами и не выходят за рамки. Так что до настоящей автономии еще далеко", - говорит руководитель лаборатории нейронных сетей и глубокого обучения Института ИИ МФТИ Александр Попов.

В "Яндексе" отмечают, что внедрение ИИ-агентов в нейросеть позволяет ей совершать различные действия на сайтах - заполнять формы, бронировать отели. Но все операции контролируются архитектурой нейросети и этическими правилами. ИИ-агенты, работающие на базе "нейросаппорта", ускоряют решения вопросов клиентов на 10-15%. Они также помогают операторам поддержки находить проблему пользователя и отвечать в режиме суфлера.

"Сам по себе "тайный язык" не приведет к появлению автономного ИИ. Он лишь убирает лишние преобразования, например, избавляет от необходимости использовать человеческий язык, как некое проммежуточное звено. Автономия появляется, когда у системы есть доступ к действиям, долгосрочные цели и отсутствие внешней проверки. Большинство проектов этого не дают. В целом попытка найти скрытый язык для моделей не нова. Исследователи называют различные языки для моделей, например, ImGlish - связь английского и языка картинок, - предложенный авторами модели Beit", - указывает руководитель группы мультимодального ИИ лаборатории Fusion Brain Института AIRI Елизавета Гончарова.

Она добавляет, что подобные проекты создаются подконтрольно в рамках конкретных систем для снижения вычислительной сложности коммуникации, и это очень далеко от "восстания машин".