Эксперты российского рынка искусственного интеллекта отметили значимость открытия, сделанного отечественными учеными. Напомним, что исследователи из T-Bank AI Research разработали метод, который позволяет проследить изменение концепции слой за слоем и выявить, где именно нейросеть начала допускать ошибки, приводящие к неверным ответам и рекомендациям.

Директор лаборатории FusionBrain Института AIRI Андрей Кузнецов отметил, что такой авторский способ сопоставления признаков между слоями может быть очень полезным в ситуациях, когда доступ к обучающим данным ограничен или невозможен.

Вместе с тем руководитель разработки больших языковых моделей Avito Анастасия Рысьмятова считает, что технологии, подобные представленной T-Bank AI Research, могут в будущем дать исследователям и разработчикам мощный инструмент для анализа внутренней логики нейросетей и повышения их прозрачности, помогая создавать более предсказуемые и надежные системы ИИ.