ИИ с возможностью заглянуть в исходный код: новый подход российских ученых

Специалисты Института теоретической и экспериментальной биофизики Российской академии наук разработали новый алгоритм, который может существенно повысить уровень понимания и безопасности систем искусственного интеллекта (ИИ).

Данный метод основывается на концепции «белого ящика», что обеспечивает прозрачность и интерпретируемость процесса принятия решений ИИ. Это особенно актуально, поскольку традиционные нейронные сети, функционирующие по принципу «чёрного ящика», зачастую не поддаются объяснению даже их разработчикам, что создаёт риски непредсказуемого поведения и усложняет оптимизацию таких систем.

Предложенный учёными подход направлен на устранение данной проблемы, обеспечивая полную прозрачность алгоритмов и улучшая понимание их работы.

Концепция «белого ящика» базируется на логических клеточных автоматах математических моделях, изменяющих состояние ячеек в соответствии с заранее установленными правилами. Этот метод уже успешно применялся для верификации экологических гипотез, включая парадокс биоразнообразия, что подтверждает его практическую значимость.

Разработчики выражают уверенность в высоком потенциале предложенной технологии, которая может быть использована как в специализированных, так и в универсальных системах ИИ. В перспективе возможно создание гибридных моделей, сочетающих преимущества «белых» и «чёрных» ящиков, что откроет новые перспективы для разработки безопасных и предсказуемых систем искусственного интеллекта, пишет proulyanovsk.ru.