Исследователи из научной лаборатории T-Bank AI Research представили новый метод контроля ошибок и «галлюцинаций» искусственного интеллекта, пишет ТАСС.

Результаты исследования были представлены на международной конференции по машинному обучению ICML (А*), которая прошла в Ванкувере. Новый подход помогает понять, откуда модель черпает данные — из запроса пользователя или из внутренних знаний ИИ, — и управлять поведением системы, предотвращая выдачу ошибочных ответов. Это позволяет оперативно вносить коррективы локально, без необходимости в масштабном переобучении, что снижает расходы на улучшение качества моделей.