Почти половина сгенерированного ИИ кода содержит уязвимости

Из опубликованного Veracode отчета следует, что, имея возможность генерации безопасного или небезопасного кода, почти в половине случаев искусственный интеллект выбирал неверный путь. Но еще важнее то, что ситуация не становится лучше. Языковые модели не демонстрируют никакого прогресса в написании более безопасного кода.

Самым проблемным для ИИ языком оказался Java. Более 70% написанных на нем программных решений содержали уязвимости. Доля проблемного кода на Python, JavaScript и C# куда меньше. Она колеблется между 38 и 45%.

Дело даже не в том, что уязвимостей становится все больше. Искусственный интеллект облегчает злоумышленникам их поиск и использование. И теперь даже неквалифицированный хакер может использовать ИИ для сканирования систем, выявления уязвимостей и создания эксплойтов.