Vibe hacking. Непрограммисты взломали 17 компаний по инструкции чат-бота Claude, не написав ни строчки кода
Anthropic сообщила, что обнаружила и заблокировала пользователей, которые использовали её чат-бот Claude для взлома других компаний.
Хакеры применяли ИИ Claude для поиска целей, написания фишинговых писем, создания вредоносного кода и обхода систем безопасности.
По информации Anthropic, с помощью Claude были взломаны 17 организаций. Их названия не раскрываются, но среди них были медицинские, государственные и религиозные организации.
Неизвестно, сколько именно заработали хакеры. В некоторых случаях они требовали выкуп до $500 тыс., чтобы не публиковать конфиденциальные данные. Сумму выкупа, по данным Anthropic, рассчитывал сам Claude на основе украденной информации.
В Anthropic предупреждают, что число подобных атак будет расти. Для этого явления уже придумали название — Vibe hacking. Компания утверждает, что добавила фильтры, способные выявлять попытки использовать чат-бота для киберпреступлений. [NBC News]
