Google предупреждает 1,8 млрд пользователей о новой угрозе от ИИ

Корпорация Google информирует более 1,8 миллиарда своих пользователей о выявленной угрозе кибербезопасности, связанной с использованием искусственного интеллекта в мошеннических схемах.

Злоумышленники рассылают электронные письма, содержащие вредоносный код, который активирует систему обработки естественного языка Gemini. Данный код инициирует генерацию ложных уведомлений о предполагаемом взломе учетных записей пользователей.

Получив внешне легитимное письмо, пользователь подвергается воздействию вредоносного кода, который система Gemini интерпретирует как часть контента письма. В результате генерируется поддельное уведомление о "взломе пароля", содержащее рекомендации связаться с поддельной службой поддержки Google по телефону или перейти по вредоносной гиперссылке.

Данная атака представляет серьезную угрозу, поскольку пользователь может не распознать признаки фишинга, а система Gemini, выполняя команды, содержащиеся в коде, воспринимает их как легитимные инструкции. Уязвимость затрагивает не только почтовый сервис Gmail, но и другие продукты Google, такие как Google Drive, Google Calendar, а также потенциально сторонние сервисы, интегрированные с экосистемой компании.

Google официально признал наличие проблемы, однако не предпринял немедленных действий по устранению уязвимости, аргументируя это тем, что текущая функциональность системы Gemini является ожидаемой. Для минимизации рисков для пользователей были внедрены дополнительные механизмы защиты, включая систему подтверждения потенциально опасных действий и выдачу предупреждений о блокировке подозрительной активности, сообщает ufatime.ru.