Google предупреждает о появлении новых видов атак. Эксперты обнаружили несколько вредоносных программ, использующих искусственный интеллект.
Вирус PROMPTFLUX регулярно обращается к API Gemini для обновления своего кода. Эти «мутации» направлены на то, чтобы сделать вирус незаметным для антивирусных систем. Однако эксперты подчёркивают, что злоумышленники пока только экспериментируют с таким методом.
Вирус PROMPTSTEAL активно применяет искусственный интеллект для кражи данных. Он маскируется под ИИ-генератор изображений, но в фоновом режиме использует Qwen для генерации команд, направленных на сбор информации с компьютера, и незаметно выполняет их. Автором вируса называют группировку APT28, которая предположительно связана с Россией.
После заражения сервера, QUIETVAULT применяет установленные на нём же инструменты ИИ для сбора и кражи паролей, ключей шифрования и других конфиденциальных данных.
Для обхода ограничения моделей на генерацию вредоносного кода хакеры экспериментируют с промптами. Например, притворяются студентами, которые участвуют в соревновании или пишут доклад по кибербезопасности. ИИ уже активно применяют хакеры из Ирана, Северной Кореи и Китая.
Источник
