Афера с использованием искусственного интеллекта и пропагандистской деятельностью

Исследователи в области кибербезопасности обнаружили сложную мошенническую рекламную кампанию под кодовым названием Pushpaganda, которая сочетает в себе манипуляции с поисковой оптимизацией (SEO) и контент, сгенерированный искусственным интеллектом. Эта операция направлена на манипулирование платформами поиска контента, в частности Google Discover, путем продвижения вводящих в заблуждение новостных статей, которые выглядят правдоподобно. Конечная цель — обманом заставить пользователей включить постоянные уведомления в браузере, которые затем становятся каналами для распространения вредоносного ПО и финансовых мошеннических схем.

Кампания, ориентированная в первую очередь на пользователей Android и Chrome, использует персонализированные ленты контента для прямой доставки вредоносных материалов ничего не подозревающим людям.

От клика к компромиссу: как работает цепочка атак

Успех Pushpaganda заключается в тщательно спланированном процессе манипулирования пользователями. Злоумышленники заманивают пользователей, используя, казалось бы, правдоподобные заголовки, заманивая их в ловушку дезинформации и принуждения. После вовлечения в ловушку пользователей вынуждают включить уведомления в браузере, которые и составляют основу атаки.

Последовательность атак выглядит следующим образом:

• Пользователи сталкиваются с вводящим в заблуждение новостным контентом, сгенерированным искусственным интеллектом, через Google Discover.
• Их перенаправляют на контролируемые злоумышленниками домены, где размещаются сфабрикованные истории.
• На этих страницах пользователям предлагается включить push-уведомления под ложным предлогом.
• Уведомления содержат тревожные сообщения, такие как ложные юридические угрозы или срочные предупреждения.
• Нажатие на эти предупреждения перенаправляет жертв на дополнительные вредоносные сайты, заполненные рекламой.

Этот механизм генерирует мошеннический «органический» трафик с реальных устройств, значительно повышая прибыльность схемы.

Масштабность и глобальный охват

На пике своей активности кампания сгенерировала около 240 миллионов запросов на размещение рекламы на 113 доменах всего за семь дней. Первоначально ориентированная на пользователей в Индии, операция быстро расширила свое присутствие в различных регионах, включая США, Австралию, Канаду, Южную Африку и Великобританию.

Эта шкала подчеркивает эффективность сочетания контента, сгенерированного ИИ, с SEO-манипуляциями, что позволяет злоумышленникам масштабировать свои операции с минимальными ручными усилиями.

Уведомления, используемые в качестве оружия: устойчивый вектор угроз

Push-уведомления стали излюбленным инструментом киберпреступников благодаря своей способности создавать ощущение срочности и обходить традиционные системы информирования о безопасности. После включения эти уведомления обеспечивают постоянный канал связи, который злоумышленники могут использовать многократно.

К распространённым способам использования в злонамеренных целях относятся:

• Создание пугающего ПО, призванного заставить пользователей немедленно совершить действие.
• Перенаправление жертв на фишинговые страницы или мошеннические сайты с большим количеством рекламы.
• Генерация непрерывного трафика на монетизированные платформы, контролируемые злоумышленниками.

Этот метод не нов. Предыдущие кампании, например, те, которые приписываются киберпреступнику Vane Viper, демонстрировали аналогичное злоупотребление push-уведомлениями для поддержки мошенничества с рекламой и атак с использованием методов социальной инженерии, подобных ClickFix.

Злоупотребление ИИ и манипулирование доверенными платформами

Кампания Pushpaganda подчеркивает растущую тенденцию: злоупотребление ИИ для эксплуатации доверенных цифровых экосистем. Наводняя платформы низкокачественным контентом, сгенерированным машинным способом, злоумышленники могут проникнуть в легитимные каналы поиска информации и использовать их для распространения вредоносного контента.
Подобная тактика часто включает в себя:

• Создание больших объемов контента, который практически не представляет никакой реальной ценности.
• Извлечение данных из существующих источников для создания новых страниц.
• Создание сетей веб-сайтов для маскировки масштаба и происхождения операции.

Эти методы направлены на манипулирование поисковыми рейтингами и повышение видимости, в конечном итоге вводя в заблуждение как алгоритмы, так и пользователей.

Ответные меры Google и принимаемые контрмеры

В ответ на полученные данные Google внедрила исправления для устранения уязвимостей, используемых в ходе спам-кампании. Компания подчеркнула, что ее существующие системы и политики борьбы со спамом разработаны для поддержания высоких стандартов качества в Поиске и Обнаружении.

В качестве контрмер Google предлагает постоянные обновления алгоритмов и строгое соблюдение правил, касающихся манипулятивного контента. Компания также вновь подчеркнула, что использование ИИ для генерации контента, в первую очередь, с целью манипулирования рейтингом, нарушает ее правила.

Продолжаются усилия по выявлению и нейтрализации возникающих угроз, чтобы гарантировать, что платформы обнаружения не используются в качестве каналов распространения мошеннических схем и вредоносного ПО.