Виявлено створене штучним інтелектом зловмисне програмне забезпечення, яке може змінити кібербезпеку, яку ми знаємо

У світі кібербезпеки, що розвивається, ми вже деякий час знаємо, що ШІ можна використовувати для створення шкідливого програмного забезпечення. Але останні події засвідчили, що майбутнє зловмисного програмного забезпечення, створеного штучним інтелектом, може бути ближчим, ніж ми думаємо. HP нещодавно перехопила електронну кампанію, яка доставляла стандартне корисне навантаження зловмисного програмного забезпечення через дроппер, згенерований штучним інтелектом, що ознаменувало значну зміну тактики кіберзлочинності.

У розробці зловмисного ПЗ зі штучним інтелектом виявлено новий вид загрози

Відкриття сталося в червні 2024 року, коли команда безпеки HP натрапила на фішинговий електронний лист із типовою приманкою на тему рахунків-фактур. Вкладенням був зашифрований файл HTML — метод, відомий як контрабанда HTML, призначений для уникнення виявлення. Хоча контрабанда HTML не є чимось новим, ця справа мала цікавий поворот. Зазвичай кіберзлочинці надсилають попередньо зашифрований файл, але цього разу зловмисники включили ключ дешифрування AES безпосередньо в код JavaScript вкладення. Ця дивина спонукала до подальшого розслідування.

Розшифрувавши вкладення, дослідники HP виявили, що це здавалося звичайним веб-сайтом, але в ньому був прихований VBScript і сумнозвісний інфокрадик AsyncRAT. VBScript діяв як дроппер, розгортаючи корисне навантаження infostealer, змінюючи системні реєстри та запускаючи JavaScript як заплановане завдання. Після цього виконується сценарій PowerShell, завершуючи розгортання AsyncRAT.

Хоча більша частина цього процесу знайома, одна ключова деталь виділялася: VBScript був надзвичайно добре структурований і містив коментарі — незвичайна практика у розробці шкідливих програм. Що ще дивніше, сценарій був написаний французькою мовою. Ці фактори змусили дослідників HP повірити, що крапельниця була створена не людиною, а створена ШІ.

Роль ШІ в зниженні бар’єру для кіберзлочинців

Щоб перевірити свою теорію, команда HP використала власні інструменти ШІ для копіювання VBScript. Отриманий сценарій був разюче схожий на той, який використовувався в атаці. Хоча це не остаточний доказ, дослідники впевнені, що штучний інтелект брав участь у створенні шкідливого ПЗ. Але загадка поглиблюється: чому зловмисне програмне забезпечення не було обфускатоване? Чому в коді залишили коментарі?

Одне з можливих пояснень полягає в тому, що зловмисник був новачком у світі кіберзлочинності. Створене штучним інтелектом зловмисне програмне забезпечення може знизити бар’єри для потенційних хакерів, зробивши такі інструменти, як генерація VBScript, доступними для людей із мінімальними технічними навичками. У цьому випадку AsyncRAT, основне корисне навантаження, є у вільному доступі, а такі методи, як контрабанда HTML, не вимагають глибоких знань кодування.

Алекс Холланд, головний дослідник загроз у HP, зазначив, що ця атака вимагає дуже мало ресурсів. Не було складної інфраструктури, окрім єдиного командно-контрольного (C&C) сервера для керування вкраденими даними. Саме зловмисне програмне забезпечення було простим і позбавлене звичайної обфускації, яка спостерігається під час більш складних атак. Коротше кажучи, це могла бути робота недосвідченого хакера, який використовує ШІ для виконання важкої роботи.

Майбутнє зловмисного програмного забезпечення, створеного штучним інтелектом

Це відкриття відкриває ще одну тривожну можливість. Якщо недосвідчений зловмисник може залишити підказки, що вказують на сценарії, згенеровані штучним інтелектом, чого можуть досягти більш досвідчені вороги за допомогою подібних інструментів? Досвідчені кіберзлочинці, ймовірно, видалили б усі сліди участі штучного інтелекту, що значно ускладнить виявлення, якщо не унеможливить.

«Ми давно очікували, що штучний інтелект можна буде використовувати для створення шкідливих програм», — сказав Холланд. «Але це один із перших реальних прикладів, які ми бачили. Це ще один крок у майбутнє, де зловмисне програмне забезпечення, створене ШІ, стане більш досконалим і поширеним».

Оскільки технологія штучного інтелекту продовжує стрімко розвиватися, терміни створення повністю автономного шкідливого програмного забезпечення, створеного штучним інтелектом, скорочуються. Хоча важко передбачити точні терміни, такі експерти, як Холланд, вважають, що це може статися протягом наступних кількох років. Загроза ШІ не маячить на горизонті — вона вже тут.

Підготовка до наступної хвилі кіберзагроз

Оскільки межі між зловмисним програмним забезпеченням, створеним людиною та штучним інтелектом, стираються, ландшафт кібербезпеки стає ще складнішим. Хоча цей інцидент служить попередженням, він також є проблиском у майбутнє, де штучний інтелект відіграватиме більшу роль у кібератаках. Фахівці з безпеки повинні залишатися пильними, постійно адаптуючи свої засоби захисту для протидії цим новим загрозам.

Оскільки зловмисне програмне забезпечення, згенероване штучним інтелектом, вперше з’являється в дикій природі, неважко уявити собі час, коли більш складні атаки на основі штучного інтелекту стануть нормою. Як зловісно припускає Холланд, ми вже могли б сказати: «Вони вже тут! ти наступний! Ти наступний!»