Обережно! Штучний інтелект може зробити шахрайство легітимним і поширювати загрози зловмисного програмного забезпечення, як програми-вимагачі

Національний центр кібербезпеки (NCSC), який є частиною шпигунського агентства GCHQ у Великій Британії, попередив про зростаючу загрозу кібератак за допомогою штучного інтелекту (ШІ). Згідно з оцінкою NCSC, генеративні інструменти штучного інтелекту, які можуть створювати переконливий текст, голос і зображення з простих підказок, ускладнюють розрізнення справжніх електронних листів від тих, які надсилають шахраї та зловмисники.

Агентство прогнозує, що штучний інтелект, особливо генеративний штучний інтелект і великі мовні моделі, що забезпечують роботу чат-ботів, значно сприятимуть зростанню кіберзагроз протягом наступних двох років. Однією з головних проблем є труднощі з ідентифікацією різних типів атак, таких як фішинг, спуфінг і соціальна інженерія.

Очікується, що складність технології штучного інтелекту ускладнить людям, незалежно від їхнього рівня розуміння кібербезпеки, оцінку легітимності електронних листів або запитів на скидання пароля.

Штучний інтелект може допомогти розширити цільові програми-вимагачі

Очікується, що атаки програм-вимагачів , націленими на такі установи, як Британська бібліотека та Королівська пошта минулого року, також збільшаться. NCSC попереджає, що витонченість штучного інтелекту знижує бар’єр для кіберзлочинців-любителів у доступі до систем, зборі інформації про цілі та виконанні атак, які можуть паралізувати комп’ютерні системи, витягувати конфіденційні дані та вимагати викуп у криптовалюті.

Генеративні інструменти штучного інтелекту вже використовуються для створення підроблених «документів-приманок», які виглядають переконливо, уникаючи поширених помилок, які зустрічаються під час фішингових атак. Хоча генеративний штучний інтелект не може підвищити ефективність коду програм-вимагачів, він може допомогти в ідентифікації та виборі цілей. NCSC припускає, що державні суб’єкти, ймовірно, будуть найбільш вправними у використанні ШІ в передових кіберопераціях.

Добре і погано ШІ

У відповідь на зростаючу загрозу NCSC підкреслює, що штучний інтелект також може служити інструментом захисту, дозволяючи виявляти атаки та розробляти більш безпечні системи. Звіт збігається з впровадженням урядом Великої Британії нових інструкцій, «Кодексу практики кіберуправління», який заохочує підприємства підвищити свою готовність до відновлення після атак програм-вимагачів. Однак деякі експерти з кібербезпеки, включно з Кіараном Мартіном, колишнім керівником NCSC, виступають за більш рішучі дії, пропонуючи фундаментально переглянути підходи до загроз програм-вимагачів. Мартін наголошує на необхідності більш суворих правил щодо виплати викупу та застерігає від нереалістичних стратегій, таких як відплата злочинцям у ворожих країнах.