Внимавай! Изкуственият интелект може да направи измамите да изглеждат легитимни и да разпространи заплахи от зловреден софтуер като Ransomware

Националният център за киберсигурност (NCSC), част от шпионската агенция GCHQ в Обединеното кралство, издаде предупреждение за нарастващата заплаха от кибератаки, подпомагани от изкуствен интелект (AI). Според оценката на NCSC генеративните AI инструменти, които могат да произвеждат убедителен текст, глас и изображения от прости подкани, правят предизвикателство да се разграничат истинските имейли от тези, изпратени от измамници и злонамерени участници.

Агенцията прогнозира, че ИИ, особено генеративният ИИ и големите езикови модели, захранващи чатботове, ще допринесат значително за нарастването на киберзаплахите през следващите две години. Едно от основните опасения е трудността при идентифициране на различни видове атаки, като фишинг, спуфинг и социално инженерство.

Очаква се усъвършенстването на AI технологията да направи предизвикателство за хората, независимо от тяхното ниво на разбиране на киберсигурността, да оценят легитимността на имейли или искания за нулиране на парола.

AI може да помогне за разрастването на мишени за рансъмуер

Очаква се също така да се увеличат атаките на рансъмуер , които бяха насочени към институции като Британската библиотека и Кралската поща през последната година. NCSC предупреждава, че сложността на AI намалява бариерата за киберпрестъпниците аматьори за достъп до системи, събиране на информация за цели и извършване на атаки, които могат да парализират компютърните системи, да извличат чувствителни данни и да изискват откупи в криптовалута.

Генеративните AI инструменти вече се използват за създаване на фалшиви „документи за примамка“, които изглеждат убедителни, като избягват често срещани грешки, открити при фишинг атаки. Въпреки че ефективността на кода за рансъмуер може да не бъде подобрена от генеративен AI, той може да помогне при идентифицирането и избора на цели. NCSC предполага, че държавните актьори вероятно ще бъдат най-умели в използването на AI в напреднали кибер операции.

Добро и лошо от AI

В отговор на нарастващата заплаха NCSC подчертава, че AI може да служи и като защитен инструмент, позволяващ откриването на атаки и проектирането на по-сигурни системи. Докладът съвпада с въвеждането на нови насоки от правителството на Обединеното кралство, „Практически кодекс за киберуправление“, насърчавайки бизнеса да подобри готовността си за възстановяване от атаки на ransomware. Въпреки това, някои експерти по киберсигурност, включително Ciaran Martin, бивш ръководител на NCSC, се аргументират за по-строги действия, предлагайки фундаментална преоценка на подходите към заплахите от ransomware. Мартин подчертава необходимостта от по-строги правила относно плащанията на откупи и предупреждава срещу нереалистични стратегии, като отмъщение срещу престъпници във враждебни нации.