Ole varuillasi! Tekoäly voi saada huijaukset näyttämään laillisilta ja levittämään haittaohjelmia kuin kiristysohjelmat

National Cyber Security Center (NCSC), joka on osa Ison-Britannian GCHQ-vakoilutoimistoa, on antanut varoituksen tekoälyn (AI) edistämien kyberhyökkäysten lisääntyvästä uhasta. NCSC:n arvion mukaan generatiiviset tekoälytyökalut, jotka pystyvät tuottamaan vakuuttavaa tekstiä, ääntä ja kuvia yksinkertaisista kehotteista, tekevät haasteelliseksi erottaa aidot sähköpostit huijareiden ja haitallisten toimijoiden lähettämistä.

Virasto ennustaa, että tekoäly, erityisesti generatiiviset tekoälyt ja chatbotteja käyttävät suuret kielimallit, myötävaikuttavat merkittävästi kyberuhkien lisääntymiseen seuraavien kahden vuoden aikana. Yksi tärkeimmistä huolenaiheista on vaikeus tunnistaa erityyppisiä hyökkäyksiä, kuten tietojenkalastelua, huijausta ja sosiaalista manipulointia.

Tekoälytekniikan kehittyneisyyden odotetaan tekevän sähköpostien tai salasanan palautuspyyntöjen laillisuuden arvioinnin yksilöille haastavaksi heidän kyberturvallisuuden tasosta riippumatta.

Tekoäly voi auttaa kasvattamaan kiristyshaittaohjelmia

Kiristyshaittaohjelmien hyökkäysten , jotka ovat kohdistuneet viime vuonna British Libraryyn ja Royal Mailiin, odotetaan myös lisääntyvän. NCSC varoittaa, että tekoälyn kehittyneisyys alentaa amatööriverkkorikollisten estettä päästä käsiksi järjestelmiin, kerätä tietoja kohteista ja suorittaa hyökkäyksiä, jotka voivat halvaannuttaa tietokonejärjestelmät, poimia arkaluontoisia tietoja ja vaatia kryptovaluuttalunnaita.

Generatiivisia tekoälytyökaluja käytetään jo luomaan väärennettyjä "viehotusasiakirjoja", jotka näyttävät vakuuttavilta välttämällä yleisiä tietojenkalasteluhyökkäyksissä havaittuja virheitä. Vaikka luova tekoäly ei ehkä paranna kiristysohjelmakoodin tehokkuutta, se voi auttaa kohteiden tunnistamisessa ja valinnassa. NCSC ehdottaa, että valtion toimijat ovat todennäköisesti taitavimpia hyödyntämään tekoälyä edistyneissä kyberoperaatioissa.

AI:n hyvät ja huonot

Vastauksena kasvavaan uhkaan NCSC korostaa, että tekoäly voi toimia myös puolustusvälineenä, joka mahdollistaa hyökkäysten havaitsemisen ja turvallisempien järjestelmien suunnittelun. Raportti osuu samaan aikaan kun Ison-Britannian hallitus esitteli uudet ohjeet, "Cyber Governance Code of Practice", joka rohkaisee yrityksiä parantamaan valmiuksiaan toipua kiristysohjelmahyökkäyksistä. Jotkut kyberturvallisuusasiantuntijat, mukaan lukien NCSC:n entinen johtaja Ciaran Martin, vaativat kuitenkin voimakkaampia toimia, mikä ehdottaa kiristysohjelmien uhkien perusteellista uudelleenarviointia. Martin korostaa tiukempien lunnaiden maksamista koskevien sääntöjen tarvetta ja varoittaa epärealistisista strategioista, kuten kostotoimista vihamielisten valtioiden rikollisia vastaan.