Pass på! Kunstig intelligens kan få svindel til å se legitim ut og spre trusler om skadelig programvare som ransomware

National Cyber Security Center (NCSC), en del av GCHQ spionbyrå i Storbritannia, har utstedt en advarsel om den økende trusselen om cyberangrep tilrettelagt av kunstig intelligens (AI). Ifølge NCSCs vurdering gjør generative AI-verktøy, som kan produsere overbevisende tekst, stemme og bilder fra enkle spørsmål, det utfordrende å skille mellom ekte e-poster og de som sendes av svindlere og ondsinnede aktører.

Byrået spår at AI, spesielt generativ AI og store språkmodeller som driver chatboter, vil bidra betydelig til økningen i cybertrusler i løpet av de neste to årene. En av de viktigste bekymringene er vanskeligheten med å identifisere ulike typer angrep, for eksempel phishing, spoofing og sosial ingeniørkunst.

Det sofistikerte AI-teknologien forventes å gjøre det utfordrende for enkeltpersoner, uavhengig av deres forståelse av cybersikkerhet, å vurdere legitimiteten til e-poster eller forespørsler om tilbakestilling av passord.

AI kan bidra til å øke Ransomware-målene

Ransomware-angrep , som har rettet mot institusjoner som British Library og Royal Mail det siste året, forventes også å øke. NCSC advarer om at AIs sofistikering senker barrieren for amatør-cyberkriminelle til å få tilgang til systemer, samle informasjon om mål og utføre angrep som kan lamme datasystemer, trekke ut sensitive data og kreve løsepenger for kryptovaluta.

Generative AI-verktøy brukes allerede til å lage falske «lokkedokumenter» som virker overbevisende ved å unngå vanlige feil funnet i phishing-angrep. Selv om effektiviteten til løsepengevarekode kanskje ikke forbedres av generativ AI, kan den hjelpe til med å identifisere og velge mål. NCSC antyder at statlige aktører sannsynligvis er de mest dyktige til å utnytte AI i avanserte cyberoperasjoner.

God og dårlig av AI

Som svar på den økende trusselen understreker NCSC at AI også kan tjene som et defensivt verktøy, som muliggjør oppdagelse av angrep og utforming av sikrere systemer. Rapporten faller sammen med den britiske regjeringens introduksjon av nye retningslinjer, "Cyber Governance Code of Practice", som oppmuntrer virksomheter til å forbedre sin beredskap til å komme seg etter løsepengevareangrep. Noen nettsikkerhetseksperter, inkludert Ciaran Martin, den tidligere sjefen for NCSC, argumenterer imidlertid for sterkere handling, og foreslår en grunnleggende revurdering av tilnærminger til løsepengevaretrusler. Martin understreker behovet for strengere regler rundt løsepenger og advarer mot urealistiske strategier, som for eksempel gjengjeldelse mot kriminelle i fiendtlige nasjoner.