Microsoft og OpenAI advarer mot hackere fra nasjonalstater som utnytter AI for destruktive cyberangrep

Microsoft og OpenAI har i fellesskap utstedt en advarsel om den økende trusselen fra nasjonalstatshackere som bruker kunstig intelligens (AI) og store språkmodeller (LLM) for å forbedre deres cyberangrepsevner. Rapporten identifiserer nasjonalstatlige aktører knyttet til Russland, Nord-Korea, Iran og Kina som aktivt eksperimenterer med AI-teknologier for ondsinnede cyberaktiviteter.

Samarbeidet mellom Microsoft og OpenAI avslørte at de hadde hindret innsats fra fem statstilknyttede aktører, og forstyrret deres forsøk på å utnytte AI-tjenester til destruktive formål ved å avslutte eiendeler og kontoer. Ifølge Microsoft ligger appellen til store språkmodeller i deres naturlige språkstøtte, noe som gjør dem attraktive for trusselaktører som spesialiserer seg på sosial ingeniørkunst og villedende kommunikasjon skreddersydd for spesifikke mål.

Selv om ingen betydelige eller nye angrep med bruk av LLM-er har blitt observert så langt, fremhever rapporten at disse statstilknyttede aktørene utforsker AI-teknologier på tvers av ulike stadier av cyberangrepskjeden. Aktiviteter spenner fra rekognosering og kodingshjelp til utvikling av skadevare.

Den russiske nasjonalstatsgruppen Forest Blizzard (APT28) er rapportert å ha brukt OpenAI-tjenester til åpen kildekodeforskning på satellittkommunikasjonsprotokoller og radaravbildningsteknologi, samt for skriptoppgaver. Tilsvarende har andre trusselaktører som Nord-Koreas Emerald Sleet (Kimusky), Irans Crimson Sandstorm (Imperial Kitten), og Kinas Charcoal Typhoon (Aquatic Panda) og Salmon Typhoon (Maverick Panda) brukt LLM-er for oppgaver som å identifisere eksperter, utføre forskning , generere kodebiter og lage innhold for phishing-kampanjer.

Som svar på den økende trusselen tar Microsoft proaktive tiltak ved å formulere et sett med prinsipper for å redusere risikoen knyttet til ondsinnet bruk av AI-verktøy og APIer av nasjonalstatlige aktører, avanserte vedvarende trusler (APT), avanserte vedvarende manipulatorer (APM) , og nettkriminelle syndikater. Prinsippene inkluderer å identifisere og iverksette tiltak mot ondsinnede aktører, varsle andre AI-tjenesteleverandører, samarbeide med interessenter og sikre åpenhet i håndteringen av disse truslene.

Dette samarbeidet mellom Microsoft og OpenAI understreker behovet for en kollektiv innsats for å etablere rekkverk og sikkerhetsmekanismer rundt AI-modeller , og forsterker forpliktelsen til ansvarlig AI-bruk og sikkerhet i møte med nye cybertrusler.