Microsoft și OpenAI avertizează că hackerii din statele naționale folosesc AI pentru atacuri cibernetice distructive
Microsoft și OpenAI au emis împreună un avertisment cu privire la amenințarea tot mai mare a hackerilor din statul național care folosesc inteligență artificială (AI) și modele de limbaj mari (LLM) pentru a-și îmbunătăți capacitățile de atac cibernetic. Raportul identifică actori naționali legați de Rusia, Coreea de Nord, Iran și China ca experimentând în mod activ tehnologiile AI pentru activități cibernetice rău intenționate.
Colaborarea dintre Microsoft și OpenAI a dezvăluit că au zădărnicit eforturile a cinci actori afiliați statului, perturbând încercările lor de a folosi serviciile AI în scopuri distructive prin desființarea activelor și a conturilor. Potrivit Microsoft, atractivitatea modelelor de limbaj mari constă în suportul lor pentru limbajul natural, făcându-le atractive pentru actorii amenințărilor specializați în inginerie socială și comunicare înșelătoare adaptată unor ținte specifice.
Deși până acum nu s-au observat atacuri semnificative sau noi care utilizează LLM-uri, raportul subliniază că acești actori afiliați la stat explorează tehnologiile AI în diferite etape ale lanțului de atacuri cibernetice. Activitățile variază de la asistență de recunoaștere și codare până la dezvoltarea de malware.
Se raportează că grupul de stat-națiune rus Forest Blizzard (APT28) a folosit serviciile OpenAI pentru cercetare open-source privind protocoalele de comunicații prin satelit și tehnologia imaginilor radar, precum și pentru sarcini de scriptare. În mod similar, alți actori de amenințări, cum ar fi Smarald Sleet (Kimusky) din Coreea de Nord, Crimson Sandstorm din Iran (Imperial Kitten) și Charcoal Typhoon (Aquatic Panda) și Salmon Typhoon (Maverick Panda) din China, au folosit LLM-uri pentru sarcini precum identificarea experților, efectuarea de cercetări. , generând fragmente de cod și creând conținut pentru campaniile de phishing.
Ca răspuns la amenințarea tot mai mare, Microsoft ia măsuri proactive prin formularea unui set de principii pentru a atenua riscurile asociate cu utilizarea rău intenționată a instrumentelor AI și a API-urilor de către actorii din statul național, amenințări persistente avansate (APT), manipulatori persistenti avansati (APM) , și sindicatele criminale cibernetice. Principiile includ identificarea și luarea de măsuri împotriva actorilor rău intenționați, notificarea altor furnizori de servicii AI, colaborarea cu părțile interesate și asigurarea transparenței în abordarea acestor amenințări.
Această colaborare între Microsoft și OpenAI subliniază necesitatea unui efort colectiv de a stabili balustrade și mecanisme de siguranță în jurul modelelor AI , consolidând angajamentul pentru utilizarea responsabilă și securitatea AI în fața amenințărilor cibernetice în evoluție.