Η Microsoft και η OpenAI προειδοποιούν για χάκερ έθνους-κράτους που αξιοποιούν την τεχνητή νοημοσύνη για καταστροφικές επιθέσεις στον κυβερνοχώρο
Η Microsoft και η OpenAI εξέδωσαν από κοινού μια προειδοποίηση σχετικά με την αυξανόμενη απειλή των χάκερ εθνικών κρατών που χρησιμοποιούν τεχνητή νοημοσύνη (AI) και μεγάλα γλωσσικά μοντέλα (LLMs) για να ενισχύσουν τις ικανότητές τους στον κυβερνοχώρο επιθέσεων. Η έκθεση προσδιορίζει φορείς εθνικών κρατών που συνδέονται με τη Ρωσία, τη Βόρεια Κορέα, το Ιράν και την Κίνα ως πειραματιζόμενοι ενεργά με τεχνολογίες AI για κακόβουλες δραστηριότητες στον κυβερνοχώρο.
Η συνεργασία μεταξύ της Microsoft και του OpenAI αποκάλυψε ότι είχαν αποτρέψει τις προσπάθειες πέντε κρατικών παραγόντων, εμποδίζοντας τις προσπάθειές τους να αξιοποιήσουν υπηρεσίες τεχνητής νοημοσύνης για καταστροφικούς σκοπούς, τερματίζοντας περιουσιακά στοιχεία και λογαριασμούς. Σύμφωνα με τη Microsoft, η ελκυστικότητα των μεγάλων γλωσσικών μοντέλων έγκειται στην υποστήριξη της φυσικής τους γλώσσας, καθιστώντας τα ελκυστικά σε φορείς απειλών που ειδικεύονται στην κοινωνική μηχανική και στην παραπλανητική επικοινωνία προσαρμοσμένη σε συγκεκριμένους στόχους.
Αν και μέχρι στιγμής δεν έχουν παρατηρηθεί σημαντικές ή νέες επιθέσεις που χρησιμοποιούν LLM, η έκθεση υπογραμμίζει ότι αυτοί οι κρατικοί φορείς εξερευνούν τεχνολογίες τεχνητής νοημοσύνης σε διάφορα στάδια της αλυσίδας επιθέσεων στον κυβερνοχώρο. Οι δραστηριότητες κυμαίνονται από την αναγνώριση και τη βοήθεια κωδικοποίησης έως την ανάπτυξη κακόβουλου λογισμικού.
Η ρωσική ομάδα εθνικού κράτους Forest Blizzard (APT28) αναφέρεται ότι χρησιμοποίησε υπηρεσίες OpenAI για έρευνα ανοιχτού κώδικα σε πρωτόκολλα δορυφορικής επικοινωνίας και τεχνολογία απεικόνισης ραντάρ, καθώς και για εργασίες σεναρίου. Ομοίως, άλλοι παράγοντες απειλών όπως το Emerald Sleet της Βόρειας Κορέας (Kimusky), το Crimson Sandstorm του Ιράν (Imperial Kitten) και το Charcoal Typhoon της Κίνας (Aquatic Panda) και το Salmon Typhoon (Maverick Panda) έχουν χρησιμοποιήσει LLM για εργασίες όπως η διεξαγωγή έρευνας ειδικών. , δημιουργία αποσπασμάτων κώδικα και δημιουργία περιεχομένου για καμπάνιες phishing.
Ως απάντηση στην αυξανόμενη απειλή, η Microsoft λαμβάνει προληπτικά μέτρα διατυπώνοντας ένα σύνολο αρχών για τον μετριασμό των κινδύνων που σχετίζονται με την κακόβουλη χρήση εργαλείων τεχνητής νοημοσύνης και API από φορείς εθνικών κρατών, προηγμένες επίμονες απειλές (APT), προηγμένους επίμονους χειριστές (APM) , και συνδικάτα κυβερνοεγκληματικότητας. Οι αρχές περιλαμβάνουν τον εντοπισμό και τη λήψη μέτρων εναντίον κακόβουλων παραγόντων, την ειδοποίηση άλλων παρόχων υπηρεσιών τεχνητής νοημοσύνης, τη συνεργασία με τους ενδιαφερόμενους φορείς και τη διασφάλιση της διαφάνειας στην αντιμετώπιση αυτών των απειλών.
Αυτή η συνεργασία μεταξύ της Microsoft και του OpenAI υπογραμμίζει την ανάγκη για μια συλλογική προσπάθεια για τη δημιουργία προστατευτικών κιγκλιδωμάτων και μηχανισμών ασφαλείας γύρω από μοντέλα τεχνητής νοημοσύνης , ενισχύοντας τη δέσμευση για υπεύθυνη χρήση και ασφάλεια της τεχνητής νοημοσύνης έναντι των εξελισσόμενων απειλών στον κυβερνοχώρο.