Η Microsoft αναλαμβάνει νομικά μέτρα κατά των χάκερ που εκμεταλλεύονται το Azure AI για κακόβουλους σκοπούς
Η συνεχιζόμενη μάχη της Microsoft κατά του εγκλήματος στον κυβερνοχώρο έχει φτάσει σε νέα ύψη με την τελευταία της αγωγή που στοχεύει μια ομάδα hacking που κατηγορείται ότι εκμεταλλεύεται τις παραγωγικές υπηρεσίες AI του Azure. Ο τεχνολογικός γίγαντας αποκάλυψε ότι οι φορείς απειλών με έδρα το εξωτερικό δημιούργησαν μια πλατφόρμα hacking ως υπηρεσία για να παρακάμψουν τα πρωτόκολλα ασφαλείας του Azure AI, επιτρέποντας τη δημιουργία επιβλαβούς περιεχομένου και κακόβουλου λογισμικού .
Αυτή η υπόθεση υπογραμμίζει τους αυξανόμενους κινδύνους που ενέχουν οι κυβερνοεγκληματίες που χρησιμοποιούν πλατφόρμες τεχνητής νοημοσύνης για κακόβουλους σκοπούς, θέτοντας σημαντικές προκλήσεις στον τομέα της κυβερνοασφάλειας για οργανισμούς παγκοσμίως.
Πίνακας περιεχομένων
Πώς οι χάκερ εκμεταλλεύτηκαν το Azure AI της Microsoft
Η Μονάδα Ψηφιακών Εγκλημάτων (DCU) της Microsoft αποκάλυψε τη λειτουργία τον Ιούλιο του 2024. Η ομάδα χρησιμοποίησε κλεμμένα διαπιστευτήρια πελατών, συγκεντρωμένα από δημόσιες πηγές, για να παραβιάσει τα συστήματα Azure και να παραβιάσει μοντέλα τεχνητής νοημοσύνης όπως το DALL-E του OpenAI.
Οι βασικές λεπτομέρειες περιλαμβάνουν:
- Κλοπή διαπιστευτηρίων : Κλεμμένα κλειδιά Azure API και δεδομένα ελέγχου ταυτότητας Entra ID χρησιμοποιήθηκαν για την πρόσβαση στις υπηρεσίες Azure OpenAI.
- Δημιουργία επιβλαβούς περιεχομένου : Η ομάδα δημιούργησε έσοδα από την πρόσβασή της δημιουργώντας εργαλεία για τη δημιουργία προσβλητικών εικόνων και την παράκαμψη των φίλτρων περιεχομένου AI.
- Hacking-as-a-Service : Η ομάδα πούλησε πρόσβαση στα εργαλεία της μέσω ιστοτόπων όπως το aitism[.]net και μοιράστηκε οδηγίες χρήσης με άλλους εγκληματίες του κυβερνοχώρου.
Αυτές οι δραστηριότητες οδήγησαν στην παράνομη δημιουργία χιλιάδων επιβλαβών εικόνων και στη διευκόλυνση περαιτέρω παράνομης κατάχρησης τεχνητής νοημοσύνης, ενώ οι δράστες προσπάθησαν να διαγράψουν τα ψηφιακά τους αποτυπώματα.
Η σύνδεση κακόβουλου λογισμικού
Η κατάχρηση των παραγωγικών υπηρεσιών τεχνητής νοημοσύνης έχει ευρύτερες επιπτώσεις στην ανάπτυξη κακόβουλου λογισμικού . Οι φορείς απειλών μπορούν δυνητικά:
- Δημιουργήστε θέλγητρα phishing ή ψεύτικους ιστότοπους σχεδιασμένους να μιμούνται αξιόπιστες πλατφόρμες.
Αυτή η εκμετάλλευση υπογραμμίζει τον τρόπο με τον οποίο οι ομάδες hacking εξελίσσουν τις τακτικές τους, συνδυάζοντας κλεμμένα διαπιστευτήρια και προηγμένες δυνατότητες AI για τη διεξαγωγή κυβερνοεπιθέσεων σε κλίμακα.
Reverse Proxy Exploitation και LLMjacking
Μια αξιοσημείωτη πτυχή της υπόθεσης είναι η χρήση αντίστροφων διακομιστή μεσολάβησης, όπως το εργαλείο de3u. Αυτοί οι διακομιστής μεσολάβησης ανακατεύθυναν τις επικοινωνίες από τις συσκευές χρηστών μέσω μιας σήραγγας Cloudflare στις υπηρεσίες Azure OpenAI, μιμούμενοι τις νόμιμες κλήσεις API.
Αυτή η τεχνική αντικατοπτρίζει τις τακτικές που προσδιορίζονται στις επιθέσεις LLMjacking, όπου κλεμμένα διαπιστευτήρια cloud χρησιμοποιούνται για πρόσβαση σε υπηρεσίες μεγάλων γλωσσικών μοντέλων (LLM) όπως Anthropic, AWS Bedrock και Google Vertex AI. Τέτοια συστήματα επιτρέπουν στους φορείς απειλών να παραβιάζουν εργαλεία τεχνητής νοημοσύνης που βασίζονται σε σύννεφο, συχνά κερδίζοντας χρήματα από την πρόσβαση πουλώντας τα σε άλλους εγκληματίες.
Αντίμετρα της Microsoft και ευρύτερες επιπτώσεις
Σε απόκριση σε αυτήν τη λειτουργία, η Microsoft:
- Ανάκληση πρόσβασης : Απενεργοποίησε τα κλεμμένα διαπιστευτήρια της ομάδας και έκλεισε την υποδομή εξυπηρέτησης.
- Κατασχεμένοι Τομείς : Λήψη δικαστικής απόφασης για τον τερματισμό της λειτουργίας του aitism[.]net .
- Ενισχυμένες άμυνες : Εφαρμόστηκαν πρόσθετες διασφαλίσεις για την αποτροπή παρόμοιων καταχρήσεων στο μέλλον.
Ωστόσο, η Microsoft ανακάλυψε επίσης στοιχεία ότι η ομάδα στοχεύει άλλους παρόχους υπηρεσιών τεχνητής νοημοσύνης, υποδηλώνοντας μια μεγαλύτερη τάση κατάχρησης τεχνητής νοημοσύνης στο τοπίο της ασφάλειας στον κυβερνοχώρο.
AI Tools: A Double Edged Sword
Ενώ τα εργαλεία παραγωγής τεχνητής νοημοσύνης όπως το ChatGPT και το DALL-E προσφέρουν τεράστια οφέλη, η κακή χρήση τους από εγκληματίες του κυβερνοχώρου υπογραμμίζει την επείγουσα ανάγκη για βελτιωμένα πρωτόκολλα ασφαλείας:
- Ασφάλεια API : Οι οργανισμοί πρέπει να διασφαλίζουν ισχυρή προστασία για τα κλειδιά API για την αποτροπή μη εξουσιοδοτημένης πρόσβασης.
- Παρακολούθηση απειλών : Η συνεχής παρακολούθηση της χρήσης της υπηρεσίας AI μπορεί να βοηθήσει στον εντοπισμό και τον αποκλεισμό της ανώμαλης συμπεριφοράς.
Η αγωγή της Microsoft ρίχνει φως στην επικίνδυνη διασταύρωση της τεχνητής νοημοσύνης και του εγκλήματος στον κυβερνοχώρο. Καθώς οι φορείς απειλών εκμεταλλεύονται όλο και περισσότερο τις υπηρεσίες τεχνητής νοημοσύνης για να δημιουργήσουν επιβλαβές περιεχόμενο και να αναπτύξουν κακόβουλο λογισμικό, οι οργανισμοί πρέπει να δώσουν προτεραιότητα στη διαφύλαξη της υποδομής τεχνητής νοημοσύνης τους.
Η υπόθεση χρησιμεύει ως έντονη υπενθύμιση: ενώ η τεχνητή νοημοσύνη αντιπροσωπεύει το μέλλον της τεχνολογίας, τα τρωτά σημεία της μπορούν να οπλιστούν, καθιστώντας τα ισχυρά μέτρα κυβερνοασφάλειας απόλυτη ανάγκη για την καταπολέμηση των ψηφιακών απειλών.