Ευπάθεια ChatGPhish στο ChatGPT

Ερευνητές κυβερνοασφάλειας αποκάλυψαν ένα κενό ασφαλείας στο ChatGPT της OpenAI που εκμεταλλεύεται την εμπιστοσύνη της πλατφόρμας στους συνδέσμους και τις εικόνες Markdown, επιτρέποντας άμεσες επιθέσεις injection και δημιουργώντας νέες ευκαιρίες ηλεκτρονικού "ψαρέματος" (phishing). Η τεχνική, με την ονομασία ChatGPhish, καταδεικνύει πώς η σύνοψη με την υποστήριξη της τεχνητής νοημοσύνης μπορεί να χειραγωγηθεί για να παρέχει κακόβουλο περιεχόμενο απευθείας μέσω μιας αξιόπιστης διεπαφής.

Το πρόβλημα πηγάζει από τον τρόπο με τον οποίο το εργαλείο απόδοσης απαντήσεων του ChatGPT επεξεργάζεται στοιχεία Markdown που προέρχονται από ιστοσελίδες τρίτων. Όταν το chatbot συνοψίζει εξωτερικό περιεχόμενο, εμπιστεύεται αυτόματα τους ενσωματωμένους συνδέσμους Markdown και τις διευθύνσεις URL εικόνων, ανακτώντας απομακρυσμένες εικόνες και εμφανίζοντας συνδέσμους ως ενεργά, στοιχεία με δυνατότητα κλικ μέσα στη διεπαφή του βοηθού.

Οι μηχανισμοί πίσω από την επίθεση

Ένας απειλητικός παράγοντας μπορεί να ενσωματώσει ένα μικρό κακόβουλο φορτίο μέσα σε μια ιστοσελίδα, το οποίο αργότερα συνοψίζεται από το ChatGPT. Κατά τη διάρκεια της διαδικασίας απόδοσης, ενδέχεται να ανακτηθούν αυτόματα εικόνες που ελέγχονται από τον εισβολέα, εκθέτοντας ενδεχομένως πληροφορίες όπως η διεύθυνση IP, ο παράγοντας χρήστη και τα στοιχεία του παραπέμποντος του θύματος.

Πέρα από τη διαρροή πληροφοριών, η ευπάθεια επιτρέπει την παρουσίαση κακόβουλου περιεχομένου με εξαιρετικά πειστικούς τρόπους. Οι εισβολείς μπορούν να εμφανίσουν συνδέσμους ηλεκτρονικού "ψαρέματος" (phishing) απευθείας μέσα στις απαντήσεις του ChatGPT, να εμφανίσουν δόλιες προειδοποιήσεις ασφαλείας τύπου συστήματος και να παρουσιάσουν κωδικούς QR που φιλοξενούνται σε υποδομή που ελέγχεται από τον εισβολέα. Αυτοί οι κωδικοί QR ενδέχεται να ενθαρρύνουν τους χρήστες να τους σαρώσουν με κινητές συσκευές, παρακάμπτοντας αποτελεσματικά το φιλτράρισμα URL που βασίζεται σε επιτραπέζιους υπολογιστές και τους ελέγχους ασφάλειας επιχειρήσεων.

Αυτό που καθιστά το ChatGPhish ιδιαίτερα σημαντικό δεν είναι η ίδια η άμεση έγχυση, αλλά το γεγονός ότι το σύστημα τεχνητής νοημοσύνης ακολουθεί πιστά τις ενσωματωμένες οδηγίες και παρουσιάζει το περιεχόμενο που προκύπτει ως μέρος μιας αξιόπιστης σύνοψης. Μια φαινομενικά συνηθισμένη ιστοσελίδα μπορεί επομένως να δημιουργήσει συνδέσμους ηλεκτρονικού "ψαρέματος" (phishing), ειδοποιήσεις πλαστών λογαριασμών, απομακρυσμένες εικόνες και κακόβουλους κωδικούς QR απευθείας μέσα στην απάντηση ενός βοηθού τεχνητής νοημοσύνης.

Η Επεκτεινόμενη Επιφάνεια Απειλών της Περιήγησης με Υποβοήθηση Τεχνητής Νοημοσύνης

Η ανακάλυψη υπογραμμίζει μια ευρύτερη πρόκληση ασφάλειας: η σύνοψη έχει αναδειχθεί ως μια νέα επιφάνεια εχθρικής επίθεσης. Νωρίτερα τον Μάρτιο του 2026, ερευνητές απέδειξαν ότι ειδικά σχεδιασμένα email θα μπορούσαν να χειραγωγήσουν το Microsoft Copilot μέσω cross-prompt injection (XPIA), επηρεάζοντας τις συνόψεις που δημιουργούνται από την τεχνητή νοημοσύνη μέσω κρυφών οδηγιών.

Καθώς οι οργανισμοί βασίζονται ολοένα και περισσότερο σε εργαλεία τεχνητής νοημοσύνης για έρευνα και ανάλυση περιεχομένου, οποιαδήποτε κακόβουλη ιστοσελίδα που επεξεργάζεται ένας βοηθός τεχνητής νοημοσύνης μπορεί να εισαγάγει οδηγίες που ελέγχονται από εισβολείς στο πλαίσιο του μοντέλου. Αυτό αντιπροσωπεύει μια σημαντική αλλαγή στις τακτικές ηλεκτρονικού "ψαρέματος" (phishing). Αντί να απαιτούν από τους χρήστες να ανοίγουν ύποπτα συνημμένα ή να ασχολούνται με κακόβουλα email, οι εισβολείς μπορούν να μετατρέψουν σε όπλα την καθημερινή δραστηριότητα περιήγησης και τις ροές εργασίας σύνοψης τεχνητής νοημοσύνης.

Η μετεγκατάσταση επιθέσεων από περιβάλλοντα email σε αλληλεπιδράσεις με τεχνητή νοημοσύνη που βασίζονται σε προγράμματα περιήγησης διευρύνει δραματικά την διαθέσιμη επιφάνεια επίθεσης. Το απλό αίτημα για μια σύνοψη μιας ιστοσελίδας μπορεί να είναι αρκετό για να εκθέσει τους χρήστες σε κακόβουλο περιεχόμενο που δημιουργείται μέσω τεχνικών έμμεσης εισαγωγής μηνυμάτων.

Ένα αυξανόμενο κύμα τεχνικών παράκαμψης ασφάλειας τεχνητής νοημοσύνης

Η αποκάλυψη του ChatGPhish έρχεται εν μέσω μιας έξαρσης έρευνας που αποκαλύπτει νέες μεθόδους επίθεσης που στοχεύουν συστήματα τεχνητής νοημοσύνης. Πρόσφατα ευρήματα περιλαμβάνουν:

• Η τεχνική jailbreak Involuntary In-Context Learning (IICL), η οποία εκμεταλλεύεται συγκρούσεις μεταξύ της μάθησης εντός πλαισίου και της ευθυγράμμισης με την ασφάλεια για να παρακάμψει τους περιορισμούς του GPT-5.4· στρατηγικές συνομιλίας πολλαπλών στροφών που σταδιακά παρακάμπτουν τις διασφαλίσεις μεγάλων μοντέλων γλώσσας· επιθέσεις τυπογραφικής εισαγωγής προτροπών που κρύβουν οδηγίες μέσα σε οπτικά παραμορφωμένες εικόνες· επιθέσεις Neural Exec σε συνδυασμό με τεχνικές παράκαμψης Unicode από δεξιά προς τα αριστερά για την παράκαμψη των προστασιών της Apple Intelligence· και το WebPromptTrap, μια ευπάθεια έμμεσης εισαγωγής προτροπών που επηρεάζει το BrowserOS και χειραγωγεί τους χρήστες μέσω συνόψεων φαινομενικά νόμιμου περιεχομένου που δημιουργούνται από τεχνητή νοημοσύνη.
• Αδυναμίες ασφαλείας που επηρεάζουν τα οικοσυστήματα και τα πλαίσια πρακτόρων τεχνητής νοημοσύνης, συμπεριλαμβανομένης μιας ευπάθειας στον Anthropic Claude Code που επέτρεψε την υποκλοπή επικοινωνιών MCP που υποστηρίζονται από OAuth μέσω ενός απατεώνα πακέτου npm· ενός σεναρίου κατάχρησης μηχανισμού απομακρυσμένης ενημέρωσης που στοχεύει τις δεξιότητες του OpenClaw· καμπάνιες ηλεκτρονικού "ψαρέματος" (phishing) με κρυφό κείμενο που έχουν σχεδιαστεί για να εξαπατούν προϊόντα ασφάλειας email που υποστηρίζονται από τεχνητή νοημοσύνη· της ευπάθειας ClaudeBleed που επέτρεψε στις επεκτάσεις του προγράμματος περιήγησης να εκδίδουν μη εξουσιοδοτημένες εντολές στον Claude· κρίσιμων ευπαθειών στον Σημασιολογικό Πυρήνα της Microsoft (CVE-2026-25592 και CVE-2026-26030) ικανών να κλιμακώσουν άμεσες ενέσεις σε απομακρυσμένη εκτέλεση κώδικα σε επίπεδο κεντρικού υπολογιστή· εκτεταμένων κενών ασφαλείας εντός των αποθετηρίων πρακτόρων ClawHub και skills.sh· και επιθέσεων κατά της στοίβας αναφοράς NemoClaw της NVIDIA που επέτρεψε την εξαγωγή δεδομένων OpenClaw μέσω κακόβουλων αποθετηρίων GitHub και πακέτων npm.

Το μέλλον των κυβερνοαπειλών που καθοδηγούνται από την τεχνητή νοημοσύνη

Καθώς τα προηγμένα μοντέλα τεχνητής νοημοσύνης συνεχίζουν να ωριμάζουν, οι κυβερνοεγκληματίες πειραματίζονται ολοένα και περισσότερο με τις επιθετικές τους δυνατότητες. Οι απειλητικοί παράγοντες αξιοποιούν μεγάλα γλωσσικά μοντέλα για να αναπτύξουν πιο προσαρμοστικό κακόβουλο λογισμικό ικανό να τροποποιήσει τη συμπεριφορά του ώστε να αποφεύγει τους μηχανισμούς ανίχνευσης.

Επιπλέον, τα συστήματα τεχνητής νοημοσύνης ενσωματώνονται στις διαδικασίες λήψης αποφάσεων για κακόβουλο λογισμικό. Αυτές οι δυνατότητες επιτρέπουν στο κακόβουλο λογισμικό να αξιολογεί παραβιασμένα περιβάλλοντα, να προσδιορίζει εάν οι στόχοι είναι πολύτιμοι και να αποφασίζει εάν οι συνθήκες είναι κατάλληλες για την ανάπτυξη πρόσθετων ωφέλιμων φορτίων.

Η έρευνα του ChatGPhish χρησιμεύει ως άλλη μια υπενθύμιση ότι οι τεχνολογίες τεχνητής νοημοσύνης εισάγουν εντελώς νέες παραμέτρους ασφαλείας. Καθώς οι βοηθοί τεχνητής νοημοσύνης ενσωματώνονται βαθιά στις ροές εργασίας των επιχειρήσεων, η προστασία από έμμεσες εισαγωγές εντολών, χειραγωγημένες περιλήψεις και καταχρήσεις διεπαφών που βασίζονται στην εμπιστοσύνη θα γίνει ένα ολοένα και πιο κρίσιμο στοιχείο της στρατηγικής για την κυβερνοασφάλεια.