Το DeepSeek AI με βάση την Κίνα περιορίζει τις νέες εγγραφές εν μέσω κυβερνοεπιθέσεων και αυξανόμενων ανησυχιών για την ασφάλεια

Η κινεζική startup τεχνητής νοημοσύνης DeepSeek έχει κερδίσει γρήγορα έλξη στον κόσμο της τεχνητής νοημοσύνης, αλλά με την αυξανόμενη δημοτικότητά της έρχεται ένα αυξανόμενο σύνολο προκλήσεων. Η εταιρεία έχει πρόσφατα περιορίσει τις εγγραφές νέων χρηστών λόγω αυτού που περιγράφει ως μεγάλης κλίμακας κακόβουλες επιθέσεις στις υπηρεσίες της. Ενώ οι υπάρχοντες χρήστες μπορούν να συνεχίσουν να έχουν πρόσβαση στην πλατφόρμα, οι νέες εγγραφές έχουν περιοριστεί προσωρινά.

Η κατάσταση υπογραμμίζει τις αυξανόμενες απειλές ασφαλείας που αντιμετωπίζουν οι πλατφόρμες τεχνητής νοημοσύνης και εγείρει ανησυχίες σχετικά με τις ευρύτερες επιπτώσεις της ασφάλειας, της ιδιωτικής ζωής και των γεωπολιτικών εντάσεων που περιβάλλουν τις κινεζικές εταιρείες τεχνολογίας.

Κυβερνοεπιθέσεις που στοχεύουν το DeepSeek

Το DeepSeek δεν έχει αποκαλύψει λεπτομέρειες σχετικά με τη φύση αυτών των επιθέσεων, αλλά οι ειδικοί στον κυβερνοχώρο πιστεύουν ότι θα μπορούσαν να είναι ένας συνδυασμός κατανεμημένων επιθέσεων άρνησης υπηρεσίας (DDoS), εξαγωγών συστήματος και προσπαθειών jailbreak με στόχο την παράκαμψη περιορισμών περιεχομένου ή τον χειρισμό της συμπεριφοράς AI.

Σύμφωνα με τον Stuart Millar, κύριο μηχανικό AI στο Rapid7, οι επιτιθέμενοι θα μπορούσαν να δοκιμάζουν τις απαντήσεις του DeepSeek σε ευαίσθητες ερωτήσεις, να προσπαθούν να εξαγάγουν προτροπές συστήματος ή να προσπαθούν να αλλάξουν τον τρόπο λειτουργίας του AI. Μια επιτυχημένη άμεση εξαγωγή συστήματος θα μπορούσε να αποκαλύψει ιδιόκτητες οδηγίες και ενδεχομένως να εκθέσει τα τρωτά σημεία του AI σε περαιτέρω εκμετάλλευση.

Ο ερευνητής κυβερνοασφάλειας Erich Kron του KnowBe4 επεσήμανε ότι τέτοιες επιθέσεις θα μπορούσαν να υποκινούνται από διάφορους παράγοντες:

• Εκβιασμός – Οι επιτιθέμενοι ενδέχεται να απαιτήσουν πληρωμές λύτρων με αντάλλαγμα την παύση των διαταραχών.
• Εταιρικό σαμποτάζ – Οι ανταγωνιστές θα μπορούσαν να επιχειρήσουν να αποδυναμώσουν τη φήμη και τη θέση του DeepSeek στην αγορά.
• Προστασία επενδύσεων – Οι οντότητες που επενδύουν σε αντίπαλα έργα τεχνητής νοημοσύνης ενδέχεται να δουν το DeepSeek ως απειλή και να επιδιώξουν να το υπονομεύσουν.

Η Meteoric Rise του DeepSeek στον κόσμο της AI

Ιδρύθηκε το 2023, το DeepSeek γρήγορα τοποθετήθηκε ως κύριος υποψήφιος στον αγώνα AI. Τα μοντέλα της εταιρείας, συμπεριλαμβανομένου του DeepSeek-V3, έχουν γίνει πρωτοσέλιδα για την ικανότητά τους να ανταγωνίζονται, ακόμη και να ξεπερνούν, μοντέλα δυτικής τεχνητής νοημοσύνης όπως το GPT του OpenAI και το LLaMA της Meta, ενώ εκπαιδεύονται με ένα κλάσμα του κόστους.

Η εφαρμογή του chatbot iOS εκτοξεύτηκε πρόσφατα στην κορυφή των δωρεάν γραφημάτων εφαρμογών της Apple στις ΗΠΑ και το Ηνωμένο Βασίλειο, ξεπερνώντας ακόμη και το ChatGPT του OpenAI σε δημοτικότητα.

Ένας σημαντικός παράγοντας πίσω από την επιτυχία του DeepSeek είναι η αποτελεσματικότητά του. Η εταιρεία ισχυρίζεται ότι το μοντέλο DeepSeek-V3 απαιτεί σημαντικά λιγότερες ώρες GPU σε σύγκριση με τα αντίστοιχα της Silicon Valley. Με τις αμερικανικές κυρώσεις που περιορίζουν την πώληση προηγμένων τσιπ τεχνητής νοημοσύνης σε κινεζικές εταιρείες, αυτή η αποτελεσματικότητα έχει γίνει ένα κρίσιμο ανταγωνιστικό πλεονέκτημα.

Παρά αυτές τις τεχνολογικές ανακαλύψεις, το DeepSeek παραμένει αμφιλεγόμενο λόγω των πολιτικών λογοκρισίας του και των πιθανών κινδύνων εθνικής ασφάλειας που σχετίζονται με τις πρακτικές αποθήκευσης δεδομένων του.

Ελλείψεις ασφάλειας και ανησυχίες για το απόρρητο

Το DeepSeek έχει αντιμετωπίσει προηγούμενα τρωτά σημεία ασφαλείας , συμπεριλαμβανομένης μιας άμεσης εκμετάλλευσης έγχυσης που ανακαλύφθηκε από τον ερευνητή ασφάλειας Johann Rehberger. Αυτό το ελάττωμα θα μπορούσε να έχει επιτρέψει στους εισβολείς να κατακτήσουν λογαριασμούς χρηστών χρησιμοποιώντας ένα ωφέλιμο φορτίο δέσμης ενεργειών μεταξύ τοποθεσιών (XSS) ενσωματωμένο σε απαντήσεις που δημιουργούνται από AI.

Επιπλέον, μια πρόσφατη αναφορά πληροφοριών απειλών από την Kela διαπίστωσε ότι τα μοντέλα AI του DeepSeek είναι ευάλωτα σε επιθέσεις jailbreak που τους επιτρέπουν να δημιουργούν ανήθικο και παράνομο περιεχόμενο, όπως:

• Δημιουργία κώδικα ransomware
• Κατασκευή παραπληροφόρησης
• Οδηγοί βήμα προς βήμα για την κατασκευή εκρηκτικών και τοξινών
• Οδηγίες ανάπτυξης κακόβουλου λογισμικού

Αυτά τα ευρήματα εγείρουν σοβαρές ηθικές ανησυχίες σχετικά με το πώς θα μπορούσε να γίνει κατάχρηση της τεχνητής νοημοσύνης εάν δεν ασφαλιστεί σωστά.

Επιπλέον, η πολιτική απορρήτου του DeepSeek αποκαλύπτει ότι τα δεδομένα χρήστη - συμπεριλαμβανομένων των πληροφοριών συσκευής, των στοιχείων δικτύου και των δεδομένων πληρωμής - αποθηκεύονται σε διακομιστές που βρίσκονται στην Κίνα. Αυτό έχει προκαλέσει ανησυχίες στις δυτικές χώρες, ιδιαίτερα στις Ηνωμένες Πολιτείες, όπου το Πολεμικό Ναυτικό των ΗΠΑ πρόσφατα συμβούλεψε το προσωπικό να αποφεύγει τη χρήση του DeepSeek λόγω πιθανών κινδύνων ασφάλειας και δεοντολογίας.

Η ιταλική αρχή προστασίας δεδομένων έχει επίσης ξεκινήσει έρευνα, απαιτώντας από το DeepSeek να διευκρινίσει πώς συλλέγει, αποθηκεύει και επεξεργάζεται δεδομένα χρηστών. Η εταιρεία έχει στη διάθεσή της 20 ημέρες για να απαντήσει σε ερωτήσεις σχετικά με τις πηγές δεδομένων, τις νομικές αιτιολογήσεις για την επεξεργασία και εάν η εκπαίδευση μοντέλων τεχνητής νοημοσύνης περιλαμβάνει απόξεση δεδομένων.

Ένας νέος ανταγωνισμός AI εν μέσω γεωπολιτικών εντάσεων

Η εμφάνιση του DeepSeek προσθέτει μια νέα διάσταση στον παγκόσμιο αγώνα τεχνητής νοημοσύνης, ιδιαίτερα καθώς οι τεχνολογικές εντάσεις ΗΠΑ-Κίνας συνεχίζουν να κλιμακώνονται. Η κοινότητα της τεχνητής νοημοσύνης έχει λάβει υπόψη της, με τον Διευθύνοντα Σύμβουλο του OpenAI, Sam Altman, να αποκαλεί το συλλογιστικό μοντέλο του DeepSeek «εντυπωσιακό» και να το αναγνωρίζει ως νόμιμο ανταγωνιστή.

Είναι ενδιαφέρον ότι ο Jim Fan της NVIDIA σημείωσε ότι το DeepSeek «διατηρεί ζωντανή την αρχική αποστολή του OpenAI» εστιάζοντας στην ανοιχτή έρευνα και την ευρεία προσβασιμότητα - μια δήλωση που επικρίνει διακριτικά την πρόσφατη στροφή του OpenAI προς μοντέλα κλειστού κώδικα.

Η Κίνα, εν τω μεταξύ, υπερασπίστηκε τη θέση της σχετικά με τους τεχνολογικούς κανονισμούς, υποστηρίζοντας ότι επιτρέπει σε παγκόσμιες εταιρείες τεχνητής νοημοσύνης να λειτουργούν εφόσον ακολουθούν τους τοπικούς νόμους. Ωστόσο, εξακολουθούν να υπάρχουν ανησυχίες για το πώς οι κινεζικές εταιρείες τεχνητής νοημοσύνης ενδέχεται να επηρεαστούν από τους κυβερνητικούς κανονισμούς, τις πολιτικές λογοκρισίας και τις οδηγίες εθνικής ασφάλειας.

Μια κομβική στιγμή για την ασφάλεια AI

Η άνοδος του DeepSeek καταδεικνύει ότι η Κίνα κάνει σοβαρά βήματα στην ανάπτυξη της τεχνητής νοημοσύνης, αλλά υπογραμμίζει επίσης τις αυξανόμενες προκλήσεις στον κυβερνοχώρο που αντιμετωπίζουν οι εταιρείες τεχνητής νοημοσύνης. Είτε πρόκειται για κακόβουλες επιθέσεις στον κυβερνοχώρο, ανησυχίες για το απόρρητο ή για γεωπολιτικό έλεγχο, το ταξίδι του DeepSeek υπογραμμίζει την περίπλοκη αλληλεπίδραση μεταξύ της καινοτομίας της τεχνητής νοημοσύνης, της ασφάλειας και της παγκόσμιας πολιτικής.

Για τους χρήστες, αυτά τα συμβάντα χρησιμεύουν ως υπενθύμιση για να είναι προσεκτικοί σχετικά με τις πλατφόρμες τεχνητής νοημοσύνης που χειρίζονται ευαίσθητα δεδομένα, ειδικά εκείνες με αδιαφανείς πολιτικές απορρήτου και πιθανές ευπάθειες ασφαλείας. Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, η διασφάλιση ισχυρών μέτρων κυβερνοασφάλειας και διαφανών πρακτικών δεδομένων θα είναι ζωτικής σημασίας για τις εταιρείες που θέλουν να διατηρήσουν την εμπιστοσύνη των χρηστών και την παγκόσμια αξιοπιστία.