DeepSeek AI con sede in Cina limita le nuove registrazioni tra attacchi informatici e crescenti preoccupazioni sulla sicurezza

La startup cinese di intelligenza artificiale DeepSeek ha rapidamente guadagnato terreno nel mondo dell'intelligenza artificiale, ma con la sua crescente popolarità arriva anche una serie crescente di sfide. L'azienda ha recentemente limitato le registrazioni di nuovi utenti a causa di quelli che descrive come attacchi dannosi su larga scala ai suoi servizi. Mentre gli utenti esistenti possono continuare ad accedere alla piattaforma, le nuove registrazioni sono state temporaneamente limitate.

La situazione evidenzia le crescenti minacce alla sicurezza a cui sono sottoposte le piattaforme di intelligenza artificiale e solleva preoccupazioni sulle implicazioni più ampie della sicurezza dell'intelligenza artificiale, della privacy e delle tensioni geopolitiche che circondano le aziende tecnologiche cinesi.

Attacchi informatici che prendono di mira DeepSeek

DeepSeek non ha divulgato dettagli specifici sulla natura di questi attacchi, ma gli esperti di sicurezza informatica ritengono che potrebbero trattarsi di un mix di attacchi DDoS (Distributed Denial-of-Service), estrazioni di richieste di sistema e tentativi di jailbreak volti ad aggirare le restrizioni sui contenuti o a manipolare il comportamento dell'intelligenza artificiale.

Secondo Stuart Millar, ingegnere capo dell'IA presso Rapid7, gli aggressori potrebbero testare le risposte di DeepSeek a domande sensibili, cercando di estrarre prompt di sistema o tentando di alterare il funzionamento dell'IA. Un'estrazione riuscita dei prompt di sistema potrebbe rivelare istruzioni proprietarie e potenzialmente esporre le vulnerabilità dell'IA a ulteriori sfruttamenti.

Il ricercatore di sicurezza informatica Erich Kron di KnowBe4 ha sottolineato che tali attacchi potrebbero essere motivati da vari fattori:

• Estorsione : gli aggressori potrebbero richiedere il pagamento di un riscatto in cambio dell'interruzione delle interruzioni.
• Sabotaggio aziendale : i concorrenti potrebbero tentare di indebolire la reputazione e la posizione di mercato di DeepSeek.
• Protezione degli investimenti : le entità che hanno investito in progetti di intelligenza artificiale rivali potrebbero vedere DeepSeek come una minaccia e cercare di indebolirlo.

L'ascesa meteorica di DeepSeek nel mondo dell'intelligenza artificiale

Fondata nel 2023, DeepSeek si è rapidamente posizionata come uno dei principali contendenti nella corsa all'intelligenza artificiale. I modelli dell'azienda, tra cui DeepSeek-V3, hanno fatto notizia per la loro capacità di competere con, e persino superare, modelli di intelligenza artificiale occidentali come GPT di OpenAI e LLaMA di Meta, pur essendo addestrati a una frazione del costo.

Di recente, la sua app chatbot per iOS ha raggiunto la vetta della classifica delle app gratuite di Apple negli Stati Uniti e nel Regno Unito, superando persino ChatGPT di OpenAI in termini di popolarità.

Un fattore importante dietro il successo di DeepSeek è la sua efficienza. L'azienda sostiene che il suo modello DeepSeek-V3 richiede significativamente meno ore GPU rispetto alle controparti della Silicon Valley. Con le sanzioni statunitensi che limitano la vendita di chip AI avanzati alle aziende cinesi, questa efficienza è diventata un vantaggio competitivo fondamentale.

Nonostante queste innovazioni tecnologiche, DeepSeek resta controverso a causa delle sue politiche di censura e dei potenziali rischi per la sicurezza nazionale associati alle sue pratiche di archiviazione dei dati.

Difetti di sicurezza e problemi di privacy

DeepSeek ha affrontato vulnerabilità di sicurezza in passato, tra cui un exploit di iniezione rapida scoperto dal ricercatore di sicurezza Johann Rehberger. Questa falla avrebbe potuto consentire agli aggressori di assumere il controllo degli account utente utilizzando un payload di cross-site scripting (XSS) incorporato nelle risposte generate dall'IA.

Inoltre, un recente rapporto di intelligence sulle minacce condotto da Kela ha scoperto che i modelli di intelligenza artificiale di DeepSeek sono vulnerabili agli attacchi di jailbreak che consentono loro di generare contenuti non etici e illegali, tra cui:

• Generazione di codice ransomware
• Fabbricazione di disinformazione
• Guide passo passo per realizzare esplosivi e tossine
• Istruzioni per lo sviluppo di malware

Questi risultati sollevano serie preoccupazioni etiche su come l'intelligenza artificiale potrebbe essere utilizzata in modo improprio se non fosse protetta adeguatamente.

Inoltre, l'informativa sulla privacy di DeepSeek rivela che i dati degli utenti, tra cui informazioni sul dispositivo, dettagli di rete e dati di pagamento, sono archiviati su server situati in Cina. Ciò ha suscitato preoccupazioni nei paesi occidentali, in particolare negli Stati Uniti, dove la Marina degli Stati Uniti ha recentemente consigliato al personale di evitare di utilizzare DeepSeek a causa di potenziali rischi per la sicurezza ed etici.

Anche l'autorità italiana per la protezione dei dati ha avviato un'indagine, chiedendo a DeepSeek di chiarire come raccoglie, archivia ed elabora i dati degli utenti. L'azienda ha 20 giorni per rispondere alle domande relative alle fonti dei dati, alle giustificazioni legali per l'elaborazione e se l'addestramento del modello AI comporta lo scraping dei dati.

Una nuova rivalità tra intelligenza artificiale e tensioni geopolitiche

L'emergere di DeepSeek aggiunge una nuova dimensione alla corsa globale all'intelligenza artificiale, in particolare mentre le tensioni tecnologiche tra Stati Uniti e Cina continuano a crescere. La comunità dell'intelligenza artificiale se ne è accorta, con il CEO di OpenAI Sam Altman che ha definito il modello di ragionamento di DeepSeek "impressionante" e lo ha riconosciuto come un concorrente legittimo.

È interessante notare che Jim Fan di NVIDIA ha osservato che DeepSeek sta "mantenendo viva la missione originale di OpenAI" concentrandosi sulla ricerca aperta e sull'ampia accessibilità, un'affermazione che critica sottilmente il recente spostamento di OpenAI verso modelli closed-source.

Nel frattempo, la Cina ha difeso la sua posizione sulle normative tecnologiche, affermando che consente alle aziende globali di IA di operare a condizione che rispettino le leggi locali. Tuttavia, permangono preoccupazioni su come le aziende cinesi di IA potrebbero essere influenzate dalle normative governative, dalle politiche di censura e dalle direttive sulla sicurezza nazionale.

Un momento cruciale per la sicurezza dell’intelligenza artificiale

L'ascesa di DeepSeek dimostra che la Cina sta facendo passi da gigante nello sviluppo dell'IA, ma sottolinea anche le crescenti sfide di sicurezza informatica che le aziende di IA devono affrontare. Che si tratti di attacchi informatici dannosi, preoccupazioni sulla privacy o controllo geopolitico, il percorso di DeepSeek evidenzia la complessa interazione tra innovazione dell'IA, sicurezza e politica globale.

Per gli utenti, questi eventi servono come promemoria per essere cauti sulle piattaforme AI che gestiscono dati sensibili, in particolare quelle con opache policy sulla privacy e potenziali vulnerabilità di sicurezza. Mentre l'AI continua a evolversi, garantire solide misure di sicurezza informatica e pratiche di dati trasparenti sarà fondamentale per le aziende che cercano di mantenere la fiducia degli utenti e la credibilità globale.