DeepSeek Güvenlik İhlali Yapay Zeka Açıklarını Açığa Çıkarıyor ve Siber Saldırıları Tetikliyor

Çin'in en son jeneratif AI'sı DeepSeek, piyasaya sürülmesinden bu yana yoğun siber güvenlik incelemesinin konusu oldu. Güvenlik araştırmacıları yakın zamanda modelin iç işleyişini ortaya çıkaran bir sistem hızlı jailbreak'ini ifşa etti. Bu arada DeepSeek ayrıca yeni kullanıcı kayıtlarını kısıtlamaya zorlayan DDoS saldırı dalgalarıyla da karşı karşıya kaldı. Bu olaylar hem AI modellerinin güvenlik risklerini hem de AI hizmetlerini hedef alan siber saldırıların artan karmaşıklığını vurguluyor.

DeepSeek'in Sistem İstemi Jailbreak'i: Araştırmacılar Ne Keşfetti

DeepSeek'in çıkışından kısa bir süre sonra, API güvenlik firması Wallarm'daki araştırmacılar, AI modelinin tam sistem istemini açığa çıkaran bir jailbreak güvenlik açığı buldular. Bu tür bir güvenlik açığı özellikle endişe vericidir çünkü bir AI'nın sistem istemi, davranışını, yanıt sınırlamalarını ve içerik denetleme politikalarını belirler. ChatGPT ile OpenAI dahil olmak üzere çoğu AI geliştiricisi, bu tür sızıntıları önlemek için katı önlemler alır.

Wallarm, 1 Şubat tarihli bir blog yazısında, jailbreak yönteminin önyargı tabanlı AI yanıt mantığını kullandığını belirtti, ancak şirket sorumlu ifşa politikaları nedeniyle belirli teknik ayrıntıları sakladı. DeepSeek sorundan haberdar edildi ve o zamandan beri bir düzeltme yayınladı. Ancak Wallarm, güvenlik uzmanlarının DeepSeek'in operasyonel çerçevesini analiz etmesine olanak tanıyan tam sistem istemi metnini yayınladı.

Bu açıklama şu konularda tartışmalara yol açtı:

• Yapay zeka gizlilik önlemleri ve DeepSeek'in kullanıcı verilerini ne kadar etkili bir şekilde koruduğu.
• DeepSeek'in eğitiminde, özellikle OpenAI verilerini eğitim için kullanmış olabileceği iddiaları göz önüne alındığında, olası önyargılar .
• Özellikle yapay zeka içeriğinin sıkı bir şekilde kontrol edildiği Çin'de, yapay zeka modelinin nasıl işleyeceğini etkileyebilecek düzenleyici kısıtlamalar .

Potansiyel OpenAI etkisini araştırmak için Wallarm, DeepSeek'in sistem istemini ChatGPT'ninkiyle karşılaştırdı. ChatGPT'nin analizine göre, DeepSeek'in yanıtları daha katı uyumluluk önlemleriyle uyumluyken, OpenAI'nin yaklaşımı daha esnek ve kullanıcı merkezlidir.

DeepSeek'e Yönelik DDoS Saldırıları: Koordineli Bir Siber Saldırı

DeepSeek'in popülaritesi arttıkça, büyük ölçekli dağıtılmış hizmet reddi (DDoS) saldırılarının hedefi haline geldi. Şirket, saldırıların yoğun hacmi nedeniyle yeni kullanıcı kayıtlarını engellemek zorunda kaldığını duyurdu.

Saldırıları izleyen bir siber güvenlik firması olan NSFocus'a göre DeepSeek, 25, 26 ve 27 Ocak'ta API arayüzünü hedef alan üç büyük DDoS saldırısı dalgasıyla karşı karşıya kaldı. Her saldırı yaklaşık 35 dakika sürdü ve DeepSeek'in platformunu ciddi şekilde etkiledi. 28 Ocak'a gelindiğinde, devam eden kesintiler nedeniyle API arayüzü hala kullanılamıyordu.

DeepSeek sohbet sistemine de saldırı düzenlendi; 20 ve 25 Ocak'ta yaklaşık birer saat süren DDoS saldırıları gözlemlendi.

DDoS Saldırı Yöntemleri

NSFocus, aşağıdakiler de dahil olmak üzere birden fazla yansıma tabanlı saldırı tekniğini tanımladı:

• NTP yansıma saldırıları – Saldırı trafiğini artırmak için Ağ Zaman Protokolü (NTP) sunucularını kullanma.
• Memcached yansıma saldırıları – DeepSeek'i büyük miktarda trafikle doldurmak için yanlış yapılandırılmış Memcached sunucularının kullanılması.
• SSDP yansıma saldırıları – Ağ kaynaklarını aşırı yüklemek için Basit Hizmet Keşif Protokolü (SSDP) hizmetlerini hedef alır.
• CLDAP yansıma saldırıları – Saldırı hacmini artırmak için Bağlantısız Hafif Dizin Erişim Protokolü (CLDAP) sunucularından yararlanma.

Son derece koordineli bir saldırı

28 Ocak'ta DeepSeek, saldırganların şirketin azaltma çabalarına yanıt olarak yöntemlerini uyarladıklarını bildirdi. Bu saldırıların kesinliği ve koordinasyonu, NSFocus'un faillerin rastgele bilgisayar korsanlarından ziyade profesyonel, iyi organize olmuş bir ekip olduğu sonucuna varmasına yol açtı.

NSFocus, "Saldırgan, hedef seçmekten saldırıların zamanlamasını yapmaya ve yoğunluğu kontrol etmeye kadar her saldırı adımında son derece yüksek bir profesyonellik gösteriyor" dedi.

Siber güvenlik firmasının analizine göre, saldırıların başlıca kaynakları arasında ABD, İngiltere ve Avustralya'dan gelen sistemler yer aldı.

Bunun Yapay Zeka Güvenliği İçin Anlamı Nedir?

DeepSeek olayları, üretken AI'daki artan siber güvenlik risklerini vurgulamaktadır. Jailbreak güvenlik açıklarından hedefli siber saldırılara kadar, AI hizmetleri artık hem güvenlik araştırmacıları hem de kötü niyetli aktörler için birincil hedeflerdir.

Önemli Noktalar:

1. Yapay zeka jailbreak'leri bir güvenlik sorunu olmaya devam ediyor – DeepSeek gibi daha yeni yapay zeka modelleri bile, iç mantıklarını açığa çıkarmak için tersine mühendislikle kullanılabilir.
2. Yapay zeka platformlarına yönelik DDoS saldırıları artıyor – Yapay zeka hizmetleri popülerlik kazandıkça, daha yüksek düzeyde koordineli siber saldırılara maruz kalıyorlar.
3. Yapay zeka güvenliği hızla gelişmelidir – Geliştiriciler, ani sızıntıları önlemek ve siber tehditlere karşı savunma sağlamak için sağlam güvenlik önlemleri uygulamalıdır.

Yapay zeka dijital manzarayı şekillendirmeye devam ederken, siber güvenlik ekiplerinin yapay zeka modellerinin ortaya çıkan tehditlere karşı güvenli ve dayanıklı kalmasını sağlamak için bir adım önde olmaları gerekiyor.