Çin Merkezli DeepSeek AI, Siber Saldırılar ve Artan Güvenlik Endişeleri Ortasında Yeni Kayıtları Kısıtlıyor

Çinli AI girişimi DeepSeek, yapay zeka dünyasında hızla ivme kazandı, ancak artan popülaritesiyle birlikte büyüyen bir dizi zorluk da geliyor. Şirket, hizmetlerine yönelik büyük ölçekli kötü amaçlı saldırılar olarak tanımladığı şey nedeniyle yakın zamanda yeni kullanıcı kayıtlarını sınırladı. Mevcut kullanıcılar platforma erişmeye devam edebilirken, yeni kayıtlar geçici olarak kısıtlandı.

Bu durum, yapay zeka platformlarının karşı karşıya olduğu artan güvenlik tehditlerini gözler önüne seriyor ve Çinli teknoloji şirketlerini çevreleyen yapay zeka güvenliği, gizlilik ve jeopolitik gerginliklerin daha geniş kapsamlı etkileri konusunda endişelere yol açıyor.

DeepSeek'i Hedef Alan Siber Saldırılar

DeepSeek, bu saldırıların niteliğine ilişkin ayrıntıları açıklamadı ancak siber güvenlik uzmanları bunların, dağıtılmış hizmet engelleme (DDoS) saldırıları, sistem istemi çıkarmaları ve içerik kısıtlamalarını aşmayı veya yapay zeka davranışlarını değiştirmeyi amaçlayan jailbreak girişimlerinin bir karışımı olabileceğini düşünüyor.

Rapid7'deki baş AI mühendisi Stuart Millar'a göre saldırganlar DeepSeek'in hassas sorulara verdiği yanıtları test ediyor, sistem istemlerini çıkarmaya çalışıyor veya AI'nın çalışma şeklini değiştirmeye çalışıyor olabilir. Başarılı bir sistem istemi çıkarma, tescilli talimatları ortaya çıkarabilir ve potansiyel olarak AI'nın güvenlik açıklarını daha fazla istismara maruz bırakabilir.

KnowBe4'ten siber güvenlik araştırmacısı Erich Kron, bu tür saldırıların çeşitli faktörlerden kaynaklanabileceğini belirtti:

• Gasp – Saldırganlar, kesintileri durdurmak karşılığında fidye ödemeleri talep edebilir.
• Kurumsal sabotaj – Rakipler DeepSeek'in itibarını ve piyasa konumunu zayıflatmaya çalışabilir.
• Yatırım koruması – Rakip yapay zeka projelerine yatırım yapan kuruluşlar, DeepSeek'i bir tehdit olarak görebilir ve onu zayıflatmaya çalışabilir.

DeepSeek'in Yapay Zeka Dünyasındaki Yükselişi

2023'te kurulan DeepSeek, AI yarışında hızla önemli bir rakip olarak kendini konumlandırdı. DeepSeek-V3 dahil şirketin modelleri, maliyetin çok daha düşük bir kısmına eğitilirken OpenAI'nin GPT'si ve Meta'nın LLaMA'sı gibi Batı AI modelleriyle rekabet edebilme ve hatta onları geçebilme yetenekleriyle manşetlere çıktı.

iOS chatbot uygulaması, yakın zamanda ABD ve İngiltere'de Apple'ın ücretsiz uygulama listelerinde zirveye oturdu ve hatta popülerlik açısından OpenAI'nin ChatGPT'sini bile geride bıraktı.

DeepSeek'in başarısının ardındaki en önemli etken verimliliğidir. Şirket, DeepSeek-V3 modelinin Silikon Vadisi'ndeki benzerlerine kıyasla önemli ölçüde daha az GPU saati gerektirdiğini iddia ediyor. ABD yaptırımlarının Çinli firmalara gelişmiş AI çiplerinin satışını kısıtlamasıyla, bu verimlilik kritik bir rekabet avantajı haline geldi.

Bu teknolojik atılımlara rağmen DeepSeek, sansür politikaları ve veri depolama uygulamalarıyla ilişkili potansiyel ulusal güvenlik riskleri nedeniyle tartışmalı olmaya devam ediyor.

Güvenlik Açıkları ve Gizlilik Endişeleri

DeepSeek, güvenlik araştırmacısı Johann Rehberger tarafından keşfedilen bir hızlı enjeksiyon açığı da dahil olmak üzere geçmişte güvenlik açıklarıyla karşı karşıya kaldı. Bu kusur, saldırganların AI tarafından oluşturulan yanıtlara gömülü bir çapraz site komut dosyası (XSS) yükü kullanarak kullanıcı hesaplarını ele geçirmesine izin vermiş olabilir.

Ayrıca, Kela tarafından yakın zamanda yayınlanan bir tehdit istihbarat raporunda, DeepSeek'in yapay zeka modellerinin, aşağıdakiler de dahil olmak üzere etik olmayan ve yasa dışı içerik üretmelerine olanak tanıyan jailbreak saldırılarına karşı savunmasız olduğu tespit edildi:

• Fidye yazılımı kod üretimi
• Dezenformasyon üretimi
• Patlayıcı ve toksin yapımına ilişkin adım adım kılavuzlar
• Kötü amaçlı yazılım geliştirme talimatları

Bu bulgular, yapay zekanın uygun şekilde güvence altına alınmaması durumunda kötüye kullanılabileceği konusunda ciddi etik endişeleri gündeme getiriyor.

Ayrıca, DeepSeek'in gizlilik politikası, cihaz bilgileri, ağ ayrıntıları ve ödeme verileri de dahil olmak üzere kullanıcı verilerinin Çin'de bulunan sunucularda saklandığını ortaya koymaktadır. Bu, Batı ülkelerinde, özellikle de ABD Deniz Kuvvetleri'nin yakın zamanda personele potansiyel güvenlik ve etik riskleri nedeniyle DeepSeek'i kullanmaktan kaçınmaları konusunda tavsiyede bulunduğu ABD'de endişelere yol açmıştır.

İtalyan veri koruma otoritesi de bir soruşturma başlattı ve DeepSeek'in kullanıcı verilerini nasıl topladığını, sakladığını ve işlediğini açıklamasını talep etti. Şirketin veri kaynakları, işleme için yasal gerekçeler ve AI model eğitiminin veri kazımayı içerip içermediğiyle ilgili sorulara yanıt vermek için 20 günü var.

Jeopolitik Gerilimler Ortasında Yeni Bir Yapay Zeka Rekabeti

DeepSeek'in ortaya çıkışı, özellikle ABD-Çin teknoloji gerginliği tırmanmaya devam ederken, küresel AI yarışına yeni bir boyut katıyor. AI topluluğu, OpenAI CEO'su Sam Altman'ın DeepSeek'in akıl yürütme modelini "etkileyici" olarak adlandırması ve onu meşru bir rakip olarak kabul etmesiyle bunu fark etti.

İlginçtir ki, NVIDIA'dan Jim Fan, DeepSeek'in açık araştırmaya ve geniş erişilebilirliğe odaklanarak "OpenAI'nin orijinal misyonunu canlı tuttuğunu" belirtti; bu ifade, OpenAI'nin son dönemde kapalı kaynaklı modellere doğru kaymasını da ince bir şekilde eleştiriyor.

Bu arada Çin, küresel AI şirketlerinin yerel yasalara uydukları sürece faaliyet göstermelerine izin verdiğini iddia ederek teknoloji düzenlemeleri konusundaki duruşunu savundu. Ancak, Çinli AI şirketlerinin hükümet düzenlemeleri, sansür politikaları ve ulusal güvenlik direktiflerinden nasıl etkilenebileceği konusunda endişeler devam ediyor.

Yapay Zeka Güvenliği İçin Önemli Bir An

DeepSeek'in yükselişi, Çin'in AI geliştirmede ciddi adımlar attığını gösteriyor, ancak aynı zamanda AI şirketlerinin karşı karşıya kaldığı artan siber güvenlik zorluklarının da altını çiziyor. İster kötü niyetli siber saldırılar, ister gizlilik endişeleri veya jeopolitik inceleme olsun, DeepSeek'in yolculuğu AI inovasyonu, güvenlik ve küresel politika arasındaki karmaşık etkileşimi vurguluyor.

Kullanıcılar için bu olaylar, özellikle şeffaf olmayan gizlilik politikaları ve potansiyel güvenlik açıkları olan hassas verileri işleyen AI platformlarına karşı dikkatli olmaları gerektiğini hatırlatır. AI gelişmeye devam ettikçe, sağlam siber güvenlik önlemleri ve şeffaf veri uygulamaları sağlamak, kullanıcı güvenini ve küresel güvenilirliği korumak isteyen şirketler için çok önemli olacaktır.