Pelanggaran Keselamatan DeepSeek Mendedahkan Kerentanan AI dan Mencetuskan Serangan Siber

AI generatif terbaru China, DeepSeek, telah menjadi subjek penelitian keselamatan siber yang sengit sejak pelancarannya. Penyelidik keselamatan baru-baru ini mendedahkan sistem jailbreak segera yang mendedahkan kerja dalaman model. Sementara itu, DeepSeek juga telah menghadapi gelombang serangan DDoS, memaksanya untuk menyekat pendaftaran pengguna baharu. Insiden ini menyerlahkan kedua-dua risiko keselamatan model AI dan peningkatan kecanggihan serangan siber yang menyasarkan perkhidmatan AI.

Jailbreak Prompt Sistem DeepSeek: Perkara yang Ditemui Penyelidik

Tidak lama selepas debut DeepSeek, penyelidik di firma keselamatan API Wallarm menemui kelemahan jailbreak yang mendedahkan gesaan sistem penuh model AI. Jenis kecacatan keselamatan ini amat membimbangkan kerana gesaan sistem AI menentukan tingkah laku, had tindak balas dan dasar penyederhanaan kandungannya. Kebanyakan pembangun AI, termasuk OpenAI dengan ChatGPT, mengambil langkah tegas untuk mengelakkan kebocoran sedemikian.

Wallarm menyatakan dalam catatan blog 1 Februari bahawa kaedah jailbreaknya mengeksploitasi logik tindak balas AI berasaskan berat sebelah, walaupun syarikat itu menahan butiran teknikal tertentu kerana dasar pendedahan yang bertanggungjawab. DeepSeek telah dimaklumkan tentang isu tersebut dan sejak itu telah menggunakan pembetulan. Walau bagaimanapun, Wallarm telah menerbitkan teks gesaan sistem penuh, membenarkan pakar keselamatan menganalisis rangka kerja operasi DeepSeek.

Pendedahan ini mencetuskan perbincangan tentang:

• Langkah privasi AI dan keberkesanan DeepSeek melindungi data pengguna.
• Potensi berat sebelah dalam latihan DeepSeek, terutamanya mempertimbangkan dakwaan bahawa ia mungkin telah menggunakan data OpenAI untuk latihan.
• Kekangan kawal selia yang boleh mempengaruhi cara model AI beroperasi, terutamanya di China, di mana kandungan AI dikawal ketat.

Untuk menyiasat potensi pengaruh OpenAI, Wallarm membandingkan gesaan sistem DeepSeek dengan ChatGPT. Menurut analisis ChatGPT, respons DeepSeek sejajar dengan langkah pematuhan yang lebih ketat, manakala pendekatan OpenAI lebih fleksibel dan mengutamakan pengguna.

Serangan DDoS pada DeepSeek: Serangan Siber Terkoordinasi

Apabila populariti DeepSeek berkembang, ia menjadi sasaran serangan penafian perkhidmatan (DDoS) teragih berskala besar. Syarikat itu mengumumkan bahawa ia terpaksa menyekat pendaftaran pengguna baharu kerana jumlah serangan yang banyak.

Menurut NSFocus, firma keselamatan siber yang memantau serangan, DeepSeek menghadapi tiga gelombang utama serangan DDoS yang menyasarkan antara muka APInya pada 25, 26 dan 27 Januari. Setiap serangan berlangsung kira-kira 35 minit, memberi kesan teruk kepada platform DeepSeek. Menjelang 28 Januari, antara muka API masih tidak tersedia kerana gangguan yang berterusan.

Sistem sembang DeepSeek turut diserang, dengan serangan DDoS diperhatikan pada 20 dan 25 Januari, setiap satu berlangsung kira-kira sejam.

Kaedah Serangan DDoS

NSFocus mengenal pasti pelbagai teknik serangan berasaskan refleksi, termasuk:

• Serangan refleksi NTP – Memanfaatkan pelayan Network Time Protocol (NTP) untuk menguatkan trafik serangan.
• Serangan refleksi Memcached – Menggunakan pelayan Memcached yang salah konfigurasi untuk membanjiri DeepSeek dengan trafik besar-besaran.
• Serangan refleksi SSDP – Menyasarkan perkhidmatan Simple Service Discovery Protocol (SSDP) untuk mengatasi sumber rangkaian.
• Serangan pantulan CLDAP – Memanfaatkan pelayan Protokol Akses Direktori Ringan (CLDAP) tanpa sambungan untuk meningkatkan jumlah serangan.

Serangan yang Sangat Terkoordinasi

Menjelang 28 Januari, DeepSeek melaporkan bahawa penyerang telah menyesuaikan kaedah mereka sebagai tindak balas kepada usaha mitigasi syarikat. Ketepatan dan penyelarasan serangan ini menyebabkan NSFocus menyimpulkan bahawa pelakunya adalah pasukan profesional yang teratur dan bukannya penggodam rawak.

"Penyerang menunjukkan profesionalisme yang sangat tinggi dalam setiap langkah menyerang, daripada memilih sasaran kepada masa serangan dan mengawal keamatan," NSFocus menyatakan.

Sumber serangan teratas termasuk sistem dari Amerika Syarikat, United Kingdom dan Australia, menurut analisis firma keselamatan siber itu.

Maksud Ini untuk Keselamatan AI

Insiden DeepSeek menyerlahkan risiko keselamatan siber yang semakin meningkat dalam AI generatif. Daripada kelemahan jailbreak kepada serangan siber yang disasarkan, perkhidmatan AI kini menjadi sasaran utama untuk kedua-dua penyelidik keselamatan dan pelakon yang berniat jahat.

Ambilan Utama:

1. Jailbreak AI kekal sebagai cabaran keselamatan – Model AI yang lebih baharu seperti DeepSeek boleh direka bentuk terbalik untuk mendedahkan logik dalaman mereka.
2. Serangan DDoS terhadap platform AI semakin meningkat – Apabila perkhidmatan AI semakin popular, ia menarik lebih banyak serangan siber yang diselaraskan.
3. Keselamatan AI mesti berkembang dengan pantas – Pembangun mesti melaksanakan perlindungan yang teguh untuk mengelakkan kebocoran segera dan mempertahankan diri daripada ancaman siber.

Memandangkan AI terus membentuk landskap digital, pasukan keselamatan siber mesti kekal selangkah ke hadapan untuk memastikan model AI kekal selamat dan berdaya tahan terhadap ancaman yang muncul.