Inilalantad ng DeepSeek Security Breach ang mga Vulnerabilities ng AI at Nagpapasiklab ng Cyberattacks

Ang pinakabagong generative AI ng China, ang DeepSeek, ay naging paksa ng matinding pagsisiyasat sa cybersecurity mula nang ilunsad ito. Ang mga mananaliksik sa seguridad ay naglantad kamakailan ng isang system prompt jailbreak na nagsiwalat sa panloob na mga gawain ng modelo. Samantala, ang DeepSeek ay nahaharap din sa mga alon ng pag-atake ng DDoS, na pinipilit itong paghigpitan ang mga bagong pagrerehistro ng user. Itinatampok ng mga insidenteng ito ang parehong mga panganib sa seguridad ng mga modelo ng AI at ang pagtaas ng pagiging sopistikado ng mga cyberattack na nagta-target sa mga serbisyo ng AI.

DeepSeek's System Prompt Jailbreak: Ano ang Natuklasan ng mga Mananaliksik

Di-nagtagal pagkatapos ng debut ng DeepSeek, ang mga mananaliksik sa API security firm na si Wallarm ay nakakita ng isang kahinaan sa jailbreak na naglantad sa buong system prompt ng modelong AI. Ang ganitong uri ng depekto sa seguridad ay partikular na nababahala dahil ang prompt ng system ng AI ay nagdidikta ng gawi nito, mga limitasyon sa pagtugon, at mga patakaran sa pag-moderate ng nilalaman. Karamihan sa mga developer ng AI, kabilang ang OpenAI na may ChatGPT, ay nagsasagawa ng mahigpit na mga hakbang upang maiwasan ang mga naturang pagtagas.

Sinabi ni Wallarm sa isang post sa blog noong Pebrero 1 na ang pamamaraan ng jailbreak nito ay pinagsamantalahan ang lohika ng pagtugon sa AI na nakabatay sa bias, kahit na pinigil ng kumpanya ang mga partikular na teknikal na detalye dahil sa responsableng mga patakaran sa pagsisiwalat. Naabisuhan ang DeepSeek tungkol sa isyu at mula noon ay nag-deploy na ng pag-aayos. Gayunpaman, nai-publish ni Wallarm ang buong system na prompt text, na nagpapahintulot sa mga eksperto sa seguridad na suriin ang balangkas ng pagpapatakbo ng DeepSeek.

Ang paghahayag na ito ay nagbunsod ng mga talakayan tungkol sa:

• Mga hakbang sa privacy ng AI at kung gaano kabisang pinoprotektahan ng DeepSeek ang data ng user.
• Mga potensyal na bias sa pagsasanay ng DeepSeek, lalo na kung isasaalang-alang ang mga claim na maaaring gumamit ito ng data ng OpenAI para sa pagsasanay.
• Mga hadlang sa regulasyon na maaaring makaimpluwensya sa kung paano gumagana ang modelo ng AI, partikular sa China, kung saan mahigpit na kinokontrol ang AI content.

Upang imbestigahan ang potensyal na impluwensya ng OpenAI, inihambing ni Wallarm ang prompt ng system ng DeepSeek sa ChatGPT. Ayon sa pagsusuri ng ChatGPT, ang mga tugon ng DeepSeek ay naaayon sa mas mahigpit na mga hakbang sa pagsunod, samantalang ang diskarte ng OpenAI ay mas nababaluktot at nakasentro sa gumagamit.

Mga Pag-atake ng DDoS sa DeepSeek: Isang Coordinated Cyber Assault

Habang lumalago ang kasikatan ng DeepSeek, naging target ito ng malalaking distributed denial-of-service (DDoS) na pag-atake. Inihayag ng kumpanya na kailangan nitong harangan ang mga bagong pagrerehistro ng user dahil sa napakaraming dami ng mga pag-atake.

Ayon sa NSFocus, isang cybersecurity firm na sumusubaybay sa mga pag-atake, hinarap ng DeepSeek ang tatlong malalaking alon ng mga pag-atake ng DDoS na nagta-target sa interface ng API nito noong Enero 25, 26, at 27. Ang bawat pag-atake ay tumagal ng humigit-kumulang 35 minuto, na lubhang nakakaapekto sa platform ng DeepSeek. Pagsapit ng Enero 28, hindi pa rin available ang interface ng API dahil sa mga patuloy na pagkaantala.

Inatake din ang DeepSeek chat system, na may mga strike sa DDoS na naobserbahan noong Enero 20 at 25, bawat isa ay tumatagal ng halos isang oras.

Mga Paraan ng Pag-atake ng DDoS

Natukoy ng NSFocus ang maraming diskarte sa pag-atake na nakabatay sa pagmuni-muni, kabilang ang:

• Mga pag-atake sa pagmuni-muni ng NTP – Pinagsasamantalahan ang mga server ng Network Time Protocol (NTP) upang palakasin ang trapiko ng pag-atake.
• Mga pag-atake sa pagmuni-muni ng Memcached – Paggamit ng maling pagkaka-configure ng mga server ng Memcached upang bahain ang DeepSeek ng napakalaking trapiko.
• Mga pag-atake sa pagmumuni-muni ng SSDP – Pag-target sa mga serbisyo ng Simple Service Discovery Protocol (SSDP) upang madaig ang mga mapagkukunan ng network.
• Mga pag-atake sa pagmuni-muni ng CLDAP – Paggamit ng mga server ng Lightweight Directory Access Protocol (CLDAP) na hindi gaanong Koneksyon upang mapataas ang dami ng pag-atake.

Isang Highly Coordinated Attack

Noong Enero 28, iniulat ng DeepSeek na inaangkop ng mga umaatake ang kanilang mga pamamaraan bilang tugon sa mga pagsusumikap sa pagpapagaan ng kumpanya. Ang katumpakan at koordinasyon ng mga pag-atake na ito ay humantong sa NSFocus upang tapusin na ang mga may kasalanan ay isang propesyonal, mahusay na organisadong koponan sa halip na mga random na hacker.

"Ang umaatake ay nagpapakita ng napakataas na propesyonalismo sa bawat pag-atakeng hakbang, mula sa pagpili ng mga target hanggang sa pag-timing ng mga pag-atake at pagkontrol sa intensity," sabi ng NSFocus.

Kabilang sa mga nangungunang mapagkukunan ng pag-atake ang mga system mula sa United States, United Kingdom, at Australia, ayon sa pagsusuri ng cybersecurity firm.

Ano ang Ibig Sabihin nito para sa AI Security

Itinatampok ng mga insidente ng DeepSeek ang lumalaking panganib sa cybersecurity sa generative AI. Mula sa mga kahinaan sa jailbreak hanggang sa mga naka-target na cyberattack, ang mga serbisyo ng AI ay mga pangunahing target na ngayon para sa parehong mga mananaliksik sa seguridad at mga malisyosong aktor.

Mga Pangunahing Takeaway:

1. Ang mga jailbreak ng AI ay nananatiling isang hamon sa seguridad - Kahit na ang mga bagong modelo ng AI tulad ng DeepSeek ay maaaring i-reverse-engineered upang ilantad ang kanilang panloob na lohika.
2. Dumadami ang mga pag-atake ng DDoS laban sa mga platform ng AI – Habang nagiging popular ang mga serbisyo ng AI, nakakaakit ang mga ito ng mas mataas na coordinated na cyberattack.
3. Dapat mabilis na umusbong ang seguridad ng AI – Dapat magpatupad ang mga developer ng matatag na pag-iingat upang maiwasan ang agarang pagtagas at ipagtanggol laban sa mga banta sa cyber.

Habang patuloy na hinuhubog ng AI ang digital landscape, ang mga cybersecurity team ay dapat manatiling isang hakbang sa unahan upang matiyak na ang mga modelo ng AI ay mananatiling secure at nababanat laban sa mga umuusbong na banta.