A DeepSeek Security Breach feltárja a mesterséges intelligencia sebezhetőségét, és kibertámadásokat indít el

Kína legújabb generatív mesterséges intelligenciája, a DeepSeek indulása óta intenzív kiberbiztonsági vizsgálat tárgya. A biztonsági kutatók nemrégiben felfedtek egy rendszerkérdést, amely felfedte a modell belső működését. Eközben a DeepSeek DDoS támadások hullámaival is szembesült, ami arra kényszerítette, hogy korlátozza az új felhasználók regisztrációját. Ezek az incidensek rávilágítanak az AI-modellek biztonsági kockázataira és az AI-szolgáltatásokat célzó kibertámadások egyre kifinomultabbra.

A DeepSeek rendszerpromptja Jailbreak: amit a kutatók felfedeztek

Nem sokkal a DeepSeek debütálása után a Wallarm API biztonsági cég kutatói egy jailbreak sebezhetőséget találtak, amely felfedte az AI-modell teljes rendszerkérdését. Az ilyen típusú biztonsági hibák különösen azért aggasztóak, mert az AI rendszerkérdései diktálják a viselkedését, a válaszkorlátozásokat és a tartalommoderálási irányelveket. A legtöbb mesterséges intelligencia fejlesztő, beleértve az OpenAI-t a ChatGPT-vel, szigorú intézkedéseket tesz az ilyen szivárgások megakadályozására.

Wallarm egy február 1-i blogbejegyzésében kijelentette, hogy a jailbreak módszere elfogult mesterséges intelligencia-válasz logikát használt ki, bár a vállalat elhallgatott bizonyos technikai részleteket a felelősségteljes közzétételi politikák miatt. A DeepSeeket értesítették a problémáról, és azóta bevezetett egy javítást. A Wallarm azonban közzétette a teljes rendszerkérdést, lehetővé téve a biztonsági szakértők számára a DeepSeek működési keretének elemzését.

Ez a kinyilatkoztatás vitákat váltott ki a következőkről:

• Az AI adatvédelmi intézkedések és a DeepSeek milyen hatékonyan védi a felhasználói adatokat.
• Lehetséges torzítások a DeepSeek képzésében, különösen, ha figyelembe vesszük azokat az állításokat, amelyek szerint OpenAI-adatokat használt a képzéshez.
• Szabályozási korlátok , amelyek befolyásolhatják az AI-modell működését, különösen Kínában, ahol az AI-tartalom szigorú ellenőrzés alatt áll.

Az OpenAI lehetséges befolyásának vizsgálata érdekében Wallarm összehasonlította a DeepSeek rendszerpromptját a ChatGPT-vel. A ChatGPT elemzése szerint a DeepSeek válaszai a szigorúbb megfelelőségi intézkedésekhez igazodnak, míg az OpenAI megközelítése rugalmasabb és felhasználóközpontúbb.

DDoS-támadások a DeepSeek ellen: Koordinált kibertámadás

Ahogy a DeepSeek népszerűsége nőtt, a nagyszabású elosztott szolgáltatásmegtagadási (DDoS) támadások célpontjává vált. A cég bejelentette, hogy a támadások elsöprő mennyisége miatt le kell tiltania az új felhasználók regisztrációját.

Az NSFocus, a támadásokat figyelő kiberbiztonsági cég szerint a DeepSeek három nagy DDoS-támadáshullámmal szembesült, amelyek az API felületét célozták január 25-én, 26-án és 27-én. Mindegyik támadás körülbelül 35 percig tartott, és súlyosan érintette a DeepSeek platformját. Január 28-án még mindig nem volt elérhető az API felület a folyamatos fennakadások miatt.

A DeepSeek chatrendszert is megtámadták, január 20-án és 25-én DDoS-csapásokat figyeltek meg, amelyek mindegyike körülbelül egy óráig tartott.

DDoS támadási módszerek

Az NSFocus több reflexió alapú támadási technikát azonosított, többek között:

• NTP-reflexiós támadások – A Network Time Protocol (NTP) szerverek kihasználása a támadási forgalom felerősítésére.
• Memcached reflexiós támadások – Rosszul konfigurált Memcached szerverek használata a DeepSeek hatalmas forgalommal való elárasztásához.
• SSDP reflexiós támadások – Az SSDP (Simple Service Discovery Protocol) szolgáltatások megcélzása a hálózati erőforrások túlterhelésére.
• CLDAP reflexiós támadások – A Connection-less Lightweight Directory Access Protocol (CLDAP) kiszolgálók kihasználása a támadások mennyiségének növelése érdekében.

Erősen koordinált támadás

Január 28-án a DeepSeek arról számolt be, hogy a támadók a vállalat mérséklő erőfeszítéseihez igazították módszereiket. A támadások pontossága és koordinációja arra a következtetésre vezette az NSFocust, hogy az elkövetők egy profi, jól szervezett csapat, nem pedig véletlenszerű hackerek.

„A támadó rendkívül magas professzionalizmusról tesz tanúbizonyságot minden támadási lépésben, a célpontok kiválasztásától a támadások időzítéséig és az intenzitás szabályozásáig” – mondta az NSFocus.

A kiberbiztonsági cég elemzése szerint a legfontosabb támadási források az Egyesült Államokból, az Egyesült Királyságból és Ausztráliából származó rendszerek voltak.

Mit jelent ez az AI biztonsága szempontjából?

A DeepSeek incidensek rávilágítanak a generatív mesterséges intelligencia növekvő kiberbiztonsági kockázataira. A jailbreak sebezhetőségétől a célzott kibertámadásokig az AI-szolgáltatások ma már mind a biztonsági kutatók, mind a rosszindulatú szereplők elsődleges célpontjai.

Legfontosabb elvitelek:

1. Az AI jailbreakek továbbra is biztonsági kihívást jelentenek – Még az újabb mesterséges intelligencia modellek, például a DeepSeek is visszafejthetők, hogy felfedjék belső logikájukat.
2. Egyre nőnek az AI-platformok elleni DDoS-támadások – Ahogy az AI-szolgáltatások egyre népszerűbbek, egyre jobban összehangolt kibertámadásokat vonzanak.
3. A mesterséges intelligencia biztonságának gyorsan kell fejlődnie – A fejlesztőknek robusztus biztosítékokat kell bevezetniük az azonnali szivárgások megelőzése és a kiberfenyegetések elleni védekezés érdekében.

Miközben a mesterséges intelligencia továbbra is formálja a digitális tájat, a kiberbiztonsági csapatoknak egy lépéssel előrébb kell maradniuk, hogy biztosítsák az AI-modellek biztonságát és ellenálló képességét a felmerülő fenyegetésekkel szemben.