A kínai alapú DeepSeek AI korlátozza az új regisztrációkat a kibertámadások és a növekvő biztonsági aggályok közepette

A kínai DeepSeek mesterséges intelligencia induló vállalkozás gyorsan hódított a mesterséges intelligencia világában, de növekvő népszerűsége egyre több kihívással jár. A cég a közelmúltban korlátozta az új felhasználók regisztrációját a szolgáltatásait ért nagyszabású rosszindulatú támadások miatt. Míg a meglévő felhasználók továbbra is hozzáférhetnek a platformhoz, az új regisztrációkat átmenetileg korlátoztuk.

A helyzet rávilágít az AI-platformok növekvő biztonsági fenyegetésére, és aggodalmakat vet fel a mesterséges intelligencia biztonságának, a magánéletnek és a kínai technológiai vállalatokat körülvevő geopolitikai feszültségeknek a szélesebb körű következményei miatt.

A DeepSeeket célzó kibertámadások

A DeepSeek nem árult el konkrétumokat ezeknek a támadásoknak a természetéről, de a kiberbiztonsági szakértők úgy vélik, hogy ezek az elosztott szolgáltatásmegtagadási (DDoS) támadások, a rendszerkérdések kivonatolása és a tartalomkorlátozások megkerülésére vagy az AI viselkedésének manipulálására irányuló jailbreak kísérletek keverékei lehetnek.

Stuart Millar, a Rapid7 vezető mesterséges intelligencia mérnöke szerint a támadók tesztelhetik a DeepSeek kényes kérdésekre adott válaszait, megpróbálhatják kivonatolni a rendszert, vagy megpróbálhatják megváltoztatni az AI működését. A sikeres rendszerkérdés kibontása felfedheti a védett utasításokat, és potenciálisan további kizsákmányolásnak teheti ki az AI sebezhetőségét.

Erich Kron, a KnowBe4 kiberbiztonsági kutatója rámutatott, hogy az ilyen támadásokat különböző tényezők motiválhatják:

• Zsarolás – A támadók váltságdíjat követelhetnek a zavarok leállításáért cserébe.
• Vállalati szabotázs – A versenytársak megkísérelhetik gyengíteni a DeepSeek hírnevét és piaci pozícióját.
• Befektetésvédelem – A rivális mesterségesintelligencia-projektekbe beruházó entitások fenyegetésnek tekinthetik a DeepSeeket, és megpróbálhatják aláásni azt.

A DeepSeek meteorikus emelkedése a mesterséges intelligencia világában

A 2023-ban alapított DeepSeek gyorsan a mesterséges intelligencia versenyének egyik fő versenyzője lett. A cég modelljei – köztük a DeepSeek-V3 – címlapra kerültek arról, hogy képesek felvenni a versenyt a nyugati mesterséges intelligencia modellekkel, sőt felülmúlják azokat, mint például az OpenAI GPT és a Meta LLaMA, miközben a költségek töredékéért képezik őket.

iOS chatbot-alkalmazása a közelmúltban az egekbe szökött az Apple ingyenes alkalmazások listájának élére az Egyesült Államokban és Nagy-Britanniában, népszerűségében még az OpenAI ChatGPT-jét is megelőzve.

A DeepSeek sikerének egyik fő tényezője a hatékonysága. A cég azt állítja, hogy a DeepSeek-V3 modellje lényegesen kevesebb GPU-órát igényel a Szilícium-völgyi társaihoz képest. Mivel az Egyesült Államok szankciói korlátozzák a fejlett mesterséges intelligencia chipek kínai cégek számára történő értékesítését, ez a hatékonyság kritikus versenyelőnyvé vált.

A technológiai áttörések ellenére a DeepSeek továbbra is ellentmondásos a cenzúrapolitikája és az adattárolási gyakorlatával kapcsolatos potenciális nemzetbiztonsági kockázatok miatt.

Biztonsági hibák és adatvédelmi aggályok

A DeepSeek korábbi biztonsági résekkel szembesült, beleértve a Johann Rehberger biztonsági kutató által felfedezett azonnali behatolást. Ez a hiba lehetővé tehette a támadók számára, hogy átvegyék a felhasználói fiókokat a mesterséges intelligencia által generált válaszokba ágyazott XSS (cross-site scripting) rakomány segítségével.

Ezenkívül a Kela egy közelmúltbeli fenyegetés-felderítési jelentése megállapította, hogy a DeepSeek mesterséges intelligencia modelljei ki vannak téve a jailbreak támadásoknak, amelyek lehetővé teszik számukra, hogy etikátlan és illegális tartalmat hozzanak létre, beleértve:

• Ransomware kód generálása
• Dezinformáció gyártása
• Lépésről lépésre útmutatók robbanóanyagok és méreganyagok készítéséhez
• Malware fejlesztési utasítások

Ezek a megállapítások komoly etikai aggályokat vetnek fel azzal kapcsolatban, hogy miként lehet visszaélni az MI-vel, ha nincs megfelelően biztosítva.

Ezenkívül a DeepSeek adatvédelmi szabályzata feltárja, hogy a felhasználói adatokat – beleértve az eszközinformációkat, a hálózati adatokat és a fizetési adatokat – Kínában található szervereken tárolják. Ez aggodalmakat váltott ki a nyugati országokban, különösen az Egyesült Államokban, ahol az amerikai haditengerészet nemrégiben azt tanácsolta a személyzetnek, hogy az esetleges biztonsági és etikai kockázatok miatt kerüljék a DeepSeek használatát.

Az olasz adatvédelmi hatóság is vizsgálatot indított, és azt követeli, hogy a DeepSeek tisztázza, hogyan gyűjti, tárolja és dolgozza fel a felhasználói adatokat. A vállalatnak 20 napja van arra, hogy válaszoljon az adatforrásokkal, a feldolgozás jogi indokaival kapcsolatos kérdésekre, valamint arra, hogy az AI-modell képzése magában foglalja-e az adatok lekaparását.

Új mesterséges intelligencia rivalizálás a geopolitikai feszültségek közepette

A DeepSeek megjelenése új dimenziót ad a globális mesterségesintelligencia-versenynek, különösen az Egyesült Államok és Kína közötti technológiai feszültségek tovább fokozódása miatt. Az AI közösség felfigyelt rá, az OpenAI vezérigazgatója, Sam Altman „lenyűgözőnek” nevezte a DeepSeek érvelési modelljét, és legitim versenytársnak ismerte el.

Érdekes módon az NVIDIA-s Jim Fan megjegyezte, hogy a DeepSeek „életben tartja az OpenAI eredeti küldetését” a nyílt kutatásra és a széles körű hozzáférhetőségre összpontosítva – ez a kijelentés finoman bírálja az OpenAI közelmúltbeli elmozdulását a zárt forráskódú modellek felé.

Kína eközben megvédte álláspontját a technológiai szabályozással kapcsolatban, és kijelentette, hogy ez lehetővé teszi a globális mesterségesintelligencia-cégek működését mindaddig, amíg betartják a helyi törvényeket. Továbbra is aggodalomra ad okot azonban, hogy a kínai mesterséges intelligencia vállalatokat hogyan befolyásolhatják a kormányzati szabályozások, a cenzúrapolitikák és a nemzetbiztonsági irányelvek.

A mesterséges intelligencia biztonságának sarkalatos pillanata

A DeepSeek felemelkedése azt mutatja, hogy Kína komoly előrelépéseket tesz a mesterséges intelligencia fejlesztésében, de rámutat a mesterséges intelligencia vállalatok előtt álló növekvő kiberbiztonsági kihívásokra is. Legyen szó rosszindulatú kibertámadásokról, adatvédelmi aggályokról vagy geopolitikai vizsgálatról, a DeepSeek útja rávilágít az AI innováció, a biztonság és a globális politika összetett kölcsönhatására.

Ezek az események emlékeztetőül szolgálnak a felhasználók számára, hogy legyenek óvatosak az érzékeny adatokat kezelő mesterséges intelligencia platformokkal kapcsolatban, különösen az átláthatatlan adatvédelmi szabályzatokkal és potenciális biztonsági résekkel rendelkezők esetében. Ahogy a mesterséges intelligencia folyamatosan fejlődik, a robusztus kiberbiztonsági intézkedések és az átlátható adatkezelési gyakorlatok biztosítása kulcsfontosságú lesz a felhasználók bizalmának és globális hitelességének megőrzésére törekvő vállalatok számára.