Čínska umelá inteligencia DeepSeek obmedzuje nové registrácie uprostred kybernetických útokov a rastúcich bezpečnostných obáv

Čínsky startup DeepSeek s umelou inteligenciou sa rýchlo presadil vo svete umelej inteligencie, no s jeho rastúcou popularitou prichádza aj čoraz väčší počet výziev. Spoločnosť nedávno obmedzila registrácie nových používateľov kvôli tomu, čo popisuje ako rozsiahle škodlivé útoky na jej služby. Zatiaľ čo existujúci používatelia môžu naďalej pristupovať k platforme, nové registrácie boli dočasne obmedzené.

Situácia poukazuje na rastúce bezpečnostné hrozby, ktorým čelia platformy AI, a vyvoláva obavy zo širších dôsledkov bezpečnosti AI, súkromia a geopolitického napätia okolo čínskych technologických spoločností.

Kybernetické útoky zamerané na DeepSeek

DeepSeek nezverejnil podrobnosti o povahe týchto útokov, ale odborníci na kybernetickú bezpečnosť sa domnievajú, že by mohli byť kombináciou útokov distribuovaného odmietnutia služby (DDoS), systémových rýchlych extrakcií a pokusov o útek z väzenia, ktorých cieľom je obísť obmedzenia obsahu alebo manipulovať so správaním AI.

Podľa Stuarta Millara, hlavného inžiniera AI v Rapid7, by útočníci mohli testovať odpovede DeepSeek na citlivé otázky, pokúšať sa extrahovať systémové výzvy alebo sa pokúšať zmeniť fungovanie AI. Úspešná okamžitá extrakcia systému by mohla odhaliť proprietárne pokyny a potenciálne vystaviť zraniteľnosť AI ďalšiemu zneužitiu.

Výskumník v oblasti kybernetickej bezpečnosti Erich Kron z KnowBe4 poukázal na to, že takéto útoky môžu byť motivované rôznymi faktormi:

• Vydieranie – Útočníci môžu požadovať platby výkupného výmenou za zastavenie prerušenia.
• Firemná sabotáž – Konkurenti by sa mohli pokúsiť oslabiť reputáciu a postavenie DeepSeek na trhu.
• Ochrana investícií – Subjekty investované do konkurenčných projektov AI môžu považovať DeepSeek za hrozbu a snažiť sa ju podkopať.

Meteorický vzostup DeepSeek vo svete AI

DeepSeek, založený v roku 2023, sa rýchlo umiestnil ako hlavný uchádzač v pretekoch AI. Modely spoločnosti, vrátane DeepSeek-V3, sa dostali na titulky pre svoju schopnosť konkurovať a dokonca prekonať západné modely AI, ako sú GPT od OpenAI a LLaMA od Meta, pričom sú vyškolené za zlomok nákladov.

Jeho aplikácia chatbot pre iOS nedávno raketovo vystrelila na vrchol rebríčkov bezplatných aplikácií Apple v USA a Spojenom kráľovstve a dokonca v popularite prekonala ChatGPT od OpenAI.

Hlavným faktorom úspechu DeepSeek je jeho efektívnosť. Spoločnosť tvrdí, že jej model DeepSeek-V3 vyžaduje výrazne menej GPU hodín v porovnaní s náprotivkami zo Silicon Valley. Vďaka americkým sankciám, ktoré obmedzujú predaj pokročilých čipov AI čínskym firmám, sa táto efektivita stala kritickou konkurenčnou výhodou.

Napriek týmto technologickým prelomom zostáva DeepSeek kontroverzný kvôli svojim politikám cenzúry a potenciálnym rizikám národnej bezpečnosti spojeným s postupmi ukladania údajov.

Bezpečnostné chyby a obavy o súkromie

DeepSeek v minulosti čelil bezpečnostným zraniteľnostiam vrátane zneužitia rýchleho vstrekovania, ktoré objavil bezpečnostný výskumník Johann Rehberger. Táto chyba mohla útočníkom umožniť prevziať používateľské účty pomocou cross-site scripting (XSS) obsahu vloženého do odpovedí generovaných AI.

Okrem toho nedávna správa o hrozbách od Kela zistila, že modely AI DeepSeek sú zraniteľné voči útokom z väzenia, ktoré im umožňujú vytvárať neetický a nezákonný obsah, vrátane:

• Generovanie ransomvérového kódu
• Výroba dezinformácií
• Podrobný návod na výrobu výbušnín a toxínov
• Pokyny na vývoj škodlivého softvéru

Tieto zistenia vyvolávajú vážne etické obavy o tom, ako by sa AI mohla zneužiť, ak by nebola riadne zabezpečená.

Okrem toho zásady ochrany osobných údajov DeepSeek odhaľujú, že používateľské údaje – vrátane informácií o zariadení, sieťových údajov a údajov o platbách – sú uložené na serveroch umiestnených v Číne. To vyvolalo obavy v západných krajinách, najmä v Spojených štátoch, kde americké námorníctvo nedávno odporučilo personálu vyhnúť sa používaniu DeepSeek z dôvodu potenciálnych bezpečnostných a etických rizík.

Taliansky úrad na ochranu údajov tiež začal vyšetrovanie, v ktorom požaduje, aby DeepSeek objasnil, ako zhromažďuje, ukladá a spracúva údaje používateľov. Spoločnosť má 20 dní na to, aby odpovedala na otázky týkajúce sa zdrojov údajov, právnych dôvodov spracovania a toho, či školenie o modeloch AI zahŕňa zoškrabovanie údajov.

Nová rivalita AI uprostred geopolitického napätia

Objavenie sa DeepSeek pridáva nový rozmer globálnemu preteku AI, najmä keď technologické napätie medzi USA a Čínou naďalej eskaluje. Komunita AI si toho všimla, pričom generálny riaditeľ OpenAI Sam Altman označil model uvažovania DeepSeek za „pôsobivý“ a uznal ho za legitímneho konkurenta.

Je zaujímavé, že Jim Fan z NVIDIA poznamenal, že DeepSeek „udržiava pôvodné poslanie OpenAI nažive“ tým, že sa zameriava na otvorený výskum a širokú dostupnosť – vyhlásenie, ktoré jemne kritizuje nedávny posun OpenAI smerom k uzavretým modelom.

Čína medzitým obhajovala svoj postoj k technickým predpisom a tvrdila, že umožňuje globálnym spoločnostiam AI fungovať, pokiaľ budú dodržiavať miestne zákony. Stále však pretrvávajú obavy z toho, ako môžu byť čínske spoločnosti AI ovplyvnené vládnymi nariadeniami, cenzúrnymi politikami a smernicami národnej bezpečnosti.

Kľúčový moment pre bezpečnosť AI

Vzostup DeepSeek dokazuje, že Čína robí vážne pokroky vo vývoji AI, no zároveň podčiarkuje rastúce výzvy v oblasti kybernetickej bezpečnosti, ktorým spoločnosti AI čelia. Či už ide o škodlivé kybernetické útoky, obavy o súkromie alebo geopolitickú kontrolu, cesta DeepSeek poukazuje na komplexnú súhru medzi inováciami AI, bezpečnosťou a globálnou politikou.

Pre používateľov slúžia tieto udalosti ako pripomienka, aby si dávali pozor na platformy AI, ktoré spracúvajú citlivé údaje, najmä tie s nepriehľadnými zásadami ochrany osobných údajov a potenciálnymi bezpečnostnými chybami. Keďže AI sa neustále vyvíja, zabezpečenie robustných opatrení v oblasti kybernetickej bezpečnosti a transparentných dátových postupov bude kľúčové pre spoločnosti, ktoré si chcú udržať dôveru používateľov a globálnu dôveryhodnosť.