DeepSeek AI me bazë në Kinë kufizon regjistrimet e reja mes sulmeve kibernetike dhe shqetësimeve në rritje të sigurisë

Startup kinez i AI DeepSeek ka fituar me shpejtësi tërheqje në botën e inteligjencës artificiale, por me popullaritetin e saj në rritje vjen një grup sfidash në rritje. Kompania kohët e fundit ka kufizuar regjistrimet e përdoruesve të rinj për shkak të asaj që i përshkruan si sulme me qëllim të keq në shkallë të gjerë ndaj shërbimeve të saj. Ndërsa përdoruesit ekzistues mund të vazhdojnë të hyjnë në platformë, regjistrimet e reja janë kufizuar përkohësisht.

Situata nënvizon kërcënimet në rritje të sigurisë me të cilat përballen platformat e AI dhe ngre shqetësime mbi implikimet më të gjera të sigurisë, privatësisë dhe tensioneve gjeopolitike që rrethojnë kompanitë kineze të teknologjisë.

Sulmet kibernetike që synojnë DeepSeek

DeepSeek nuk ka zbuluar specifika në lidhje me natyrën e këtyre sulmeve, por ekspertët e sigurisë kibernetike besojnë se ato mund të jenë një përzierje e sulmeve të shpërndara të mohimit të shërbimit (DDoS), nxjerrjeve të menjëhershme të sistemit dhe përpjekjeve për jailbreak që synojnë anashkalimin e kufizimeve të përmbajtjes ose manipulimin e sjelljes së AI.

Sipas Stuart Millar, inxhinieri kryesor i AI në Rapid7, sulmuesit mund të testojnë përgjigjet e DeepSeek ndaj pyetjeve të ndjeshme, duke u përpjekur të nxjerrin kërkesat e sistemit ose të përpiqen të ndryshojnë mënyrën se si funksionon AI. Një nxjerrje e shpejtë e sistemit të suksesshëm mund të zbulojë udhëzime të pronarit dhe potencialisht të ekspozojë dobësitë e AI ndaj shfrytëzimit të mëtejshëm.

Studiuesi i sigurisë kibernetike Erich Kron nga KnowBe4 vuri në dukje se sulme të tilla mund të motivohen nga faktorë të ndryshëm:

• Zhvatje - Sulmuesit mund të kërkojnë pagesa shpërblimi në këmbim të ndalimit të ndërprerjeve.
• Sabotimi i korporatës – Konkurrentët mund të përpiqen të dobësojnë reputacionin dhe pozicionin e tregut të DeepSeek.
• Mbrojtja e investimeve – Subjektet e investuara në projekte rivale të AI mund ta shohin DeepSeek si një kërcënim dhe të kërkojnë ta minojnë atë.

Ngritja meteorike e DeepSeek në botën e AI

E themeluar në vitin 2023, DeepSeek e ka pozicionuar shpejt veten si një pretendent kryesor në garën e AI. Modelet e kompanisë, duke përfshirë DeepSeek-V3, kanë bërë tituj për aftësinë e tyre për të konkurruar dhe madje tejkaluar modelet perëndimore të AI si GPT e OpenAI dhe LLaMA e Metës, ndërsa janë trajnuar me një pjesë të kostos.

Aplikacioni i tij i chatbot iOS së fundi u ngrit në krye të grafikëve të aplikacioneve falas të Apple në SHBA dhe MB, madje duke tejkaluar në popullaritet ChatGPT të OpenAI.

Një faktor kryesor pas suksesit të DeepSeek është efikasiteti i tij. Kompania pretendon se modeli i saj DeepSeek-V3 kërkon shumë më pak orë GPU në krahasim me homologët e Silicon Valley. Me sanksionet e SHBA-së që kufizojnë shitjen e çipave të avancuar të AI tek firmat kineze, ky efikasitet është bërë një avantazh kritik konkurrues.

Pavarësisht këtyre përparimeve teknologjike, DeepSeek mbetet i diskutueshëm për shkak të politikave të tij të censurës dhe rreziqeve të mundshme të sigurisë kombëtare që lidhen me praktikat e tij të ruajtjes së të dhënave.

Të metat e sigurisë dhe shqetësimet e privatësisë

DeepSeek është përballur me dobësi të sigurisë së kaluar, duke përfshirë një shfrytëzim të menjëhershëm të injektimit të zbuluar nga studiuesi i sigurisë Johann Rehberger. Kjo e metë mund t'i kishte lejuar sulmuesit të merrnin përsipër llogaritë e përdoruesve duke përdorur një ngarkesë të skriptimit ndër-site (XSS) të ngulitur në përgjigjet e gjeneruara nga AI.

Për më tepër, një raport i fundit i inteligjencës së kërcënimeve nga Kela zbuloi se modelet e AI të DeepSeek janë të prekshme ndaj sulmeve të jailbreak-it që u mundësojnë atyre të gjenerojnë përmbajtje joetike dhe të paligjshme, duke përfshirë:

• Gjenerimi i kodit ransomware
• Fabrikim i dezinformatave
• Udhëzues hap pas hapi për prodhimin e eksplozivëve dhe toksinave
• Udhëzime për zhvillimin e malware

Këto gjetje ngrenë shqetësime serioze etike se si mund të keqpërdoret AI nëse nuk sigurohet siç duhet.

Për më tepër, politika e privatësisë së DeepSeek zbulon se të dhënat e përdoruesit - duke përfshirë informacionin e pajisjes, detajet e rrjetit dhe të dhënat e pagesave - ruhen në serverë të vendosur në Kinë. Kjo ka shkaktuar shqetësime në vendet perëndimore, veçanërisht në Shtetet e Bashkuara, ku Marina e SHBA kohët e fundit këshilloi personelin që të shmangte përdorimin e DeepSeek për shkak të rreziqeve të mundshme të sigurisë dhe etikës.

Autoriteti italian i mbrojtjes së të dhënave ka nisur gjithashtu një hetim, duke kërkuar që DeepSeek të sqarojë se si mbledh, ruan dhe përpunon të dhënat e përdoruesve. Kompania ka 20 ditë për t'iu përgjigjur pyetjeve në lidhje me burimet e të dhënave, justifikimet ligjore për përpunim dhe nëse trajnimi i modelit të AI përfshin grumbullimin e të dhënave.

Një rivalitet i ri i AI mes tensioneve gjeopolitike

Shfaqja e DeepSeek shton një dimension të ri në garën globale të AI, veçanërisht ndërsa tensionet teknologjike SHBA-Kinë vazhdojnë të përshkallëzohen. Komuniteti i AI ka marrë parasysh, me CEO i OpenAI, Sam Altman, që e quajti modelin e arsyetimit të DeepSeek "mbresëlënës" dhe duke e pranuar atë si një konkurrent legjitim.

Është interesante që Jim Fan i NVIDIA-s vuri në dukje se DeepSeek po "po mban gjallë misionin origjinal të OpenAI" duke u fokusuar në kërkime të hapura dhe akses të gjerë - një deklaratë që kritikon në mënyrë delikate zhvendosjen e fundit të OpenAI drejt modeleve me burim të mbyllur.

Ndërkohë, Kina ka mbrojtur qëndrimin e saj ndaj rregulloreve të teknologjisë, duke pohuar se i lejon kompanitë globale të AI të operojnë për sa kohë që ndjekin ligjet lokale. Megjithatë, mbeten shqetësime se si kompanitë kineze të AI mund të ndikohen nga rregulloret e qeverisë, politikat e censurës dhe direktivat e sigurisë kombëtare.

Një moment kyç për sigurinë e AI

Rritja e DeepSeek tregon se Kina po bën përparime serioze në zhvillimin e AI, por gjithashtu nënvizon sfidat në rritje të sigurisë kibernetike me të cilat përballen kompanitë e AI. Pavarësisht nëse janë sulme kibernetike keqdashëse, shqetësime për privatësinë, apo shqyrtim gjeopolitik, udhëtimi i DeepSeek thekson ndërveprimin kompleks midis inovacionit të AI, sigurisë dhe politikës globale.

Për përdoruesit, këto ngjarje shërbejnë si një kujtesë për të qenë të kujdesshëm në lidhje me platformat e AI që trajtojnë të dhëna të ndjeshme, veçanërisht ato me politika të errëta të privatësisë dhe dobësi të mundshme të sigurisë. Ndërsa AI vazhdon të evoluojë, sigurimi i masave të forta të sigurisë kibernetike dhe praktikave transparente të të dhënave do të jetë thelbësore për kompanitë që kërkojnë të ruajnë besimin e përdoruesve dhe besueshmërinë globale.