Кинески ДеепСеек АИ ограничава нове пријаве усред сајбер напада и растуће забринутости за безбедност

Кинески АИ стартуп ДеепСеек је брзо стекао популарност у свету вештачке интелигенције, али са његовом растућом популарношћу долази и све већи низ изазова. Компанија је недавно ограничила регистрацију нових корисника због онога што описује као злонамерне нападе великих размера на своје услуге. Док постојећи корисници могу да наставе да приступају платформи, нове регистрације су привремено ограничене.

Ситуација наглашава све веће безбедносне претње са којима се суочавају АИ платформе и изазива забринутост због ширих импликација АИ безбедности, приватности и геополитичких тензија око кинеских технолошких компанија.

Сајбер напади који циљају ДеепСеек

ДеепСеек није открио детаље о природи ових напада, али стручњаци за сајбер безбедност верују да би они могли бити мешавина дистрибуираних напада ускраћивања услуге (ДДоС), брзих екстракција система и покушаја бекства из затвора са циљем да се заобиђу ограничења садржаја или манипулишу понашањем вештачке интелигенције.

Према Стјуарту Милару, главном инжењеру вештачке интелигенције у Рапид7, нападачи би могли да тестирају одговоре ДеепСеека на осетљива питања, покушавају да извуку системске упите или покушавају да промене начин на који АИ функционише. Успешна брза екстракција система могла би открити власничка упутства и потенцијално изложити рањивости вештачке интелигенције даљој експлоатацији.

Истраживач сајбер безбедности Ерих Крон из КновБе4 истакао је да такви напади могу бити мотивисани различитим факторима:

• Изнуда – Нападачи могу тражити откупнину у замену за заустављање поремећаја.
• Корпоративна саботажа – Конкуренти би могли да покушају да ослабе репутацију и тржишну позицију ДеепСеек-а.
• Заштита инвестиција – Субјекти уложени у конкурентске АИ пројекте могу видети ДеепСеек као претњу и настојати да је поткопају.

Метеорски успон ДеепСеека у свету вештачке интелигенције

Основан 2023. године, ДеепСеек се брзо позиционирао као главни кандидат у трци АИ. Модели компаније, укључујући ДеепСеек-В3, доспели су на насловне стране због своје способности да се такмиче, па чак и да надмаше, западним АИ моделима као што су ОпенАИ ГПТ и Мета-ов ЛЛаМА, док су били обучени уз делић цене.

Његова иОС апликација за ћаскање недавно је скочила на врх Аппле-ових листа бесплатних апликација у САД-у и Великој Британији, чак и премашивши ОпенАИ ЦхатГПТ по популарности.

Главни фактор иза успеха ДеепСеек-а је његова ефикасност. Компанија тврди да њен ДеепСеек-В3 модел захтева знатно мање ГПУ сати у поређењу са колегама из Силиконске долине. Са америчким санкцијама које ограничавају продају напредних АИ чипова кинеским фирмама, ова ефикасност је постала критична конкурентска предност.

Упркос овим технолошким открићима, ДеепСеек остаје контроверзан због политике цензуре и потенцијалних ризика за националну безбедност повезаних са његовом праксом складиштења података.

Безбедносне грешке и забринутост за приватност

ДеепСеек се суочио са претходним безбедносним рањивостима , укључујући експлоатацију брзог убризгавања коју је открио истраживач безбедности Јохан Рехбергер. Ова мана је могла да омогући нападачима да преузму корисничке налоге користећи скриптовање на више локација (КССС) уграђено у одговоре генерисане вештачком интелигенцијом.

Поред тога, недавни Кела-ов извештај обавештајних података о претњама открио је да су ДеепСеек-ови АИ модели рањиви на нападе бекства из затвора који им омогућавају да генеришу неетички и незаконит садржај, укључујући:

• Генерисање кода за рансомваре
• Измишљање дезинформација
• Корак по корак водичи за прављење експлозива и токсина
• Упутства за развој злонамерног софтвера

Ови налази изазивају озбиљну етичку забринутост о томе како би АИ могла бити злоупотребљена ако није правилно обезбеђена.

Штавише, политика приватности ДеепСеек-а открива да се кориснички подаци — укључујући информације о уређају, мрежни детаљи и податке о плаћању — чувају на серверима који се налазе у Кини. Ово је изазвало забринутост у западним земљама, посебно у Сједињеним Државама, где је америчка морнарица недавно саветовала особље да избегава коришћење ДеепСеек-а због потенцијалних безбедносних и етичких ризика.

Италијанско тело за заштиту података такође је покренуло истрагу, захтевајући да ДеепСеек појасни како прикупља, чува и обрађује корисничке податке. Компанија има 20 дана да одговори на питања у вези са изворима података, правним оправдањима за обраду и да ли обука за АИ модел укључује сцрапинг података.

Ново АИ ривалство усред геополитичких тензија

Појава ДеепСеека додаје нову димензију глобалној трци вештачке интелигенције, посебно пошто технолошке тензије између САД и Кине настављају да ескалирају. Заједница вештачке интелигенције је приметила, а извршни директор ОпенАИ Сем Алтман је назвао ДеепСееков модел резоновања „импресивним“ и признао га као легитимног конкурента.

Занимљиво је да је НВИДИА-ин Јим Фан приметио да ДеепСеек „одржава оригиналну мисију ОпенАИ-ја живом“ фокусирајући се на отворено истраживање и широку доступност – изјава која суптилно критикује недавни помак ОпенАИ-а ка моделима затвореног кода.

Кина је у међувремену бранила свој став о техничким прописима, тврдећи да дозвољава глобалним АИ компанијама да раде све док поштују локалне законе. Међутим, остаје забринутост око тога како би кинеске компаније са вештачком интелигенцијом могле бити под утицајем владиних прописа, политике цензуре и директива националне безбедности.

Кључни тренутак за безбедност вештачке интелигенције

Успон ДеепСеека показује да Кина прави озбиљне кораке у развоју вештачке интелигенције, али такође наглашава растуће изазове сајбер безбедности са којима се компаније АИ суочавају. Било да се ради о злонамерним сајбер нападима, забринутости за приватност или геополитичком надзору, ДеепСеек-ово путовање истиче сложену интеракцију између иновација вештачке интелигенције, безбедности и глобалне политике.

За кориснике, ови догађаји служе као подсетник да буду опрезни у вези са АИ платформама које рукују осетљивим подацима, посебно онима са непрозирном политиком приватности и потенцијалним безбедносним рањивостима. Како вештачка интелигенција наставља да се развија, обезбеђивање робусних мера сајбер безбедности и транспарентне праксе података биће од кључне важности за компаније које желе да одрже поверење корисника и глобални кредибилитет.