Базираният в Китай DeepSeek AI ограничава нови регистрации на фона на кибератаки и нарастващи опасения за сигурността

Китайската стартираща компания за изкуствен интелект DeepSeek бързо набра популярност в света на изкуствения интелект, но с нарастващата популярност идва и нарастващ набор от предизвикателства. Компанията наскоро ограничи регистрациите на нови потребители поради това, което описва като мащабни злонамерени атаки срещу нейните услуги. Докато съществуващите потребители могат да продължат да имат достъп до платформата, новите регистрации са временно ограничени.

Ситуацията подчертава нарастващите заплахи за сигурността, пред които са изправени платформите за ИИ, и поражда опасения относно по-широките последици от сигурността на ИИ, поверителността и геополитическото напрежение около китайските технологични компании.

Кибератаки, насочени към DeepSeek

DeepSeek не разкрива подробности за естеството на тези атаки, но експертите по киберсигурност смятат, че те могат да бъдат комбинация от разпределени атаки за отказ на услуга (DDoS), извличане на системни подкани и опити за джейлбрейк, насочени към заобикаляне на ограниченията за съдържание или манипулиране на поведението на AI.

Според Стюарт Милар, главен AI инженер в Rapid7, нападателите може да тестват отговорите на DeepSeek на чувствителни въпроси, опитвайки се да извлекат системни подкани или да променят начина, по който работи AI. Успешното бързо извличане на системата може да разкрие патентовани инструкции и потенциално да изложи уязвимостите на AI на по-нататъшна експлоатация.

Изследователят по киберсигурност Ерих Крон от KnowBe4 посочи, че подобни атаки могат да бъдат мотивирани от различни фактори:

• Изнудване – Нападателите може да поискат плащания на откуп в замяна на спиране на прекъсванията.
• Корпоративен саботаж – Конкурентите могат да се опитат да отслабят репутацията и пазарната позиция на DeepSeek.
• Защита на инвестициите – Субектите, инвестирани в конкурентни AI проекти, могат да видят DeepSeek като заплаха и да се стремят да я подкопаят.

Метеоритният възход на DeepSeek в света на ИИ

Основана през 2023 г., DeepSeek бързо се позиционира като основен претендент в надпреварата за AI. Моделите на компанията, включително DeepSeek-V3, направиха заглавия за способността си да се конкурират и дори да надминат западните AI модели като GPT на OpenAI и LLaMA на Meta, докато се обучават на малка цена.

Неговото приложение за чатбот за iOS наскоро се изкачи до върха на класациите за безплатни приложения на Apple в САЩ и Обединеното кралство, като дори надмина по популярност ChatGPT на OpenAI.

Основен фактор за успеха на DeepSeek е неговата ефективност. Компанията твърди, че нейният модел DeepSeek-V3 изисква значително по-малко GPU часове в сравнение с колегите от Силиконовата долина. Със санкциите на САЩ, ограничаващи продажбата на усъвършенствани AI чипове на китайски фирми, тази ефективност се превърна в критично конкурентно предимство.

Въпреки тези технологични пробиви, DeepSeek остава противоречив поради политиките си за цензура и потенциалните рискове за националната сигурност, свързани с неговите практики за съхранение на данни.

Пропуски в сигурността и проблеми с поверителността

DeepSeek се сблъска с минали уязвимости в сигурността , включително експлойт за бързо инжектиране, открит от изследователя по сигурността Йохан Ребергер. Този пропуск може да е позволил на нападателите да поемат потребителски акаунти, използвайки полезен товар за междусайтови скриптове (XSS), вграден в генерирани от AI отговори.

Освен това, неотдавнашен доклад за разузнаване на заплахите от Kela установи, че моделите на AI на DeepSeek са уязвими на jailbreak атаки, които им позволяват да генерират неетично и незаконно съдържание, включително:

• Генериране на код за рансъмуер
• Фабрициране на дезинформация
• Ръководства стъпка по стъпка за направата на експлозиви и токсини
• Инструкции за разработка на зловреден софтуер

Тези констатации пораждат сериозни етични опасения за това как AI може да бъде злоупотребен, ако не е правилно защитен.

Освен това политиката за поверителност на DeepSeek разкрива, че потребителските данни – включително информация за устройството, подробности за мрежата и данни за плащане – се съхраняват на сървъри, разположени в Китай. Това предизвика опасения в западните страни, особено в Съединените щати, където американският флот наскоро посъветва персонала да избягва използването на DeepSeek поради потенциални рискове за сигурността и етични рискове.

Италианският орган за защита на данните също започна разследване, изисквайки DeepSeek да изясни как събира, съхранява и обработва потребителски данни. Компанията има 20 дни, за да отговори на въпроси относно източниците на данни, правните обосновки за обработката и дали обучението по AI модели включва изчерпване на данни.

Ново съперничество с изкуствен интелект на фона на геополитическото напрежение

Появата на DeepSeek добавя ново измерение към глобалната надпревара с изкуствен интелект, особено когато технологичното напрежение между САЩ и Китай продължава да ескалира. AI общността обърна внимание, като изпълнителният директор на OpenAI Сам Алтман нарече модела на разсъждение на DeepSeek „впечатляващ“ и го призна за законен конкурент.

Интересното е, че Джим Фан от NVIDIA отбеляза, че DeepSeek „поддържа оригиналната мисия на OpenAI жива“, като се фокусира върху отворени изследвания и широка достъпност – изявление, което фино критикува скорошното преминаване на OpenAI към модели със затворен код.

Междувременно Китай защити позицията си по отношение на технологичните регулации, твърдейки, че позволява на глобалните AI компании да работят, стига да спазват местните закони. Въпреки това остават опасенията за това как китайските AI компании могат да бъдат повлияни от правителствени разпоредби, политики за цензура и директиви за национална сигурност.

Ключов момент за AI сигурността

Възходът на DeepSeek показва, че Китай прави сериозни крачки в развитието на ИИ, но също така подчертава нарастващите предизвикателства пред киберсигурността, пред които са изправени компаниите за ИИ. Независимо дали става въпрос за злонамерени кибератаки, опасения за поверителността или геополитически контрол, пътуването на DeepSeek подчертава сложното взаимодействие между иновациите на ИИ, сигурността и глобалната политика.

За потребителите тези събития служат като напомняне да бъдат внимателни относно AI платформи, които обработват чувствителни данни, особено тези с непрозрачни политики за поверителност и потенциални уязвимости в сигурността. Тъй като AI продължава да се развива, осигуряването на стабилни мерки за киберсигурност и прозрачни практики за данни ще бъде от решаващо значение за компаниите, които искат да запазят доверието на потребителите и глобалното доверие.