OpenAI блокира 20 злонамерени кибер операции, борейки се срещу глобалните кампании за киберпрестъпления
Изненадващо, OpenAI се очерта като страхотна сила в битката срещу цифровите заплахи. От началото на годината компанията успешно прекъсна повече от 20 злонамерени кампании, които се опитваха да използват нейната AI платформа за вредни дейности , демонстрирайки, че бъдещето на киберсигурността вече е тук.
Тези операции варираха от отстраняване на грешки в зловреден софтуер и създаване на дезинформация до създаване на фалшиви персони в социалните медии. Актьорите на заплахи се опитаха да използват платформата на OpenAI, за да помогнат при злонамерени дейности като генериране на биографии за фалшиви акаунти или създаване на генерирани от AI профилни снимки за фалшиви самоличности в социалните медии на X (бивш Twitter).
Въпреки тези усилия обаче OpenAI увери обществеността, че нито една от тези кампании не е довела до новаторски напредък в създаването на зловреден софтуер или вирусното разпространение на дезинформация. С други думи, докато лошите актьори експериментират с AI, те все още не са постигнали значителни пробиви.
Съдържание
Как киберпрестъпниците експлоатираха AI
Злонамерените участници идваха от всички краища на света, от Китай до Иран, и използваха различни тактики. Един изявен пример беше SweetSpecter, базирана в Китай група, която използва AI за разузнаване и изследване на уязвимости и дори се опита (неуспешно) да фишне служители на OpenAI.
Иранските групи също изиграха забележителна роля. Cyber Av3ngers, свързани с Иранския корпус на гвардейците на ислямската революция (IRGC), изследваха програмируеми логически контролери, използвайки AI, докато друго иранско образувание, Storm-0817, използва AI за отстраняване на грешки в зловреден софтуер на Android и изтриване на профили в социални медии.
В допълнение към тези целеви кампании OpenAI блокира няколко мащабни операции за влияние. Един от тях, A2Z, генерира английско и френско съдържание за широко разпространено публикуване в социалните медии, докато Stop News използва генерирани от AI изображения, често в карикатурен или драматичен стил, за да подобри своите статии и туитове.
Прекъсване на глобални кампании за дезинформация
Кампаниите за дезинформация, насочени към политическите системи, бяха друга област, която предизвиква безпокойство. OpenAI съобщи, че се е намесила в опитите за влияние върху изборите в САЩ, Руанда, Индия и Европейския съюз. Нито едно от тези усилия не постигна вирусна сила, но фактът, че участниците в заплахата се опитаха да манипулират изборите, подчертава нарастващите рискове, породени от дезинформацията, управлявана от AI.
STOIC, израелска компания, известна още като Zero Zeno, беше сред ключовите играчи в това пространство, генерирайки коментари в социалните медии за индийските избори, дейност, която преди това беше разкрита от Meta и OpenAI по-рано тази година.
Продължаващата бдителност на OpenAI също така доведе до откриването на две други мрежи, Bet Bot и Corrupt Comment, които използваха своя API, за да генерират разговори на X и да свързват потребителите със сайтове за хазарт или да наводнят социалните медии с измислени коментари.
Ролята на AI в микронасочената дезинформация
Генеративният AI има потенциала да бъде въоръжен не само за масова дезинформация, но и за микронасочване. Според неотдавнашен доклад на фирмата за киберсигурност Sophos, AI може да бъде манипулиран, за да разпространява силно персонализирана политическа дезинформация чрез имейли, уебсайтове и фалшиви личности. Чрез внимателно приспособяване на посланията към конкретни точки на кампанията, участниците в заплахите могат да измамят избирателите на ново ниво, евентуално да променят изборните резултати или да променят мненията с невярна информация.
Изследователите предупреждават, че е обезпокоително лесно да се свърже която и да е политическа фигура или движение с политическа позиция, която те всъщност може да не подкрепят, което всява объркване сред избирателите и вреди на демократичния процес.
Ангажиментът на OpenAI към киберсигурността
Въпреки че AI предлага безпрецедентни възможности за напредък, той също така представлява сериозни предизвикателства пред сигурността. OpenAI доказа, че се справя със задачата да противодейства на злонамерени опити за използване на неговата технология. Въпреки това играта на котка и мишка между експертите по киберсигурност и киберпрестъпниците вероятно ще продължи.
Усилията на OpenAI да прекъсне над 20 глобални кампании тази година отбелязват значителна победа, но битката далеч не е приключила. С развитието на ИИ ще се развиват и тактиките, използвани от заплахите. Постоянната бдителност и иновациите ще бъдат от ключово значение, за да се гарантира, че AI остава сила за добро, а не инструмент за цифрова измама.