OpenAI blokira 20 zlonamjernih cyber operacija u borbi protiv globalnih kampanja cyber kriminala
Iznenađujuće, OpenAI se pojavio kao ogromna sila u borbi protiv digitalnih prijetnji. Od početka godine tvrtka je uspješno prekinula više od 20 zlonamjernih kampanja koje su nastojale iskoristiti njezinu AI platformu za štetne aktivnosti , pokazujući da je budućnost kibernetičke sigurnosti već ovdje.
Te su operacije bile u rasponu od otklanjanja pogrešaka zlonamjernog softvera i izrade dezinformacija do stvaranja lažnih osoba na društvenim mrežama. Akteri prijetnji pokušali su iskoristiti OpenAI-jevu platformu za pomoć u zlonamjernim aktivnostima kao što je generiranje biografija za lažne račune ili stvaranje profilnih slika koje je generirala umjetna inteligencija za lažne identitete društvenih medija na X-u (bivši Twitter).
Međutim, unatoč tim naporima, OpenAI je uvjerio javnost da niti jedna od ovih kampanja nije dovela do revolucionarnog napretka u stvaranju zlonamjernog softvera ili viralnog širenja dezinformacija. Drugim riječima, iako loši glumci eksperimentiraju s umjetnom inteligencijom, tek trebaju postići značajan napredak.
Sadržaj
Kako su kibernetički kriminalci iskorištavali AI
Zlonamjerni akteri dolazili su sa svih strana svijeta, od Kine do Irana, i koristili su razne taktike. Jedan istaknuti primjer bio je SweetSpecter, grupa sa sjedištem u Kini koja je koristila umjetnu inteligenciju za izviđanje i istraživanje ranjivosti, pa je čak pokušala (neuspješno) varati zaposlenike OpenAI-ja.
Iranske skupine također su igrale značajnu ulogu. Cyber Av3ngers, povezani s Korpusom iranske islamske revolucionarne garde (IRGC), istraživali su programibilne logičke kontrolere koristeći AI, dok je drugi iranski entitet, Storm-0817, koristio AI za otklanjanje pogrešaka Android zlonamjernog softvera i struganje profila društvenih medija.
Osim ovih ciljanih kampanja, OpenAI je blokirao nekoliko velikih operacija utjecaja. Jedan od njih, A2Z, generirao je sadržaj na engleskom i francuskom za raširenu objavu na društvenim mrežama, dok je Stop News koristio slike generirane umjetnom inteligencijom, često u crtanom ili dramatičnom stilu, kako bi poboljšao svoje članke i tweetove.
Ometanje globalnih kampanja dezinformiranja
Kampanje dezinformiranja usmjerene na političke sustave bile su još jedno područje zabrinutosti. OpenAI je izvijestio da je intervenirao u pokušajima utjecaja na izbore u SAD-u, Ruandi, Indiji i Europskoj uniji. Nijedan od ovih pokušaja nije postigao virusnu privlačnost, ali činjenica da su akteri prijetnji nastojali manipulirati izborima naglašava sve veće rizike koje predstavljaju dezinformacije potaknute umjetnom inteligencijom.
STOIC, izraelska tvrtka također poznata kao Zero Zeno, bila je među ključnim igračima u ovom prostoru, generirajući komentare na društvenim mrežama o indijskim izborima, što je aktivnost koju su ranije ove godine otkrili Meta i OpenAI.
Stalna opreznost OpenAI-ja također je dovela do otkrića dviju drugih mreža, Bet Bot i Corrupt Comment, koje su koristile svoj API za generiranje razgovora na X-u i povezivale korisnike sa stranicama za kockanje ili preplavljivale društvene medije izmišljenim komentarima.
Uloga umjetne inteligencije u mikrociljanim dezinformacijama
Generativna umjetna inteligencija ima potencijal da postane oružje ne samo za dezinformiranje masovnih razmjera, već i za mikrociljanje. Prema nedavnom izvješću tvrtke za kibernetičku sigurnost Sophos, AI se može manipulirati za širenje visoko personaliziranih političkih dezinformacija putem e-pošte, web stranica i lažnih osoba. Pažljivim prilagođavanjem poruka određenim točkama kampanje akteri prijetnji mogu prevariti birače na novoj razini, moguće mijenjajući rezultate izbora ili mijenjajući mišljenja lažnim informacijama.
Istraživači upozoravaju da je uznemirujuće lako povezati bilo koju političku figuru ili pokret s političkim stavom koji oni možda zapravo ne podržavaju, sijući zbunjenost među glasačima i oštećujući demokratski proces.
OpenAI-jeva posvećenost kibernetičkoj sigurnosti
Dok umjetna inteligencija nudi neviđene mogućnosti za napredak, ona također predstavlja ozbiljne sigurnosne izazove. OpenAI je dokazao da je dorastao zadatku suprotstavljanja zlonamjernim pokušajima iskorištavanja njegove tehnologije. Međutim, igra mačke i miša između stručnjaka za kibernetičku sigurnost i kibernetičkih kriminalaca vjerojatno će se nastaviti.
Napori OpenAI-ja da prekine više od 20 globalnih kampanja ove godine označavaju značajnu pobjedu, ali borba je daleko od kraja. Kako se AI razvija, razvijat će se i taktike koje koriste prijetnje. Stalna budnost i inovacije bit će ključni u osiguravanju da umjetna inteligencija ostane snaga dobra, a ne alat za digitalnu prijevaru.