OpenAI blokkeert 20 kwaadaardige cyberoperaties in de strijd tegen wereldwijde cybercriminaliteitscampagnes

Verrassend genoeg is OpenAI een formidabele kracht geworden in de strijd tegen digitale bedreigingen. Sinds het begin van het jaar heeft het bedrijf met succes meer dan 20 kwaadaardige campagnes verstoord die probeerden zijn AI-platform te misbruiken voor schadelijke activiteiten , wat aantoont dat de toekomst van cybersecurity al hier is.

Deze operaties varieerden van het debuggen van malware en het creëren van desinformatie tot het creëren van nep-social media persona's. Dreigingsactoren probeerden het platform van OpenAI te gebruiken om kwaadaardige activiteiten te ondersteunen, zoals het genereren van biografieën voor nepaccounts of het maken van door AI gegenereerde profielfoto's voor nep-social media-identiteiten op X (voorheen Twitter).

Ondanks deze inspanningen verzekerde OpenAI het publiek echter dat geen van deze campagnes leidde tot baanbrekende vooruitgang in het maken van malware of de virale verspreiding van desinformatie. Met andere woorden, hoewel kwaadwillenden experimenteren met AI, moeten ze nog significante doorbraken bereiken.

Hoe cybercriminelen AI misbruikten

De kwaadwillende actoren kwamen uit alle hoeken van de wereld, van China tot Iran, en gebruikten verschillende tactieken. Een prominent voorbeeld was SweetSpecter, een in China gevestigde groep die AI gebruikte voor verkenning en kwetsbaarheidsonderzoek, en zelfs (zonder succes) probeerde OpenAI-medewerkers te spearfishen.

Iraanse groepen speelden ook een opmerkelijke rol. De Cyber Av3ngers, gelinkt aan de Iraanse Islamitische Revolutionaire Garde (IRGC), onderzochten programmeerbare logische controllers met behulp van AI, terwijl een andere Iraanse entiteit, Storm-0817, AI gebruikte om Android-malware te debuggen en sociale mediaprofielen te scrapen.

Naast deze gerichte campagnes blokkeerde OpenAI verschillende grootschalige beïnvloedingsoperaties. Een daarvan, A2Z, genereerde Engelstalige en Franstalige content voor wijdverspreide social media-posting, terwijl Stop News AI-gegenereerde beelden, vaak in cartooneske of dramatische stijlen, gebruikte om hun artikelen en tweets te verbeteren.

Het verstoren van wereldwijde desinformatiecampagnes

Desinformatiecampagnes gericht op politieke systemen waren een ander punt van zorg. OpenAI meldde dat het tussenbeide kwam in pogingen om verkiezingen te beïnvloeden in de VS, Rwanda, India en de Europese Unie. Geen van deze inspanningen bereikte virale tractie, maar het feit dat dreigingsactoren verkiezingen probeerden te manipuleren, onderstreept de toenemende risico's die AI-gestuurde desinformatie met zich meebrengt.

STOIC, een Israëlisch bedrijf dat ook bekendstaat als Zero Zeno, was een van de belangrijkste spelers in deze sector en genereerde reacties op sociale media over de Indiase verkiezingen. Deze activiteit was eerder dit jaar al door Meta en OpenAI bekendgemaakt.

Dankzij de voortdurende waakzaamheid van OpenAI werden ook twee andere netwerken ontdekt: Bet Bot en Corrupt Comment. Deze netwerken gebruikten hun API om gesprekken op X te genereren en gebruikers te koppelen aan goksites of om sociale media te overspoelen met gefabriceerde opmerkingen.

De rol van AI in microgerichte desinformatie

Generatieve AI kan niet alleen worden gebruikt als wapen voor massale desinformatie, maar ook voor microtargeting. Volgens een recent rapport van cybersecuritybedrijf Sophos kan AI worden gemanipuleerd om zeer gepersonaliseerde politieke desinformatie te verspreiden via e-mails, websites en neppersona's. Door berichten zorgvuldig af te stemmen op specifieke campagnepunten, kunnen dreigingsactoren kiezers op een nieuw niveau misleiden, waardoor verkiezingsuitslagen mogelijk worden gewijzigd of meningen worden beïnvloed met valse informatie.

Onderzoekers waarschuwen dat het verontrustend eenvoudig is om een politieke figuur of beweging te associëren met een beleidsstandpunt dat hij of zij in werkelijkheid niet steunt. Dit zaait verwarring onder kiezers en schaadt het democratische proces.

OpenAI's toewijding aan cyberbeveiliging

Hoewel AI ongekende kansen biedt voor vooruitgang, brengt het ook serieuze beveiligingsuitdagingen met zich mee. OpenAI heeft bewezen dat het de taak aankan om kwaadaardige pogingen om zijn technologie te exploiteren tegen te gaan. Het kat-en-muisspel tussen cybersecurity-experts en cybercriminelen zal echter waarschijnlijk doorgaan.

De inspanningen van OpenAI om dit jaar meer dan 20 wereldwijde campagnes te verstoren, zijn een belangrijke overwinning, maar de strijd is nog lang niet voorbij. Naarmate AI evolueert, zullen ook de tactieken die door dreigingsactoren worden gebruikt, evolueren. Continue waakzaamheid en innovatie zullen van cruciaal belang zijn om ervoor te zorgen dat AI een kracht voor het goede blijft, in plaats van een hulpmiddel voor digitale misleiding.