OpenAI bloqueja 20 ciberoperacions malicioses que lluiten contra les campanyes globals de ciberdelinqüència
Sorprenentment, OpenAI ha sorgit com una força formidable en la batalla contra les amenaces digitals. Des de principis d'any, la companyia ha interromput amb èxit més de 20 campanyes malicioses que pretenien explotar la seva plataforma d'IA per a activitats nocives , demostrant que el futur de la ciberseguretat ja és aquí.
Aquestes operacions van des de la depuració de programari maliciós i l'elaboració de desinformació fins a la creació de persones falses a les xarxes socials. Els actors de l'amenaça van intentar aprofitar la plataforma d'OpenAI per ajudar en activitats malicioses com la generació de biografies per a comptes falsos o la creació d'imatges de perfil generades per IA per a identitats falses de xarxes socials a X (anteriorment Twitter).
Tanmateix, malgrat aquests esforços, OpenAI va assegurar al públic que cap d'aquestes campanyes va provocar avenços innovadors en la creació de programari maliciós o la propagació viral de la desinformació. En altres paraules, si bé els actors dolents estan experimentant amb la IA, encara no han aconseguit avenços significatius.
Taula de continguts
Com els cibercriminals van explotar la IA
Els actors maliciosos venien de tots els racons del món, des de la Xina fins a l'Iran, i van emprar una varietat de tàctiques. Un exemple destacat va ser SweetSpecter, un grup amb seu a la Xina que va utilitzar la IA per a la investigació de reconeixement i vulnerabilitats, i fins i tot va intentar (sense èxit) atacar els empleats d'OpenAI.
Els grups iranians també van tenir un paper notable. Els Cyber Av3ngers, vinculats al Cos de la Guàrdia Revolucionària Islàmica Iraniana (IRGC), van investigar controladors lògics programables mitjançant IA, mentre que una altra entitat iraniana, Storm-0817, va utilitzar AI per depurar programari maliciós d'Android i esborrar perfils de xarxes socials.
A més d'aquestes campanyes dirigides, OpenAI va bloquejar diverses operacions d'influència a gran escala. Un d'ells, A2Z, va generar contingut en anglès i francès per a publicacions generalitzades a les xarxes socials, mentre que Stop News va aprofitar les imatges generades per IA, sovint en estils dibuixats o dramàtics, per millorar els seus articles i tuits.
Alteració de les campanyes globals de desinformació
Les campanyes de desinformació dirigides als sistemes polítics van ser un altre àmbit de preocupació. OpenAI va informar que va intervenir en els intents d'influir en les eleccions als EUA, Ruanda, l'Índia i la Unió Europea. Cap d'aquests esforços va aconseguir tracció viral, però el fet que els actors de l'amenaça intentessin manipular les eleccions subratlla els riscos creixents que suposa la desinformació impulsada per l'IA.
STOIC, una empresa israeliana també coneguda com Zero Zeno, va ser un dels actors clau en aquest espai, que va generar comentaris a les xarxes socials sobre les eleccions índies, una activitat que ja havia estat revelada tant per Meta com per OpenAI a principis d'any.
La vigilància contínua d'OpenAI també va provocar el descobriment de dues xarxes més, Bet Bot i Corrupt Comment, que utilitzaven la seva API per generar converses a X i enllaçar usuaris a llocs d'apostes o inundar les xarxes socials amb comentaris fabricats.
El paper de la IA en la desinformació microorientada
La IA generativa té el potencial de ser armada no només per a la desinformació a escala massiva, sinó també per a la microorientació. Segons un informe recent de la firma de ciberseguretat Sophos, la intel·ligència artificial es pot manipular per difondre informació errònia política altament personalitzada a través de correus electrònics, llocs web i persones falses. En adaptar acuradament els missatges a punts específics de la campanya, els actors d'amenaça poden enganyar els votants a un nou nivell, possiblement alterant els resultats de les eleccions o alterant les opinions amb informació falsa.
Els investigadors adverteixen que és inquietantment fàcil associar qualsevol figura o moviment polític amb una posició política que potser no donen suport, sembrant confusió entre els votants i perjudicant el procés democràtic.
Compromís d'OpenAI amb la ciberseguretat
Tot i que la IA ofereix oportunitats de progrés sense precedents, també presenta seriosos reptes de seguretat. OpenAI ha demostrat que està a l'alçada de la tasca de contrarestar els intents maliciosos d'explotar la seva tecnologia. Tanmateix, el joc del gat i el ratolí entre experts en ciberseguretat i ciberdelinqüents probablement continuarà.
Els esforços d'OpenAI per interrompre més de 20 campanyes globals aquest any marquen una victòria important, però la lluita està lluny d'haver acabat. A mesura que la IA evoluciona, també ho faran les tàctiques utilitzades pels actors d'amenaça. La vigilància i la innovació constants seran clau per garantir que la IA segueixi sent una força per al bé, més que una eina per a l'engany digital.