Els pirates informàtics iranians van fer un mal ús de ChatGPT en ciberatacs dirigits a infraestructures crítiques
En un informe innovador, OpenAI va revelar com els pirates informàtics iranians van explotar ChatGPT per millorar els ciberatacs als sistemes de control industrial (ICS). L'informe fa llum sobre les activitats cibernètiques dutes a terme per grups com CyberAv3ngers, vinculats al Cos de la Guàrdia Revolucionària Islàmica (IRGC) de l'Iran, i altres patrocinats per la Xina.
Aquests actors d'amenaça van utilitzar ChatGPT per a accions de reconeixement, explotació de vulnerabilitats i posteriors al compromís. Tot i que OpenAI subratlla que la IA no oferia noves capacitats, sí que va ajudar aquests pirates informàtics a dur a terme atacs de manera més eficient utilitzant tècniques disponibles públicament.
Taula de continguts
Grup iranià CyberAv3ngers i atacs a les instal·lacions d'aigua
CyberAv3ngers va guanyar notorietat aquest any per dirigir-se als serveis d'aigua a Irlanda i Pennsilvània, causant interrupcions importants. El grup va explotar sistemes ICS poc segurs que estaven exposats a Internet i utilitzaven contrasenyes predeterminades. El seu enfocament es va centrar en els controladors lògics programables (PLC), dispositius crítics que controlen processos industrials.
El seu ús de ChatGPT va implicar demanar al chatbot informació sobre encaminadors industrials, PLC i contrasenyes predeterminades per a dispositius d'infraestructura crítica com els encaminadors Tridium Niagara i Hirschmann RS.
Ús indegut de la IA per a ciberatacs
A més dels objectius específics de l'ICS, CyberAv3ngers va demanar ajuda a ChatGPT per ofuscar codi maliciós i escanejar xarxes per detectar vulnerabilitats explotables. El grup també va intentar trobar maneres d'accedir a les contrasenyes de macOS.
Tanmateix, OpenAI va aclarir que aquestes activitats no van proporcionar als pirates informàtics cap capacitat nova o avançada més enllà del que està disponible a través d'eines que no són AI. Això posa de manifest els perills del mal ús de la IA, encara que la informació obtinguda no sigui revolucionària.
Altres actors d'amenaça implicats
A més de CyberAv3ngers, un altre grup iranià conegut com Storm-0817 va fer un ús indegut de ChatGPT. Van intentar desenvolupar programari maliciós per a Android i esborrar dades d'Instagram, aprofitant l'IA per traduir els perfils de LinkedIn al persa. Tot i que no són tan perjudicials directament com els atacs de l'ICS, aquestes activitats reflecteixen esforços més amplis per armar la IA en les operacions cibernètiques.
SweetSpectre vinculat a la Xina també es va esmentar a l'informe. Aquest grup va utilitzar ChatGPT per al desenvolupament de programari maliciós i la investigació de vulnerabilitats. En particular, SweetSpectre va intentar enviar correus electrònics carregats de programari maliciós als empleats d'OpenAI, però l'atac es va frustrar abans d'arribar als seus objectius.
La imatge més gran
L'informe subratlla el risc creixent d'ús indegut de la IA en la ciberguerra. Tot i que la IA, inclòs ChatGPT, pot agilitzar les tasques per als usuaris legítims, també pot servir com a eina per als actors dolents. L'enfocament proactiu d'OpenAI per detectar i neutralitzar aquestes amenaces és vital per frenar-ne l'impacte.
Això planteja preguntes per a la indústria de la ciberseguretat: com es pot protegir la IA del mal ús? Quines mesures són necessàries per evitar que els actors de les amenaces utilitzin aquestes eines per millorar les seves capacitats?
Aquestes revelacions haurien d'incitar les indústries i els governs a repensar les estratègies de seguretat, especialment per a les infraestructures crítiques, i donar prioritat a tancar els buits que permeten als pirates informàtics explotar sistemes vulnerables.
La IA té un potencial enorme per avançar en les indústries i millorar l'eficiència. Però, com mostra l'informe, també és una arma de doble tall. Quan s'utilitza malament, pot amplificar les capacitats dels ciberdelinqüents i dels actors de l'estat-nació. Mantenir-se per davant d'aquestes amenaces requereix una vigilància constant, defenses més sòlides i un desenvolupament responsable de les tecnologies d'IA.
El paper de ChatGPT en aquests incidents pot ser limitat, però serveix com a crida d'atenció sobre les implicacions més àmplies de la IA en el panorama de la ciberseguretat.