S'ha descobert programari maliciós generat per IA i podria canviar la ciberseguretat tal com la coneixem
En el món en evolució de la ciberseguretat, fa temps que sabem que la IA es pot aprofitar per crear programari maliciós. Però els avenços recents han indicat que el futur del programari maliciós generat per IA pot estar més a prop del que pensem. HP va interceptar recentment una campanya de correu electrònic que va lliurar una càrrega útil estàndard de programari maliciós mitjançant un comptagote generat per IA, cosa que va marcar un canvi significatiu en les tàctiques de cibercrim.
Taula de continguts
Un nou tipus d'amenaça trobat en el desenvolupament de programari maliciós d'IA
El descobriment va tenir lloc el juny de 2024 quan l'equip de seguretat d'HP es va trobar amb un correu electrònic de pesca que presentava un esquer típic de factura. El fitxer adjunt era un fitxer HTML xifrat, una tècnica coneguda com a contraban HTML dissenyada per evitar la detecció. Tot i que el contraban d'HTML no és cap novetat, aquest cas va tenir un gir interessant. Normalment, els cibercriminals enviaven un fitxer pre-xifrat, però aquesta vegada, els atacants van incloure la clau de desxifrat AES directament dins del codi JavaScript del fitxer adjunt. Aquesta estranyesa va motivar més investigacions.
En desxifrar el fitxer adjunt, els investigadors d'HP van trobar que semblava un lloc web normal, però que hi havia amagat un VBScript i el famós infostealer AsyncRAT. El VBScript va actuar com a comptagote, desplegant la càrrega útil del robatori d'informació, modificant els registres del sistema i executant JavaScript com a tasca programada. A continuació, es va executar un script de PowerShell, completant el desplegament d'AsyncRAT.
Tot i que gran part d'aquest procés és familiar, va destacar un detall clau: el VBScript estava inusualment ben estructurat i contenia comentaris, una pràctica poc habitual en el desenvolupament de programari maliciós. Encara més sorprenent, el guió va ser escrit en francès. Aquests factors van fer que els investigadors d'HP creguessin que el comptagotes no va ser creat per un humà, sinó generat per IA.
El paper de la IA en la reducció de la barrera dels ciberdelinqüents
Per provar la seva teoria, l'equip d'HP va utilitzar les seves pròpies eines d'IA per replicar el VBScript. El guió resultant tenia una semblança sorprenent amb el que s'utilitzava en l'atac. Tot i que aquesta no és una prova definitiva, els investigadors confien que la IA va participar en la creació del programari maliciós. Però el misteri s'aprofundeix: per què no es va ocultar el programari maliciós? Per què es van deixar els comentaris al codi?
Una possible explicació és que l'atacant era un nouvingut al món del cibercrim. El programari maliciós generat per IA podria estar reduint les barreres d'entrada dels possibles pirates informàtics fent que eines com la generació de VBScript siguin accessibles a persones amb habilitats tècniques mínimes. En aquest cas, AsyncRAT, la càrrega útil principal, està disponible gratuïtament i tècniques com el contraban d'HTML no requereixen coneixements amplis de codificació.
Alex Holland, investigador principal d'amenaces d'HP, va assenyalar que aquest atac requeria molt pocs recursos. No hi havia cap infraestructura complexa a part d'un únic servidor de comandament i control (C&C) per gestionar les dades robades. El programari maliciós en si era bàsic i no tenia la ofuscació habitual que es veu en atacs més sofisticats. En resum, això pot haver estat el treball d'un pirata informàtic sense experiència que va aprofitar la IA per fer el treball pesat.
El futur del programari maliciós generat per IA
Aquest descobriment planteja una altra possibilitat alarmant. Si un atacant sense experiència pogués deixar pistes que apunten a scripts generats per IA, què podrien aconseguir els adversaris més experimentats amb eines similars? Els ciberdelinqüents experimentats probablement eliminarien tots els rastres de la implicació de la IA, fent que la detecció sigui molt més difícil, si no impossible.
"Fa temps que preveiem que la IA es podria utilitzar per generar programari maliciós", va dir Holland. "Però aquest és un dels primers exemples del món real que hem vist. És un pas més cap al futur, on el programari maliciós generat per IA serà més avançat i generalitzat".
A mesura que la tecnologia d'IA continua avançant ràpidament, el calendari del programari maliciós generat per IA totalment autònom s'està reduint. Tot i que és difícil predir la cronologia exacta, experts com Holland creuen que podria passar en els propers dos anys. L'amenaça de la IA no apareix a l'horitzó, ja és aquí.
Preparant-nos per a la propera onada d'amenaces cibernètiques
A mesura que es difuminen les línies entre el programari maliciós humà i el generat per IA, el panorama de la ciberseguretat serà encara més difícil. Tot i que aquest incident serveix d'advertència, també és una visió del futur on la IA jugarà un paper més important en els ciberatacs. Els professionals de la seguretat han de mantenir-se vigilants, adaptant contínuament les seves defenses per contrarestar aquestes amenaces emergents.
Amb el programari maliciós generat per IA fent la seva primera aparició en estat salvatge, no és descabellat imaginar un moment en què els atacs més sofisticats i impulsats per IA esdevinguin la norma. Tal com suggereix Holland de manera ominosa, ja podríem estar dient: "Ja són aquí! Tu ets el següent! Tu ets el següent!"