Microsoft i OpenAI adverteixen que els pirates informàtics dels estats nacionals aprofiten la IA per a ciberatacs destructius
Microsoft i OpenAI han emès conjuntament una advertència sobre l'amenaça creixent dels pirates informàtics de l'estat-nació que utilitzen intel·ligència artificial (IA) i grans models de llenguatge (LLM) per millorar les seves capacitats d'atac cibernètic. L'informe identifica actors estatals vinculats a Rússia, Corea del Nord, l'Iran i la Xina que experimenten activament amb tecnologies d'IA per a activitats cibernètiques malicioses.
La col·laboració entre Microsoft i OpenAI va revelar que havien frustrat els esforços de cinc actors afiliats a l'estat, interrompent els seus intents d'aprofitar els serveis d'IA amb finalitats destructives mitjançant la cancel·lació d'actius i comptes. Segons Microsoft, l'atractiu dels grans models lingüístics rau en el seu suport de llenguatge natural, cosa que els fa atractius per a actors d'amenaça especialitzats en enginyeria social i comunicació enganyosa adaptada a objectius específics.
Tot i que fins ara no s'han observat atacs significatius o nous que utilitzin LLM, l'informe destaca que aquests actors afiliats a l'estat estan explorant tecnologies d'IA en diverses etapes de la cadena d'atac cibernètic. Les activitats van des del reconeixement i l'assistència a la codificació fins al desenvolupament de programari maliciós.
S'ha informat que el grup estatal rus Forest Blizzard (APT28) ha utilitzat els serveis OpenAI per a la investigació de codi obert sobre protocols de comunicació per satèl·lit i tecnologia d'imatge de radar, així com per a tasques d'escriptura. De la mateixa manera, altres actors d'amenaça, com ara l'Emerald Sleet (Kimusky) de Corea del Nord, la tempesta de sorra carmesí de l'Iran (Imperial Kitten) i el Charcoal Typhoon (Panda aquàtic) i el Salmon Typhoon (Maverick Panda) de la Xina, han utilitzat LLM per a tasques com identificar experts, dur a terme investigacions. , generant fragments de codi i creant contingut per a campanyes de pesca.
En resposta a l'amenaça creixent, Microsoft està prenent mesures proactives mitjançant la formulació d'un conjunt de principis per mitigar els riscos associats a l'ús maliciós d'eines d'IA i API per part d'actors estatals, amenaces persistents avançades (APT), manipuladors persistents avançats (APM) , i els sindicats cibercriminals. Els principis inclouen identificar i prendre mesures contra actors maliciosos, notificar a altres proveïdors de serveis d'IA, col·laborar amb les parts interessades i garantir la transparència en fer front a aquestes amenaces.
Aquesta col·laboració entre Microsoft i OpenAI subratlla la necessitat d'un esforç col·lectiu per establir baranes i mecanismes de seguretat al voltant dels models d'IA , reforçant el compromís amb l'ús responsable i la seguretat de la IA davant les amenaces cibernètiques en evolució.