Microsoft emprèn accions legals contra els pirates informàtics que exploten l'IA d'Azure amb finalitats malicioses
La batalla contínua de Microsoft contra el cibercrim ha assolit noves altures amb la seva darrera demanda dirigida a un grup de pirateria acusat d'explotar els serveis d'IA generativa d'Azure. El gegant tecnològic va revelar que els actors d'amenaces amb seu a l'estranger van crear una plataforma de pirateria com a servei per evitar els protocols de seguretat d'Azure AI, permetent la creació de contingut nociu i programari maliciós .
Aquest cas posa de manifest els riscos creixents que els ciberdelinqüents aprofiten les plataformes d'IA amb finalitats malicioses, cosa que suposa importants reptes de ciberseguretat per a les organitzacions d'arreu del món.
Taula de continguts
Com els pirates informàtics van explotar l'IA Azure de Microsoft
La Unitat de Delictes Digitals (DCU) de Microsoft va descobrir l'operació el juliol del 2024. El grup va utilitzar credencials de clients robades, recollides de fonts públiques, per violar els sistemes Azure i manipular models d'IA com el DALL-E d'OpenAI.
Els detalls clau inclouen:
- Robatori de credencials : es van utilitzar claus de l'API d'Azure robades i dades d'autenticació d'ID d'Entra per accedir als serveis d'Azure OpenAI.
- Creació de contingut nociu : el grup va monetitzar el seu accés creant eines per generar imatges ofensives i evitar els filtres de contingut d'IA.
- Hacking-as-a-Service : el grup va vendre accés a les seves eines a través de llocs web com aitism[.]net i va compartir instruccions d'ús amb altres ciberdelinqüents.
Aquestes activitats van provocar la generació il·legal de milers d'imatges nocives i la facilitació de més abusos il·lícits d'IA, tot mentre els autors intentaven esborrar les seves petjades digitals.
La connexió de programari maliciós
L'abús dels serveis generatius d'IA té implicacions més àmplies per al desenvolupament de programari maliciós . Els actors d'amenaça poden potencialment:
- Genereu esquers de pesca o llocs web falsos dissenyats per imitar plataformes de confiança.
Aquesta explotació posa de manifest com els grups de pirateria estan evolucionant les seves tàctiques, combinant credencials robades i capacitats avançades d'IA per dur a terme ciberatacs a escala.
Explotació de proxy invers i LLMjacking
Un aspecte notable del cas és l'ús de servidors intermediaris inversos, com ara l'eina de3u. Aquests servidors intermediaris van redirigir les comunicacions des dels dispositius dels usuaris a través d'un túnel de Cloudflare als serveis d'Azure OpenAI, imitant les trucades d'API legítimes.
Aquesta tècnica reflecteix les tàctiques identificades en els atacs de LLMjacking, on s'utilitzen credencials de núvol robades per accedir a serveis de model de llenguatge gran (LLM) com Anthropic, AWS Bedrock i Google Vertex AI. Aquests esquemes permeten als actors d'amenaça segrestar eines d'IA basades en núvol, sovint monetitzant l'accés venent-lo a altres delinqüents.
Contramesures de Microsoft i implicacions més àmplies
En resposta a aquesta operació, Microsoft:
- Accés revocat : ha desactivat les credencials robades del grup i ha tancat la seva infraestructura de servei.
- Dominis confiscats : s'ha obtingut una ordre judicial per tancar aitism[.]net .
- Defenses reforçades : s'han implementat salvaguardes addicionals per prevenir abusos similars en el futur.
No obstant això, Microsoft també va descobrir proves del grup dirigit a altres proveïdors de serveis d'IA, cosa que suggereix una tendència més gran d'abús d'IA en el panorama de la ciberseguretat.
Eines d'IA: una espasa de doble tall
Tot i que les eines d'IA generativa com ChatGPT i DALL-E ofereixen avantatges immensos, el seu mal ús per part dels ciberdelinqüents posa de manifest la necessitat urgent de protocols de seguretat millorats:
- Seguretat de l'API : les organitzacions han de garantir una protecció sòlida per a les claus de l'API per evitar l'accés no autoritzat.
- Supervisió d'amenaces : el seguiment continu de l'ús del servei d'IA pot ajudar a detectar i bloquejar un comportament anòmal.
La demanda de Microsoft il·lumina la perillosa intersecció de la IA i el cibercrim. A mesura que els actors de les amenaces utilitzen cada cop més els serveis d'IA per generar contingut nociu i desenvolupar programari maliciós, les organitzacions han de prioritzar la protecció de la seva infraestructura d'IA.
El cas serveix com a recordatori contundent: mentre que la IA representa el futur de la tecnologia, les seves vulnerabilitats es poden armar, fent que les mesures sòlides de ciberseguretat siguin una necessitat absoluta en la lluita contra les amenaces digitals.