Um Malware Alimentado por IA Ameaça Sobrecarregar os Sistemas de Detecção com a Criação de 10.000 Variantes

Os pesquisadores de segurança cibernética estão soando o alarme sobre o potencial uso indevido de modelos de linguagem grandes (LLMs) para turbinar o desenvolvimento de malware. Uma nova análise da Unidade 42 da Palo Alto Networks revela que os LLMs, embora não sejam adeptos da criação de malware do zero, podem reescrever e ofuscar códigos maliciosos existentes em grande escala, criando variantes que escapam à detecção em até 88% dos casos.

Isso levanta preocupações críticas sobre como os agentes de ameaças podem explorar a IA generativa para contornar sistemas de detecção, degradar modelos de aprendizado de máquina e implantar um arsenal de malware em constante expansão.

A Mecânica da Criação de Malware Aprimorada pela IA

'De acordo com a Unidade 42, os criminosos podem incitar os LLMs a realizar transformações em códigos JavaScript maliciosos, tornando mais difícil para os sistemas de detecção sinalizarem os scripts reescritos. Ao contrário das ferramentas de ofuscação tradicionais que geram resultados menos convincentes, as reescritas orientadas por LLM parecem mais naturais e mais difíceis de detectar.

As principais técnicas de transformação incluem:

• Renomeação de variáveis
• Divisão de cordas
• Inserção de código lixo
• Remoção de espaços em branco
• Reimplementação completa do código

Cada iteração gera uma nova variante de malware que mantém a funcionalidade maliciosa original, ao mesmo tempo que reduz significativamente suas chances de ser detectada.

A Unidade 42 demonstrou essa abordagem usando LLMs para criar 10.000 variantes de JavaScript a partir de amostras de malware existentes. Essas variantes enganaram com sucesso os classificadores de malware, incluindo modelos amplamente usados como PhishingJS e Innocent Until Proven Guilty (IUPG). Em muitos casos, até mesmo a plataforma VirusTotal falhou em detectar os scripts reescritos como maliciosos.

A Perigosa Vantagem da Ofuscação pela IA

Ao contrário de ferramentas mais antigas como obfuscator.io, que produzem padrões que podem ser detectados e identificados com mais facilidade, as reescritas baseadas em LLM são inerentemente mais sofisticadas. Elas parecem mais próximas de um código legítimo, o que as torna mais difíceis de serem identificadas por modelos de machine learning (ML) e ferramentas antivírus.

O impacto deste método é profundo:

• Classificadores de malware são enganados para rotular scripts maliciosos como benignos.
• Os modelos de ML sofrem degradação de desempenho, tendo dificuldade para acompanhar a evolução constante das variantes de malware.
• Os sistemas de detecção correm o risco de se tornar obsoletos, pois os adversários geram continuamente malware novo e indetectável.

Explorando LLMs para Crimes Cibernéticos Mais Amplos

Essa tendência não se limita ao desenvolvimento de malware. Atores maliciosos estão alavancando ferramentas desonestas como WormGPT, que usam IA generativa para automatizar campanhas de phishing e criar ataques de engenharia social convincentes, adaptados a vítimas específicas.

Embora os provedores de LLM tenham implementado proteções para limitar o abuso, como o recente bloqueio de 20 operações enganosas pela OpenAI em outubro de 2024, os agentes de ameaças estão constantemente encontrando maneiras de contornar essas restrições.

O Lado Bom: Combatendo Fogo com Fogo

Apesar dos riscos, as mesmas técnicas orientadas por LLM usadas para ofuscar malware também podem ajudar os defensores. A Unit 42 sugere usar esses métodos de IA para gerar dados de treinamento que melhoram a robustez dos modelos de detecção de malware. Ao alimentar os classificadores com mais exemplos de código ofuscado, os pesquisadores poderiam potencialmente reforçar sua capacidade de detectar até mesmo as variantes mais avançadas.

As Vulnerabilidades Emergentes da IA: O Ataque do TPUXtract

O aumento do malware alimentado por LLM não é a única ameaça relacionada à IA que está nas manchetes. Pesquisadores da North Carolina State University revelaram um ataque de canal lateral, chamado TPUXtract, capaz de roubar arquiteturas de modelos de IA das Edge Tensor Processing Units (TPUs) do Google.

Ao capturar sinais eletromagnéticos emitidos durante inferências de rede neural, os invasores podem extrair detalhes como tipos de camada, números de nó, tamanhos de filtro e funções de ativação com 99,91% de precisão. Embora esse ataque exija acesso físico ao dispositivo e equipamento caro, ele representa um risco sério à propriedade intelectual e pode facilitar ataques cibernéticos subsequentes.

O Que isto Significa para a Segurança Cibernética

A rápida evolução da IA generativa é uma espada de dois gumes para a segurança cibernética. Ao mesmo tempo em que abre novas portas para a inovação, também fornece ferramentas sem precedentes para os criminosos cibernéticos.

• As organizações devem agir proativamente, investindo em sistemas de detecção avançados, capazes de se adaptar às técnicas de ofuscação baseadas em IA.
• Os formuladores de políticas devem estabelecer diretrizes claras para o uso ético da IA, ao mesmo tempo em que aplicam controles mais rigorosos para evitar o uso indevido.
• Pesquisadores de segurança devem aproveitar a IA para superar os adversários, desenvolvendo sistemas resilientes que possam combater ameaças em evolução.

O Futuro do Malware da IA

A capacidade dos LLMs de criar 10.000 variantes de malware e escapar da detecção em 88% dos casos é um lembrete gritante da crescente sofisticação das ameaças cibernéticas. À medida que a tecnologia evolui, nossas defesas também devem evoluir. Empresas, governos e profissionais de segurança cibernética devem adotar estratégias inovadoras para ficar à frente de atores maliciosos e proteger o mundo digital de ataques alimentados por IA.