Microsoft Mengambil Tindakan Undang-undang Terhadap Penggodam yang Memanfaatkan AI Azure untuk Tujuan Hasad

Perjuangan berterusan Microsoft terhadap jenayah siber telah mencapai tahap baharu dengan tuntutan terbarunya menyasarkan kumpulan penggodam yang dituduh mengeksploitasi perkhidmatan AI generatif Azure. Gergasi teknologi itu mendedahkan bahawa pelakon ancaman berasaskan asing mencipta platform penggodaman sebagai perkhidmatan untuk memintas protokol keselamatan Azure AI, membolehkan penciptaan kandungan berbahaya dan perisian hasad .

Kes ini menggariskan peningkatan risiko yang ditimbulkan oleh penjenayah siber yang memanfaatkan platform AI untuk tujuan jahat, menimbulkan cabaran keselamatan siber yang ketara untuk organisasi di seluruh dunia.

Bagaimana Penggodam Mengeksploitasi AI Azure Microsoft

Unit Jenayah Digital (DCU) Microsoft mendedahkan operasi itu pada Julai 2024. Kumpulan itu menggunakan bukti kelayakan pelanggan yang dicuri, yang dituai daripada sumber awam, untuk melanggar sistem Azure dan mengusik model AI seperti DALL-E OpenAI.

Butiran penting termasuk:

• Kecurian Kredensial : Kunci API Azure yang Dicuri dan data pengesahan ID Entra telah digunakan untuk mengakses perkhidmatan Azure OpenAI.
• Penciptaan Kandungan Memudaratkan : Kumpulan itu mengewangkan akses mereka dengan mencipta alatan untuk menjana imej yang menyinggung perasaan dan memintas penapis kandungan AI.
• Hacking-as-a-Service : Kumpulan itu menjual akses kepada alatan mereka melalui tapak web seperti aitism[.]net dan berkongsi arahan penggunaan dengan penjenayah siber lain.

Aktiviti ini membawa kepada penjanaan beribu-ribu imej berbahaya yang menyalahi undang-undang dan memudahkan penyalahgunaan AI haram selanjutnya, sementara pelaku cuba memadamkan jejak digital mereka.

Sambungan Perisian Hasad

Penyalahgunaan perkhidmatan AI generatif mempunyai implikasi yang lebih luas untuk pembangunan perisian hasad . Aktor ancaman berpotensi:

• Hasilkan gewang pancingan data atau tapak web palsu yang direka bentuk untuk meniru platform yang dipercayai.

Eksploitasi ini menyerlahkan bagaimana kumpulan penggodaman sedang mengembangkan taktik mereka, menggabungkan bukti kelayakan yang dicuri dan keupayaan AI lanjutan untuk melakukan serangan siber pada skala besar.

Eksploitasi Proksi Songsang dan LLMjacking

Satu aspek yang ketara dalam kes ini ialah penggunaan proksi terbalik, seperti alat de3u. Proksi ini mengubah hala komunikasi daripada peranti pengguna melalui terowong Cloudflare ke perkhidmatan Azure OpenAI, meniru panggilan API yang sah.

Teknik ini mencerminkan taktik yang dikenal pasti dalam serangan LLMjacking, yang mana bukti kelayakan awan yang dicuri digunakan untuk mengakses perkhidmatan model bahasa besar (LLM) seperti Anthropic, AWS Bedrock dan Google Vertex AI. Skim sedemikian membolehkan pelaku ancaman merampas alatan AI berasaskan awan, selalunya mengewangkan akses dengan menjualnya kepada penjenayah lain.

Langkah Balas dan Implikasi yang Lebih Luas Microsoft

Sebagai tindak balas kepada operasi ini, Microsoft:

• Akses Dibatalkan : Melumpuhkan bukti kelayakan kumpulan yang dicuri dan menutup infrastruktur perkhidmatan mereka.
• Domain yang Dirampas : Mendapat perintah mahkamah untuk menutup aitism[.]net .
• Pertahanan yang Diperkukuh : Melaksanakan perlindungan tambahan untuk mengelakkan penyalahgunaan yang serupa pada masa hadapan.

Walau bagaimanapun, Microsoft juga menemui bukti kumpulan itu menyasarkan penyedia perkhidmatan AI yang lain, mencadangkan trend penyalahgunaan AI yang lebih besar dalam landskap keselamatan siber.

Alat AI: Pedang Bermata Dua

Walaupun alat AI generatif seperti ChatGPT dan DALL-E menawarkan faedah yang besar, penyalahgunaannya oleh penjenayah siber menyerlahkan keperluan mendesak untuk protokol keselamatan yang dipertingkatkan:

1. Keselamatan API : Organisasi mesti memastikan perlindungan yang teguh untuk kunci API untuk menghalang akses tanpa kebenaran.
2. Pemantauan Ancaman : Pemantauan berterusan penggunaan perkhidmatan AI boleh membantu mengesan dan menyekat tingkah laku anomali.

Tuntutan Microsoft menjelaskan persimpangan berbahaya AI dan jenayah siber. Memandangkan pelaku ancaman semakin mengeksploitasi perkhidmatan AI untuk menjana kandungan berbahaya dan membangunkan perisian hasad, organisasi mesti mengutamakan melindungi infrastruktur AI mereka.

Kes ini berfungsi sebagai peringatan yang jelas: sementara AI mewakili masa depan teknologi, kelemahannya boleh dipersenjatai, menjadikan langkah keselamatan siber yang teguh sebagai keperluan mutlak dalam memerangi ancaman digital.