Microsoft dan OpenAI Memberi Amaran tentang Penggodam Negara Bangsa yang Memanfaatkan AI untuk Serangan Siber yang Memusnahkan
Microsoft dan OpenAI telah bersama-sama mengeluarkan amaran tentang ancaman penggodam negara negara yang semakin meningkat yang menggunakan kecerdasan buatan (AI) dan model bahasa besar (LLM) untuk meningkatkan keupayaan serangan siber mereka. Laporan itu mengenal pasti pelakon negara bangsa yang dikaitkan dengan Rusia, Korea Utara, Iran, dan China secara aktif bereksperimen dengan teknologi AI untuk aktiviti siber yang berniat jahat.
Kerjasama antara Microsoft dan OpenAI mendedahkan bahawa mereka telah menggagalkan usaha oleh lima pelakon yang bergabung dengan kerajaan, mengganggu percubaan mereka untuk memanfaatkan perkhidmatan AI untuk tujuan yang merosakkan dengan menamatkan aset dan akaun. Menurut Microsoft, daya tarikan model bahasa besar terletak pada sokongan bahasa semula jadi mereka, menjadikannya menarik kepada pelaku ancaman yang pakar dalam kejuruteraan sosial dan komunikasi menipu yang disesuaikan dengan sasaran tertentu.
Walaupun tiada serangan penting atau baru yang menggunakan LLM telah diperhatikan setakat ini, laporan itu menyerlahkan bahawa pelakon yang bergabung dengan negara ini sedang meneroka teknologi AI merentasi pelbagai peringkat rantaian serangan siber. Aktiviti terdiri daripada bantuan peninjauan dan pengekodan kepada pembangunan perisian hasad.
Kumpulan negara negara Rusia Forest Blizzard (APT28) dilaporkan telah menggunakan perkhidmatan OpenAI untuk penyelidikan sumber terbuka mengenai protokol komunikasi satelit dan teknologi pengimejan radar, serta untuk tugasan skrip. Begitu juga, pelakon ancaman lain seperti Korea Utara Emerald Sleet (Kimusky), Iran's Crimson Sandstorm (Imperial Kitten), dan China's Charcoal Typhoon (Aquatic Panda) dan Salmon Typhoon (Maverick Panda) telah menggunakan LLM untuk tugas seperti mengenal pasti pakar, menjalankan penyelidikan , menjana coretan kod dan mencipta kandungan untuk kempen pancingan data.
Sebagai tindak balas kepada ancaman yang semakin meningkat, Microsoft mengambil langkah proaktif dengan merumuskan satu set prinsip untuk mengurangkan risiko yang berkaitan dengan penggunaan berniat jahat alatan AI dan API oleh aktor negara bangsa, ancaman berterusan lanjutan (APT), manipulator berterusan termaju (APM) , dan sindiket jenayah siber. Prinsip tersebut termasuk mengenal pasti dan mengambil tindakan terhadap pelaku yang berniat jahat, memberitahu penyedia perkhidmatan AI yang lain, bekerjasama dengan pihak berkepentingan, dan memastikan ketelusan dalam menangani ancaman ini.
Kerjasama antara Microsoft dan OpenAI ini menekankan keperluan untuk usaha kolektif untuk mewujudkan pagar dan mekanisme keselamatan di sekitar model AI , mengukuhkan komitmen terhadap penggunaan dan keselamatan AI yang bertanggungjawab dalam menghadapi ancaman siber yang semakin berkembang.