مايكروسوفت وOpenAI تحذران من قراصنة الدولة القومية الذين يستخدمون الذكاء الاصطناعي لشن هجمات إلكترونية مدمرة
أصدرت Microsoft وOpenAI تحذيرًا مشتركًا بشأن التهديد المتزايد المتمثل في قراصنة الدول القومية الذين يستخدمون الذكاء الاصطناعي (AI) ونماذج اللغات الكبيرة (LLMs) لتعزيز قدراتهم على الهجوم السيبراني. ويحدد التقرير الجهات الفاعلة في الدول القومية المرتبطة بروسيا وكوريا الشمالية وإيران والصين باعتبارها تقوم بنشاط بتجربة تقنيات الذكاء الاصطناعي للأنشطة السيبرانية الضارة.
وكشف التعاون بين مايكروسوفت وOpenAI عن إحباط الجهود التي بذلتها خمس جهات فاعلة تابعة للدولة، مما أدى إلى تعطيل محاولاتهم للاستفادة من خدمات الذكاء الاصطناعي لأغراض مدمرة عن طريق إنهاء الأصول والحسابات. وفقًا لمايكروسوفت، تكمن جاذبية نماذج اللغات الكبيرة في دعمها للغة الطبيعية، مما يجعلها جذابة للجهات الفاعلة في مجال التهديد المتخصصة في الهندسة الاجتماعية والاتصالات الخادعة المصممة خصيصًا لأهداف محددة.
على الرغم من عدم ملاحظة أي هجمات مهمة أو جديدة باستخدام LLMs حتى الآن، يسلط التقرير الضوء على أن هذه الجهات الفاعلة التابعة للدولة تستكشف تقنيات الذكاء الاصطناعي عبر مراحل مختلفة من سلسلة الهجمات السيبرانية. تتراوح الأنشطة من الاستطلاع والمساعدة في الترميز إلى تطوير البرامج الضارة.
تفيد التقارير أن مجموعة الدولة القومية الروسية Forest Blizzard (APT28) استخدمت خدمات OpenAI لإجراء أبحاث مفتوحة المصدر حول بروتوكولات الاتصالات عبر الأقمار الصناعية وتكنولوجيا التصوير الراداري، بالإضافة إلى مهام البرمجة النصية. وبالمثل، فإن الجهات الفاعلة الأخرى في مجال التهديد مثل Emerald Sleet في كوريا الشمالية (Kimusky)، والعاصفة الرملية القرمزية في إيران (Imperial Kitten)، وCharcoal Typhoon في الصين (Aquatic Panda)، وSalmon Typhoon (Maverick Panda) قد استخدمت LLMs في مهام مثل تحديد الخبراء وإجراء البحوث. وإنشاء مقتطفات من التعليمات البرمجية وإنشاء محتوى لحملات التصيد الاحتيالي.
استجابة للتهديد المتزايد، تتخذ Microsoft تدابير استباقية من خلال صياغة مجموعة من المبادئ للتخفيف من المخاطر المرتبطة بالاستخدام الضار لأدوات الذكاء الاصطناعي وواجهات برمجة التطبيقات من قبل الجهات الفاعلة في الدولة القومية، والتهديدات المستمرة المتقدمة (APTs)، والمتلاعبين المستمرين المتقدمين (APMs). وعصابات الجرائم الإلكترونية. وتشمل المبادئ تحديد الجهات الفاعلة الضارة واتخاذ الإجراءات اللازمة ضدها، وإخطار مقدمي خدمات الذكاء الاصطناعي الآخرين، والتعاون مع أصحاب المصلحة، وضمان الشفافية في التعامل مع هذه التهديدات.
يؤكد هذا التعاون بين Microsoft وOpenAI على الحاجة إلى جهد جماعي لإنشاء حواجز حماية وآليات أمان حول نماذج الذكاء الاصطناعي ، مما يعزز الالتزام بالاستخدام المسؤول للذكاء الاصطناعي والأمن في مواجهة التهديدات السيبرانية المتطورة.