هشدار مایکروسافت و OpenAI در مورد هکرهای دولت ملی که از هوش مصنوعی برای حملات سایبری مخرب استفاده می کنند

مایکروسافت و OpenAI مشترکاً هشداری درباره تهدید فزاینده هکرهای دولت ملت صادر کرده‌اند که از هوش مصنوعی (AI) و مدل‌های زبان بزرگ (LLMs) برای افزایش قابلیت‌های حمله سایبری خود استفاده می‌کنند. این گزارش، بازیگران دولت-ملت مرتبط با روسیه، کره شمالی، ایران و چین را به‌عنوان فعالانه فناوری‌های هوش مصنوعی برای فعالیت‌های سایبری مخرب شناسایی می‌کند.

همکاری مایکروسافت و OpenAI نشان داد که آنها تلاش‌های پنج بازیگر وابسته به دولت را خنثی کرده‌اند و تلاش‌های آنها برای استفاده از خدمات هوش مصنوعی برای اهداف مخرب را با فسخ دارایی‌ها و حساب‌ها مختل کرده‌اند. به گفته مایکروسافت، جذابیت مدل‌های زبان بزرگ در پشتیبانی از زبان طبیعی آنها نهفته است، و آنها را برای بازیگران تهدید متخصص در مهندسی اجتماعی و ارتباطات فریبنده متناسب با اهداف خاص جذاب می‌کند.

در حالی که تاکنون هیچ حمله مهم یا جدیدی با استفاده از LLM مشاهده نشده است، این گزارش نشان می‌دهد که این بازیگران وابسته به دولت در حال بررسی فناوری‌های هوش مصنوعی در مراحل مختلف زنجیره حملات سایبری هستند. دامنه فعالیت‌ها از کمک شناسایی و کدگذاری تا توسعه بدافزار است.

گزارش شده است که گروه دولتی روسیه Forest Blizzard (APT28) از خدمات OpenAI برای تحقیقات منبع باز در مورد پروتکل های ارتباطی ماهواره ای و فناوری تصویربرداری راداری و همچنین برای وظایف اسکریپت استفاده کرده است. به طور مشابه، دیگر بازیگران تهدید مانند زمرد کره شمالی (کیموسکی)، طوفان شن زرشکی ایران (گربه امپراتوری)، و طوفان ذغال سنگ چین (پاندای آبی) و طوفان ماهی قزل آلا (ماوریک پاندا) از LLM برای کارهایی مانند انجام تحقیقات و شناسایی کارشناسان استفاده کرده اند. ، تولید قطعه کد و ایجاد محتوا برای کمپین های فیشینگ.

در پاسخ به این تهدید رو به رشد، مایکروسافت با تدوین مجموعه‌ای از اصول برای کاهش خطرات مرتبط با استفاده مخرب از ابزارهای هوش مصنوعی و API توسط بازیگران دولت ملی، تهدیدات پایدار پیشرفته (APTs)، دستکاری‌کنندگان مداوم پیشرفته (APM) اقدامات پیشگیرانه انجام می‌دهد. ، و سندیکای مجرمان سایبری. این اصول شامل شناسایی و اقدام علیه عوامل مخرب، اطلاع رسانی به سایر ارائه دهندگان خدمات هوش مصنوعی، همکاری با سهامداران و اطمینان از شفافیت در برخورد با این تهدیدها است.

این همکاری بین مایکروسافت و OpenAI بر نیاز به تلاش جمعی برای ایجاد نرده‌های محافظ و مکانیسم‌های ایمنی در اطراف مدل‌های هوش مصنوعی تاکید می‌کند، و تعهد به استفاده مسئولانه از هوش مصنوعی و امنیت در مواجهه با تهدیدات سایبری در حال تحول را تقویت می‌کند.