מיקרוסופט ו-OpenAI מזהירות מפני האקרים של מדינת לאום הממנפים בינה מלאכותית להתקפות סייבר הרסניות
מיקרוסופט ו-OpenAI פרסמו במשותף אזהרה על האיום הגובר של האקרים של מדינות לאום המשתמשות בבינה מלאכותית (AI) ומודלים של שפות גדולות (LLMs) כדי לשפר את יכולות התקפת הסייבר שלהם. הדו"ח מזהה שחקנים ממדינות לאום הקשורים לרוסיה, צפון קוריאה, איראן וסין כמתנסים באופן פעיל בטכנולוגיות AI לפעילויות סייבר זדוניות.
שיתוף הפעולה בין מיקרוסופט ל-OpenAI חשף כי הם סיכלו מאמצים של חמישה שחקנים המזוהים עם המדינה, ושיבשו את ניסיונותיהם למנף שירותי AI למטרות הרסניות על ידי סיום נכסים וחשבונות. לדברי מיקרוסופט, המשיכה של מודלים של שפות גדולות טמונה בתמיכת השפה הטבעית שלהם, מה שהופך אותם לאטרקטיביים עבור גורמי איומים המתמחים בהנדסה חברתית ובתקשורת מטעה המותאמת למטרות ספציפיות.
אף על פי שלא נצפו עד כה התקפות משמעותיות או חדשות המשתמשות ב-LLM, הדו"ח מדגיש ששחקנים המזוהים עם המדינה הללו בוחנים טכנולוגיות בינה מלאכותית על פני שלבים שונים בשרשרת התקפות הסייבר. הפעילויות נעות בין סיוע בסיור ובקידוד לפיתוח תוכנות זדוניות.
דווח כי קבוצת המדינה הלאומית הרוסית Forest Blizzard (APT28) השתמשה בשירותי OpenAI למחקר בקוד פתוח על פרוטוקולי תקשורת לוויינים וטכנולוגיית הדמיית מכ"ם, כמו גם למשימות סקריפטים. באופן דומה, גורמי איום אחרים כמו סמרגד האזמרגד (קימוסקי) של צפון קוריאה, סופת החול הארגמן של איראן (חתלתול אימפריאלי), וטייפון הפחמים של סין (פנדה מימית) וטייפון הסלמון (מאבריק פנדה) השתמשו ב-LLM למשימות כמו זיהוי מומחים, ביצוע מחקר , יצירת קטעי קוד ויצירת תוכן עבור מסעות פרסום דיוג.
בתגובה לאיום ההולך וגובר, מיקרוסופט נוקטת צעדים יזומים על ידי גיבוש מערכת עקרונות להפחתת סיכונים הקשורים לשימוש זדוני בכלי AI וממשקי API על ידי שחקנים במדינות לאום, איומים מתמשכים מתקדמים (APTs), מניפולטורים מתמשכים מתקדמים (APMs) , וסינדיקטים של פושעי רשת. העקרונות כוללים זיהוי ונקיטת פעולה נגד גורמים זדוניים, יידוע לספקי שירותי AI אחרים, שיתוף פעולה עם בעלי עניין והבטחת שקיפות בהתמודדות עם איומים אלו.
שיתוף הפעולה הזה בין מיקרוסופט ל-OpenAI מדגיש את הצורך במאמץ קולקטיבי להקמת מעקות בטיחות ומנגנוני בטיחות סביב מודלים של בינה מלאכותית , ומחזק את המחויבות לשימוש אחראי בינה מלאכותית ואבטחה מול איומי סייבר מתפתחים.