תוכנה זדונית שנוצרה בינה מלאכותית התגלתה והיא עלולה לשנות את אבטחת הסייבר כפי שאנו מכירים אותה

בעולם המתפתח של אבטחת סייבר, אנחנו יודעים מזה זמן מה שניתן למנף את הבינה המלאכותית ליצירת תוכנה זדונית. אבל ההתפתחויות האחרונות אותתו שעתיד תוכנות זדוניות שנוצרו על ידי AI עשוי להיות קרוב יותר ממה שאנחנו חושבים. HP יירטה לאחרונה מסע פרסום בדוא"ל שסיפק מטען תוכנה זדונית סטנדרטי באמצעות טפטפת שנוצרה בינה מלאכותית, מסמן שינוי משמעותי בטקטיקות פשעי סייבר.

סוג חדש של איום נמצא בפיתוח תוכנות זדוניות בינה מלאכותית

הגילוי התרחש ביוני 2024 כאשר צוות האבטחה של HP נתקל בדוא"ל פישינג שהציג פיתוי טיפוסי בנושא חשבונית. הקובץ המצורף היה קובץ HTML מוצפן - טכניקה המכונה הברחת HTML שנועדה להתחמק מזיהוי. בעוד שהברחת HTML אינה דבר חדש, למקרה הזה היה טוויסט מעניין. בדרך כלל, פושעי סייבר ישלחו קובץ מוצפן מראש, אך הפעם, התוקפים כללו את מפתח הפענוח של AES ישירות בתוך קוד ה-JavaScript של הקובץ המצורף. המוזרות הזו עוררה חקירה נוספת.

לאחר פענוח הקובץ המצורף, החוקרים של HP גילו שזה נראה אתר אינטרנט רגיל אבל חבוי בתוכו VBScript וגנב המידע הידוע לשמצה AsyncRAT. ה-VBScript פעל כמטפטף, פריסת מטען המידע של גניבת המידע, שינה את רישום המערכת והריץ JavaScript כמשימה מתוזמנת. לאחר מכן הופעל סקריפט PowerShell, והשלים את הפריסה של AsyncRAT.

למרות שחלק גדול מהתהליך הזה מוכר, פרט מרכזי אחד בלט: ה-VBScript היה בנוי בצורה יוצאת דופן והכיל הערות - מנהג לא שכיח בפיתוח תוכנות זדוניות. אפילו יותר מפתיע, התסריט נכתב בצרפתית. גורמים אלה הובילו את חוקרי HP להאמין שהטפטפת לא נוצרה על ידי אדם, אלא נוצרה על ידי AI.

תפקידה של AI בהורדת המחסום עבור פושעי סייבר

כדי לבדוק את התיאוריה שלהם, הצוות של HP השתמש בכלי AI משלהם כדי לשכפל את ה-VBScript. התסריט שהתקבל דמה דמיון בולט לזה ששימש בהתקפה. למרות שזו לא הוכחה מוחלטת, החוקרים בטוחים שבינה מלאכותית הייתה מעורבת ביצירת התוכנה הזדונית. אבל התעלומה מעמיקה: מדוע התוכנה הזדונית לא הוסתרה? מדוע נותרו ההערות בקוד?

אחד ההסברים האפשריים הוא שהתוקף היה עולה חדש לעולם פשעי הסייבר. תוכנות זדוניות שנוצרו על ידי בינה מלאכותית עשויות להנמיך את מחסומי הכניסה עבור האקרים לעתיד, על ידי הפיכת כלים כמו יצירת VBScript לנגישים לאנשים עם כישורים טכניים מינימליים. במקרה זה, AsyncRAT, המטען העיקרי, זמין באופן חופשי, וטכניקות כמו הברחת HTML אינן דורשות ידע נרחב בקידוד.

אלכס הולנד, חוקר איומים ראשי ב-HP, ציין שהתקפה זו דורשת מעט מאוד משאבים. לא הייתה תשתית מורכבת מלבד שרת פיקוד ושליטה (C&C) אחד לניהול הנתונים הגנובים. התוכנה הזדונית עצמה הייתה בסיסית וחסרה את הערפול הרגיל שנראה בהתקפות מתוחכמות יותר. בקיצור, ייתכן שזו הייתה עבודתו של האקר חסר ניסיון הממנף בינה מלאכותית כדי לבצע את המשימות הכבדות.

העתיד של תוכנה זדונית שנוצרת בינה מלאכותית

גילוי זה מעלה אפשרות מדאיגה נוספת. אם תוקף חסר ניסיון יכול להשאיר רמזים המצביעים על סקריפטים שנוצרו בינה מלאכותית, מה יכולים יריבים מנוסים יותר להשיג עם כלים דומים? פושעי סייבר מנוסים ככל הנראה יסירו את כל העקבות למעורבות בינה מלאכותית, מה שיהפוך את הגילוי להרבה יותר קשה, אם לא בלתי אפשרי.

"צפינו מזמן שניתן להשתמש בבינה מלאכותית ליצירת תוכנות זדוניות", אמר הולנד. "אבל זו אחת הדוגמאות הראשונות בעולם האמיתי שראינו. זהו צעד נוסף לעבר העתיד, שבו תוכנות זדוניות שנוצרו בינה מלאכותית יהפכו למתקדמים ונפוצים יותר".

ככל שטכנולוגיית הבינה המלאכותית ממשיכה להתקדם במהירות, ציר הזמן עבור תוכנות זדוניות שנוצרו על ידי בינה מלאכותית אוטונומית מלאה הולך ומצטמצם. למרות שקשה לחזות את ציר הזמן המדויק, מומחים כמו הולנד מאמינים שזה יכול לקרות בשנתיים הקרובות. איום הבינה המלאכותית לא מתנשא באופק - הוא כבר כאן.

מתכוננים לגל הבא של איומי סייבר

ככל שהקווים בין תוכנות זדוניות שנוצרו על ידי אנושי ותוכנות זדוניות שנוצרו בינה מלאכותית מטשטשים, נוף אבטחת הסייבר אמור להפוך למאתגר עוד יותר. אמנם התקרית הזו משמשת אזהרה, אבל היא גם הצצה לעתיד שבו AI ימלא תפקיד גדול יותר בהתקפות סייבר. אנשי מקצוע בתחום האבטחה חייבים להישאר ערניים, ולהתאים ללא הרף את ההגנות שלהם כדי להתמודד עם האיומים המתעוררים הללו.

כאשר תוכנות זדוניות שנוצרו על ידי בינה מלאכותית מופיעות לראשונה בטבע, זה לא מופרך לדמיין תקופה שבה התקפות מתוחכמות יותר, המונעות בינה מלאכותית הופכות לנורמה. כפי שהולנד מציעה בצורה מבשרת רעות, אולי אנחנו כבר אומרים, "הם כבר כאן! אתה הבא בתור! אתה הבא!"