לְהִזָהֵר! בינה מלאכותית עלולה לגרום להונאות להיראות לגיטימיות ולהפיץ איומי תוכנה זדונית כמו תוכנת כופר
מרכז אבטחת הסייבר הלאומי (NCSC), חלק מסוכנות הריגול GCHQ בבריטניה, פרסם אזהרה על האיום הגובר של התקפות סייבר המאפשרות בינה מלאכותית (AI). על פי הערכת ה-NCSC, כלי בינה מלאכותית גנרטיבית, שיכולים לייצר טקסט, קול ותמונות משכנעות מהנחיות פשוטות, מאתגרים את ההבחנה בין מיילים אמיתיים לאלה שנשלחים על ידי רמאים ושחקנים זדוניים.
הסוכנות צופה כי בינה מלאכותית, במיוחד בינה מלאכותית ומודלים של שפות גדולות המניעות צ'אטבוטים, יתרמו באופן משמעותי לעלייה באיומי הסייבר במהלך השנתיים הקרובות. אחד החששות העיקריים הוא הקושי לזהות סוגים שונים של התקפות, כגון פישינג, זיוף והנדסה חברתית.
התחכום של טכנולוגיית הבינה המלאכותית צפויה להפוך את זה למאתגר עבור אנשים, ללא קשר לרמת ההבנה שלהם בתחום אבטחת הסייבר, להעריך את הלגיטימיות של מיילים או בקשות לאיפוס סיסמה.
בינה מלאכותית יכולה לעזור להגדיל יעדי תוכנות כופר
גם התקפות כופר , אשר כוונו למוסדות כמו הספרייה הבריטית והדואר המלכותי בשנה האחרונה, צפויות לעלות. ה-NCSC מזהיר כי התחכום של AI מוריד את המחסום של פושעי סייבר חובבים לגשת למערכות, לאסוף מידע על מטרות ולבצע התקפות שעלולות לשתק מערכות מחשב, לחלץ נתונים רגישים ולדרוש כופר מטבעות קריפטוגרפיים.
כבר נעשה שימוש בכלי AI גנרטיביים ליצירת "מסמכי פיתוי" מזויפים שנראים משכנעים על ידי הימנעות משגיאות נפוצות שנמצאו בהתקפות דיוג. אמנם ייתכן שהיעילות של קוד תוכנת כופר לא תוגבר על ידי AI גנראטיבי, אך הוא יכול לסייע בזיהוי ובחירת יעדים. ה-NCSC מציע כי סביר להניח ששחקני המדינה יהיו המיומנים ביותר במינוף AI בפעולות סייבר מתקדמות.
טוב ורע של AI
בתגובה לאיום ההולך וגובר, ה-NCSC מדגיש כי בינה מלאכותית יכולה לשמש גם ככלי הגנתי, המאפשר זיהוי התקפות ותכנון מערכות מאובטחות יותר. הדו"ח עולה בקנה אחד עם הצגת הנחיות חדשות של ממשלת בריטניה, "קוד הנוהג של ממשל סייבר", המעודד עסקים להגביר את נכונותם להתאושש מהתקפות כופר. עם זאת, כמה מומחי אבטחת סייבר, כולל סיארן מרטין, ראש ה-NCSC לשעבר, טוענים לפעולה חזקה יותר, המציעים הערכה מחדש בסיסית של גישות לאיומי תוכנות כופר. מרטין מדגיש את הצורך בחוקים מחמירים יותר סביב תשלומי כופר ומזהיר מפני אסטרטגיות לא מציאותיות, כמו תגמול נגד פושעים במדינות עוינות.