פגיעות של ChatGPhish ב-ChatGPT

חוקרי אבטחת סייבר חשפו פגיעות ב-ChatGPT של OpenAI, אשר מנצלת את אמון הפלטפורמה בקישורים ובתמונות של Markdown, ומאפשרת התקפות הזרקה מהירות ויוצרת הזדמנויות חדשות לפישינג. הטכניקה, המכונה ChatGPhish, מדגימה כיצד ניתן לתפעל סיכום המופעל על ידי בינה מלאכותית כדי לספק תוכן זדוני ישירות דרך ממשק אמין.

הבעיה נובעת מהאופן שבו מעבד התגובות של ChatGPT מעבד אלמנטים של Markdown שמקורם בדפי אינטרנט של צד שלישי. כאשר הצ'אטבוט מסכם תוכן חיצוני, הוא סומך אוטומטית על קישורי Markdown מוטמעים וכתובות URL של תמונות, מאחזר תמונות מרוחקות ומציג קישורים כאלמנטים פעילים הניתנים ללחיצה בתוך ממשק העוזר.

המכניקה שמאחורי ההתקפה

גורם איום יכול להטמיע מטען זדוני קטן בתוך דף אינטרנט, אשר מסוכם מאוחר יותר על ידי ChatGPT. במהלך תהליך הרינדור, תמונות הנשלטות על ידי התוקף עשויות להיאסף אוטומטית, דבר שעלול לחשוף מידע כגון כתובת ה-IP של הקורבן, פרטי סוכן המשתמש ופרטי המפנה.

מעבר לדליפת מידע, הפגיעות מאפשרת הצגת תוכן זדוני בדרכים משכנעות ביותר. תוקפים יכולים להציג קישורי פישינג ישירות בתוך תגובות ChatGPT, להציג אזהרות אבטחה הונאה בסגנון מערכת ולהציג קודי QR המתארחים בתשתית הנשלטת על ידי התוקף. קודי QR אלה עשויים לעודד משתמשים לסרוק אותם באמצעות מכשירים ניידים, ובכך לעקוף ביעילות סינון כתובות URL מבוססות שולחן עבודה ובקרות אבטחה ארגוניות.

מה שהופך את ChatGPhish למשמעותי במיוחד אינו ההזרקה המהירה עצמה, אלא העובדה שמערכת הבינה המלאכותית עוקבת בנאמנות אחר הוראות מוטמעות ומציגה את התוכן המתקבל כחלק מסיכום מהימן. לכן, דף אינטרנט שנראה רגיל יכול ליצור קישורי פישינג, התראות על חשבונות מזויפים, תמונות מרוחקות וקודי QR זדוניים ישירות בתוך תגובת עוזר בינה מלאכותית.

משטח האיום המתרחב של גלישה בעזרת בינה מלאכותית

התגלית מדגישה אתגר אבטחה רחב יותר: סיכומים צצו כמשטח חדש להתקפה עוינת. מוקדם יותר במרץ 2026, חוקרים הדגימו כי מיילים שנוצרו במיוחד יכולים לתמרן את Microsoft Copilot באמצעות הזרקת פקודות צולבות (XPIA), ולהשפיע על סיכומים שנוצרו על ידי בינה מלאכותית באמצעות הוראות נסתרות.

ככל שארגונים מסתמכים יותר ויותר על כלי בינה מלאכותית למחקר וניתוח תוכן, כל דף אינטרנט זדוני המעובד על ידי עוזר בינה מלאכותית עלול להכניס הוראות הנשלטות על ידי התוקף להקשר של המודל. זהו שינוי משמעותי בטקטיקות פישינג. במקום לדרוש ממשתמשים לפתוח קבצים מצורפים חשודים או לעסוק באימיילים זדוניים, תוקפים יכולים להפוך לנשק של פעילות גלישה שגרתית וזרימות עבודה של סיכום בינה מלאכותית.

נדידת התקפות מסביבות דוא"ל לאינטראקציות מבוססות בינה מלאכותית מבוססות דפדפן מרחיבה באופן דרמטי את משטח ההתקפה הזמין. בקשת סיכום של דף אינטרנט עשויה להספיק כדי לחשוף משתמשים לתוכן זדוני שנוצר באמצעות טכניקות הזרקת מידע עקיפות.

גל הולך וגדל של טכניקות עוקף אבטחה של בינה מלאכותית

הגילוי של ChatGPhish מגיע על רקע גל של מחקרים שחושפים שיטות תקיפה חדשות המכוונות למערכות בינה מלאכותית. ממצאים אחרונים כוללים:

• טכניקת ה-Jailbreak של למידה בהקשר בלתי רצונית (IICL), המנצלת קונפליקטים בין למידה בהקשר לבין יישור בטיחות כדי לעקוף את מגבלות GPT-5.4; אסטרטגיות שיחה מרובות-תורות שעוקפות בהדרגה את אמצעי ההגנה של מודל שפה גדול; התקפות הזרקת הנחיות טיפוגרפיות שמסתירות הוראות בתוך תמונות מעוותות ויזואלית; התקפות Neural Exec בשילוב עם טכניקות עקיפה מימין לשמאל של Unicode כדי לעקוף את הגנות Apple Intelligence; ו-WebPromptTrap, פגיעות הזרקת הנחיות עקיפה המשפיעה על BrowserOS ושהשתלטה על משתמשים באמצעות תקצירים שנוצרו על ידי בינה מלאכותית של תוכן שנראה לגיטימי.
• חולשות אבטחה המשפיעות על מערכות אקולוגיות של בינה מלאכותית ומסגרות סוכנים, כולל פגיעות ב-Anthropic Claude Code שאפשרה יירוט של תקשורת MCP מגובה ב-OAuth דרך חבילת npm זדונית; תרחיש ניצול לרעה של מנגנון עדכון מרחוק המכוון למיומנויות OpenClaw; קמפיינים של פישינג באמצעות טקסט מוסתר שנועדו להטעות מוצרי אבטחת דוא"ל המופעלים על ידי בינה מלאכותית; הפגיעות ClaudeBleed שאפשרה לתוספי דפדפן להוציא פקודות לא מורשות ל-Claude; פגיעויות קריטיות בליבת Microsoft Semantic Kernel (CVE-2026-25592 ו-CVE-2026-26030) המסוגלות להסלים הזרות מהירות לביצוע קוד מרחוק ברמת המארח; פגמי אבטחה נרחבים במאגרי סוכנים ClawHub ו-skills.sh; והתקפות נגד מחסנית הייחוס NemoClaw של NVIDIA שאפשרה חילוץ נתונים של OpenClaw דרך מאגרי GitHub זדוניים וחבילות npm.

עתיד איומי הסייבר המונעים על ידי בינה מלאכותית

ככל שמודלים מתקדמים של בינה מלאכותית ממשיכים להתפתח, פושעי סייבר מתנסים יותר ויותר ביכולות ההתקפיות שלהם. גורמי איום ממנפים מודלים של שפה גדולה כדי לפתח תוכנות זדוניות אדפטיביות יותר המסוגלות לשנות את התנהגותן כדי להתחמק ממנגנוני גילוי.

בנוסף, מערכות בינה מלאכותית משולבות בתהליכי קבלת החלטות בנוגע לתוכנות זדוניות. יכולות אלו מאפשרות לתוכנות זדוניות להעריך סביבות פגועות, לקבוע האם מטרות הן בעלות ערך ולהחליט האם התנאים מתאימים לפריסת מטענים נוספים.

מחקר ChatGPhish משמש תזכורת נוספת לכך שטכנולוגיות בינה מלאכותית מציגות שיקולי אבטחה חדשים לחלוטין. ככל שעוזרי בינה מלאכותית משתלבים עמוק בזרימות עבודה ארגוניות, הגנה מפני הזריקות עקיפות של בקשות, סיכומים מניפולטיביים וניצול לרעה של ממשק מבוסס אמון תהפוך למרכיב קריטי יותר ויותר באסטרטגיית אבטחת הסייבר.