آسیب‌پذیری ChatGPhish در ChatGPT

محققان امنیت سایبری یک آسیب‌پذیری در ChatGPT شرکت OpenAI کشف کرده‌اند که از اعتماد این پلتفرم به لینک‌ها و تصاویر Markdown سوءاستفاده می‌کند و حملات تزریق سریع را ممکن می‌سازد و فرصت‌های فیشینگ جدیدی ایجاد می‌کند. این تکنیک که ChatGPhish نام دارد، نشان می‌دهد که چگونه می‌توان خلاصه‌سازی مبتنی بر هوش مصنوعی را دستکاری کرد تا محتوای مخرب را مستقیماً از طریق یک رابط قابل اعتماد ارائه دهد.

این مشکل ناشی از نحوه پردازش عناصر Markdown ناشی از صفحات وب شخص ثالث توسط رندرکننده پاسخ ChatGPT است. هنگامی که این چت‌بات محتوای خارجی را خلاصه می‌کند، به طور خودکار به لینک‌های Markdown جاسازی‌شده و URLهای تصاویر اعتماد می‌کند، تصاویر از راه دور را دریافت کرده و لینک‌ها را به عنوان عناصر فعال و قابل کلیک در رابط دستیار نمایش می‌دهد.

سازوکار پشت این حمله

یک عامل تهدید می‌تواند یک فایل مخرب کوچک را در یک صفحه وب جاسازی کند که بعداً توسط ChatGPT خلاصه می‌شود. در طول فرآیند رندر، تصاویر تحت کنترل مهاجم ممکن است به طور خودکار واکشی شوند و به طور بالقوه اطلاعاتی مانند آدرس IP قربانی، عامل کاربر و جزئیات ارجاع دهنده را افشا کنند.

فراتر از نشت اطلاعات، این آسیب‌پذیری امکان ارائه محتوای مخرب را به روش‌های بسیار متقاعدکننده فراهم می‌کند. مهاجمان می‌توانند لینک‌های فیشینگ را مستقیماً در پاسخ‌های ChatGPT نمایش دهند، هشدارهای امنیتی جعلی به سبک سیستم نمایش دهند و کدهای QR میزبانی شده در زیرساخت‌های تحت کنترل مهاجم را ارائه دهند. این کدهای QR ممکن است کاربران را تشویق کنند که آنها را با دستگاه‌های تلفن همراه اسکن کنند و به طور مؤثر فیلترینگ URL مبتنی بر دسکتاپ و کنترل‌های امنیتی سازمانی را دور بزنند.

چیزی که ChatGPhish را به طور خاص مهم می‌کند، خود تزریق سریع نیست، بلکه این واقعیت است که سیستم هوش مصنوعی با دقت دستورالعمل‌های تعبیه‌شده را دنبال می‌کند و محتوای حاصل را به عنوان بخشی از یک خلاصه قابل اعتماد ارائه می‌دهد. بنابراین، یک صفحه وب به ظاهر معمولی می‌تواند پیوندهای فیشینگ، هشدارهای حساب جعلی، تصاویر از راه دور و کدهای QR مخرب را مستقیماً در پاسخ یک دستیار هوش مصنوعی ایجاد کند.

سطح تهدید رو به گسترش مرور وب با کمک هوش مصنوعی

این کشف، یک چالش امنیتی گسترده‌تر را برجسته می‌کند: خلاصه‌سازی به عنوان یک سطح حمله خصمانه جدید ظهور کرده است. پیش از این در مارس ۲۰۲۶، محققان نشان دادند که ایمیل‌های دستکاری‌شده خاص می‌توانند از طریق تزریق سریع (XPIA) مایکروسافت کوپایلوت را دستکاری کنند و خلاصه‌های تولید شده توسط هوش مصنوعی را از طریق دستورالعمل‌های پنهان تحت تأثیر قرار دهند.

از آنجایی که سازمان‌ها به طور فزاینده‌ای برای تحقیق و تحلیل محتوا به ابزارهای هوش مصنوعی متکی هستند، هر صفحه وب مخربی که توسط یک دستیار هوش مصنوعی پردازش می‌شود، ممکن است دستورالعمل‌های تحت کنترل مهاجم را در متن مدل وارد کند. این نشان دهنده یک تغییر عمده در تاکتیک‌های فیشینگ است. به جای اینکه کاربران را ملزم به باز کردن پیوست‌های مشکوک یا تعامل با ایمیل‌های مخرب کنند، مهاجمان می‌توانند از فعالیت‌های معمول مرور وب و گردش‌های کاری خلاصه‌سازی هوش مصنوعی به عنوان سلاح استفاده کنند.

مهاجرت حملات از محیط‌های ایمیل به تعاملات هوش مصنوعی مبتنی بر مرورگر، سطح حمله موجود را به طرز چشمگیری گسترش می‌دهد. درخواست خلاصه‌ای از یک صفحه وب ممکن است برای قرار دادن کاربران در معرض محتوای مخرب تولید شده از طریق تکنیک‌های تزریق غیرمستقیم سریع کافی باشد.

موج رو به رشدی از تکنیک‌های دور زدن امنیت هوش مصنوعی

افشای ChatGPhish در بحبوحه موجی از تحقیقات صورت گرفته که روش‌های جدید حمله به سیستم‌های هوش مصنوعی را آشکار می‌کند. یافته‌های اخیر عبارتند از:

• تکنیک فرار از زندان با یادگیری غیرارادی در متن (IICL)، که از تضاد بین یادگیری در متن و ترازبندی ایمنی برای دور زدن محدودیت‌های GPT-5.4 سوءاستفاده می‌کند؛ استراتژی‌های مکالمه چند نوبتی که به تدریج از محافظ‌های مدل زبان بزرگ عبور می‌کنند؛ حملات تزریق اعلان تایپوگرافی که دستورالعمل‌ها را در تصاویر تحریف‌شده بصری پنهان می‌کنند؛ حملات Neural Exec همراه با تکنیک‌های لغو راست به چپ یونیکد برای دور زدن محافظت‌های Apple Intelligence؛ و WebPromptTrap، یک آسیب‌پذیری تزریق اعلان غیرمستقیم که بر BrowserOS تأثیر می‌گذارد و کاربران را از طریق خلاصه‌های تولید شده توسط هوش مصنوعی از محتوای به ظاهر مشروع دستکاری می‌کند.
• نقاط ضعف امنیتی که بر اکوسیستم‌های هوش مصنوعی و چارچوب‌های عامل تأثیر می‌گذارند، از جمله آسیب‌پذیری در کد Anthropic Claude که امکان رهگیری ارتباطات MCP پشتیبانی‌شده توسط OAuth را از طریق یک بسته npm جعلی فراهم می‌کرد؛ یک سناریوی سوءاستفاده از مکانیسم به‌روزرسانی از راه دور که مهارت‌های OpenClaw را هدف قرار می‌داد؛ کمپین‌های فیشینگ متن پنهان که برای فریب محصولات امنیتی ایمیل مبتنی بر هوش مصنوعی طراحی شده بودند؛ آسیب‌پذیری ClaudeBleed که به افزونه‌های مرورگر اجازه می‌داد دستورات غیرمجاز را به Claude صادر کنند؛ آسیب‌پذیری‌های حیاتی در هسته معنایی مایکروسافت (CVE-2026-25592 و CVE-2026-26030) که قادر به تشدید تزریق‌های سریع به اجرای کد از راه دور در سطح میزبان بودند؛ نقص‌های امنیتی گسترده در مخازن عامل ClawHub و skills.sh؛ و حملات علیه پشته مرجع NemoClaw انویدیا که امکان استخراج داده‌های OpenClaw را از طریق مخازن GitHub مخرب و بسته‌های npm فراهم می‌کرد.

آینده تهدیدات سایبری مبتنی بر هوش مصنوعی

همزمان با بلوغ مدل‌های پیشرفته هوش مصنوعی، مجرمان سایبری به طور فزاینده‌ای در حال آزمایش قابلیت‌های تهاجمی خود هستند. عاملان تهدید از مدل‌های زبانی بزرگ برای توسعه بدافزارهای تطبیق‌پذیرتر که قادر به تغییر رفتار خود برای فرار از مکانیسم‌های تشخیص هستند، استفاده می‌کنند.

علاوه بر این، سیستم‌های هوش مصنوعی در فرآیندهای تصمیم‌گیری بدافزارها گنجانده می‌شوند. این قابلیت‌ها، نرم‌افزارهای مخرب را قادر می‌سازد تا محیط‌های آسیب‌دیده را ارزیابی کنند، تعیین کنند که آیا اهداف ارزشمند هستند یا خیر و تصمیم بگیرند که آیا شرایط برای استقرار بارهای اضافی مناسب است یا خیر.

تحقیقات ChatGPhish یادآوری دیگری است که فناوری‌های هوش مصنوعی، ملاحظات امنیتی کاملاً جدیدی را معرفی می‌کنند. با ادغام عمیق دستیاران هوش مصنوعی در گردش‌های کاری سازمانی، محافظت در برابر تزریق‌های غیرمستقیم سریع، خلاصه‌های دستکاری‌شده و سوءاستفاده‌های رابط مبتنی بر اعتماد، به طور فزاینده‌ای به یک مؤلفه حیاتی در استراتژی امنیت سایبری تبدیل خواهد شد.