ChatGPT में ChatGPhish भेद्यता

साइबर सुरक्षा शोधकर्ताओं ने OpenAI के ChatGPT में एक खामी का पता लगाया है जो Markdown लिंक और छवियों पर प्लेटफॉर्म के भरोसे का फायदा उठाती है, जिससे त्वरित इंजेक्शन हमले संभव हो पाते हैं और फ़िशिंग के नए अवसर पैदा होते हैं। ChatGPhish नामक यह तकनीक दर्शाती है कि कैसे AI-आधारित सारांश का दुरुपयोग करके दुर्भावनापूर्ण सामग्री को सीधे एक विश्वसनीय इंटरफ़ेस के माध्यम से पहुंचाया जा सकता है।

यह समस्या चैटजीपीटी के रिस्पॉन्स रेंडरर द्वारा तृतीय-पक्ष वेबपेजों से उत्पन्न मार्कडाउन तत्वों को संसाधित करने के तरीके से संबंधित है। जब चैटबॉट बाहरी सामग्री का सारांश प्रस्तुत करता है, तो यह स्वचालित रूप से एम्बेडेड मार्कडाउन लिंक और छवि यूआरएल पर भरोसा करता है, दूरस्थ छवियों को प्राप्त करता है और सहायक के इंटरफ़ेस के भीतर सक्रिय, क्लिक करने योग्य तत्वों के रूप में लिंक प्रदर्शित करता है।

हमले के पीछे की कार्यप्रणाली

हमलावर किसी वेबपेज में एक छोटा सा दुर्भावनापूर्ण पेलोड एम्बेड कर सकता है, जिसे बाद में ChatGPT द्वारा संक्षेपित किया जाता है। रेंडरिंग प्रक्रिया के दौरान, हमलावर द्वारा नियंत्रित छवियां स्वचालित रूप से प्राप्त की जा सकती हैं, जिससे पीड़ित के आईपी पते, यूजर-एजेंट और रेफरर विवरण जैसी जानकारी उजागर हो सकती है।

सूचना लीक होने के अलावा, यह खामी दुर्भावनापूर्ण सामग्री को बेहद विश्वसनीय तरीके से प्रस्तुत करने की अनुमति देती है। हमलावर चैटजीपीटी प्रतिक्रियाओं में सीधे फ़िशिंग लिंक दिखा सकते हैं, फर्जी सिस्टम-शैली की सुरक्षा चेतावनियाँ प्रदर्शित कर सकते हैं और हमलावर-नियंत्रित बुनियादी ढांचे पर होस्ट किए गए क्यूआर कोड प्रस्तुत कर सकते हैं। ये क्यूआर कोड उपयोगकर्ताओं को मोबाइल उपकरणों से उन्हें स्कैन करने के लिए प्रोत्साहित कर सकते हैं, जिससे डेस्कटॉप-आधारित यूआरएल फ़िल्टरिंग और एंटरप्राइज़ सुरक्षा नियंत्रणों को प्रभावी ढंग से दरकिनार किया जा सकता है।

ChatGPhish की खासियत यह नहीं है कि इसमें प्रॉम्प्ट को जबरदस्ती डाला जाता है, बल्कि यह है कि AI सिस्टम इसमें दिए गए निर्देशों का पूरी तरह से पालन करता है और परिणामी सामग्री को एक विश्वसनीय सारांश के रूप में प्रस्तुत करता है। इस प्रकार, एक साधारण दिखने वाला वेबपेज सीधे AI सहायक की प्रतिक्रिया के भीतर फ़िशिंग लिंक, नकली खाता अलर्ट, दूरस्थ चित्र और दुर्भावनापूर्ण QR कोड उत्पन्न कर सकता है।

एआई-सहायता प्राप्त ब्राउज़िंग का बढ़ता खतरा

इस खोज से एक व्यापक सुरक्षा चुनौती उजागर होती है: सारांशीकरण एक नए प्रकार के आक्रमण का स्रोत बनकर उभरा है। मार्च 2026 में, शोधकर्ताओं ने प्रदर्शित किया कि विशेष रूप से तैयार किए गए ईमेल क्रॉस-प्रॉम्प्ट इंजेक्शन (XPIA) के माध्यम से माइक्रोसॉफ्ट कोपायलट को प्रभावित कर सकते हैं, जिससे छिपे हुए निर्देशों के माध्यम से AI द्वारा उत्पन्न सारांश प्रभावित होते हैं।

जैसे-जैसे संगठन अनुसंधान और सामग्री विश्लेषण के लिए एआई उपकरणों पर अधिकाधिक निर्भर होते जा रहे हैं, एआई सहायक द्वारा संसाधित कोई भी दुर्भावनापूर्ण वेबपेज मॉडल के संदर्भ में हमलावर-नियंत्रित निर्देश डाल सकता है। यह फ़िशिंग रणनीति में एक बड़ा बदलाव दर्शाता है। उपयोगकर्ताओं को संदिग्ध अटैचमेंट खोलने या दुर्भावनापूर्ण ईमेल से जुड़ने के लिए बाध्य करने के बजाय, हमलावर नियमित ब्राउज़िंग गतिविधि और एआई सारांश वर्कफ़्लो का दुरुपयोग कर सकते हैं।

ईमेल आधारित वातावरण से ब्राउज़र आधारित एआई इंटरैक्शन में हमलों के स्थानांतरण से उपलब्ध आक्रमण क्षेत्र में नाटकीय रूप से विस्तार हुआ है। किसी वेबपेज का सारांश मांगने मात्र से ही उपयोगकर्ता अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन तकनीकों द्वारा उत्पन्न दुर्भावनापूर्ण सामग्री के संपर्क में आ सकते हैं।

एआई सुरक्षा को दरकिनार करने की तकनीकों की बढ़ती लहर

ChatGPhish का खुलासा कृत्रिम बुद्धिमत्ता प्रणालियों को निशाना बनाने वाले नए हमले के तरीकों को उजागर करने वाले शोधों की बढ़ती संख्या के बीच हुआ है। हाल के निष्कर्षों में शामिल हैं:

• इनवॉलंटरी इन-कॉन्टेक्स्ट लर्निंग (IICL) जेलब्रेक तकनीक, जो GPT-5.4 प्रतिबंधों को दरकिनार करने के लिए इन-कॉन्टेक्स्ट लर्निंग और सेफ्टी अलाइनमेंट के बीच टकराव का फायदा उठाती है; मल्टी-टर्न कन्वर्सेशन स्ट्रेटेजी जो धीरे-धीरे बड़े लैंग्वेज मॉडल सुरक्षा उपायों को दरकिनार कर देती हैं; टाइपोग्राफिक प्रॉम्प्ट इंजेक्शन अटैक जो दृष्टिगत रूप से विकृत छवियों के भीतर निर्देशों को छिपाते हैं; न्यूरल एक्सेक अटैक जो एप्पल इंटेलिजेंस सुरक्षा को दरकिनार करने के लिए यूनिकोड राइट-टू-लेफ्ट ओवरराइड तकनीकों के साथ संयुक्त हैं; और वेबप्रॉम्प्टट्रैप, एक अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन भेद्यता जो ब्राउज़रओएस को प्रभावित करती है और दिखने में वैध सामग्री के एआई-जनित सारांशों के माध्यम से उपयोगकर्ताओं को गुमराह करती है।
• एआई इकोसिस्टम और एजेंट फ्रेमवर्क को प्रभावित करने वाली सुरक्षा कमजोरियां, जिनमें एंथ्रोपिक क्लाउड कोड में एक भेद्यता शामिल है, जिसने एक दुर्भावनापूर्ण एनपीएम पैकेज के माध्यम से ओएऑथ-समर्थित एमसीपी संचार को बाधित करने में सक्षम बनाया; ओपनक्लॉ कौशल को लक्षित करने वाला एक रिमोट अपडेट तंत्र दुरुपयोग परिदृश्य; एआई-संचालित ईमेल सुरक्षा उत्पादों को धोखा देने के लिए डिज़ाइन किए गए छिपे हुए टेक्स्ट फ़िशिंग अभियान; क्लाउडब्लीड भेद्यता जिसने ब्राउज़र एक्सटेंशन को क्लाउड को अनधिकृत कमांड जारी करने की अनुमति दी; माइक्रोसॉफ्ट सिमेंटिक कर्नेल (CVE-2026-25592 और CVE-2026-26030) में गंभीर कमजोरियां जो होस्ट-स्तरीय रिमोट कोड निष्पादन में प्रॉम्प्ट इंजेक्शन को बढ़ाने में सक्षम हैं; क्लॉहब और skills.sh एजेंट रिपॉजिटरी के भीतर व्यापक सुरक्षा खामियां; और एनवीडिया के नेमोक्लॉ संदर्भ स्टैक के खिलाफ हमले जिन्होंने दुर्भावनापूर्ण गिटहब रिपॉजिटरी और एनपीएम पैकेज के माध्यम से ओपनक्लॉ डेटा एक्सफ़िल्ट्रेशन को सक्षम बनाया।

एआई-संचालित साइबर खतरों का भविष्य

जैसे-जैसे उन्नत एआई मॉडल परिपक्व होते जा रहे हैं, साइबर अपराधी अपनी आक्रमणकारी क्षमताओं के साथ प्रयोग करते जा रहे हैं। खतरा पैदा करने वाले संगठन बड़े भाषा मॉडलों का लाभ उठाकर अधिक अनुकूलनीय मैलवेयर विकसित कर रहे हैं जो पहचान तंत्र से बचने के लिए अपने व्यवहार को बदलने में सक्षम हैं।

इसके अलावा, मैलवेयर के निर्णय लेने की प्रक्रियाओं में एआई सिस्टम को शामिल किया जा रहा है। ये क्षमताएं दुर्भावनापूर्ण सॉफ़्टवेयर को असुरक्षित वातावरण का मूल्यांकन करने, यह निर्धारित करने में सक्षम बनाती हैं कि लक्ष्य मूल्यवान हैं या नहीं, और यह तय करने में कि अतिरिक्त पेलोड तैनात करने के लिए स्थितियां उपयुक्त हैं या नहीं।

ChatGPhish शोध इस बात की एक और याद दिलाता है कि AI तकनीकें सुरक्षा संबंधी बिल्कुल नए पहलुओं को सामने लाती हैं। जैसे-जैसे AI सहायक उद्यमों के कार्यप्रवाह में गहराई से एकीकृत होते जा रहे हैं, अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन, हेरफेर किए गए सारांश और विश्वास-आधारित इंटरफ़ेस दुरुपयोग से सुरक्षा साइबर सुरक्षा रणनीति का एक महत्वपूर्ण घटक बन जाएगी।