ChatGPT मा ChatGPhish जोखिम

साइबरसुरक्षा अनुसन्धानकर्ताहरूले ओपनएआईको च्याटजीपीटीमा एउटा जोखिम पत्ता लगाएका छन् जसले मार्कडाउन लिङ्कहरू र छविहरूमा प्लेटफर्मको विश्वासको शोषण गर्दछ, जसले गर्दा द्रुत इन्जेक्सन आक्रमणहरू सक्षम हुन्छन् र नयाँ फिसिङ अवसरहरू सिर्जना हुन्छन्। च्याटजीफिश भनिने यो प्रविधिले कसरी एआई-संचालित सारांशलाई विश्वसनीय इन्टरफेस मार्फत प्रत्यक्ष रूपमा दुर्भावनापूर्ण सामग्री डेलिभर गर्न हेरफेर गर्न सकिन्छ भनेर देखाउँछ।

यो समस्या ChatGPT को प्रतिक्रिया रेन्डररले तेस्रो-पक्ष वेबपेजहरूबाट उत्पन्न हुने मार्कडाउन तत्वहरूलाई प्रशोधन गर्ने तरिकाबाट उत्पन्न हुन्छ। जब च्याटबोटले बाह्य सामग्रीको सारांश दिन्छ, यसले स्वचालित रूपमा एम्बेडेड मार्कडाउन लिङ्कहरू र छवि URL हरूलाई विश्वास गर्छ, रिमोट छविहरू ल्याउँछ र सहायकको इन्टरफेस भित्र सक्रिय, क्लिक गर्न मिल्ने तत्वहरूको रूपमा लिङ्कहरू प्रदर्शन गर्दछ।

आक्रमणको पछाडिको संयन्त्र

धम्की दिने व्यक्तिले पछि ChatGPT द्वारा संक्षेप गरिएको वेबपेज भित्र सानो दुर्भावनापूर्ण पेलोड इम्बेड गर्न सक्छ। रेन्डरिङ प्रक्रियाको क्रममा, आक्रमणकारी-नियन्त्रित छविहरू स्वचालित रूपमा प्राप्त हुन सक्छन्, जसले सम्भावित रूपमा पीडितको IP ठेगाना, प्रयोगकर्ता-एजेन्ट, र रेफरर विवरणहरू जस्ता जानकारी उजागर गर्दछ।

जानकारी चुहावटभन्दा बाहिर, जोखिमले दुर्भावनापूर्ण सामग्रीलाई अत्यधिक विश्वस्त तरिकाले प्रस्तुत गर्न अनुमति दिन्छ। आक्रमणकारीहरूले ChatGPT प्रतिक्रियाहरू भित्र सिधै फिसिङ लिङ्कहरू प्रस्तुत गर्न सक्छन्, धोखाधडी प्रणाली-शैली सुरक्षा चेतावनीहरू प्रदर्शन गर्न सक्छन्, र आक्रमणकारी-नियन्त्रित पूर्वाधारमा होस्ट गरिएका QR कोडहरू प्रस्तुत गर्न सक्छन्। यी QR कोडहरूले प्रयोगकर्ताहरूलाई डेस्कटप-आधारित URL फिल्टरिङ र इन्टरप्राइज सुरक्षा नियन्त्रणहरूलाई प्रभावकारी रूपमा बाइपास गर्दै, मोबाइल उपकरणहरूसँग स्क्यान गर्न प्रोत्साहित गर्न सक्छन्।

ChatGPhish लाई विशेष रूपमा महत्त्वपूर्ण बनाउने कुरा भनेको प्रम्प्ट इन्जेक्सन आफैंमा होइन, तर AI प्रणालीले इम्बेडेड निर्देशनहरू विश्वासपूर्वक पालना गर्छ र परिणामस्वरूप सामग्रीलाई विश्वसनीय सारांशको भागको रूपमा प्रस्तुत गर्दछ भन्ने तथ्य हो। त्यसैले साधारण देखिने वेबपेजले AI सहायकको प्रतिक्रिया भित्र सिधै फिसिङ लिङ्कहरू, नक्कली खाता अलर्टहरू, रिमोट छविहरू, र दुर्भावनापूर्ण QR कोडहरू उत्पन्न गर्न सक्छ।

एआई-सहायता प्राप्त ब्राउजिङको विस्तारित खतरा सतह

यो खोजले फराकिलो सुरक्षा चुनौतीलाई हाइलाइट गर्दछ: सारांशीकरण नयाँ विरोधी आक्रमण सतहको रूपमा देखा परेको छ। मार्च २०२६ को सुरुमा, अनुसन्धानकर्ताहरूले प्रदर्शन गरे कि विशेष रूपमा तयार पारिएका इमेलहरूले क्रस-प्रम्प्ट इन्जेक्सन (XPIA) मार्फत माइक्रोसफ्ट कोपाइलटलाई हेरफेर गर्न सक्छन्, लुकेका निर्देशनहरू मार्फत एआई-उत्पन्न सारांशहरूलाई प्रभाव पार्दै।

अनुसन्धान र सामग्री विश्लेषणको लागि संस्थाहरू बढ्दो रूपमा एआई उपकरणहरूमा निर्भर हुँदै जाँदा, एआई सहायकद्वारा प्रशोधन गरिएको कुनै पनि दुर्भावनापूर्ण वेबपेजले मोडेलको सन्दर्भमा आक्रमणकारी-नियन्त्रित निर्देशनहरू परिचय गराउन सक्छ। यसले फिसिङ रणनीतिहरूमा ठूलो परिवर्तनलाई प्रतिनिधित्व गर्दछ। प्रयोगकर्ताहरूलाई शंकास्पद संलग्नकहरू खोल्न वा दुर्भावनापूर्ण इमेलहरूसँग संलग्न हुन आवश्यक पर्नुको सट्टा, आक्रमणकारीहरूले नियमित ब्राउजिङ गतिविधि र एआई सारांश कार्यप्रवाहलाई हतियार बनाउन सक्छन्।

इमेल वातावरणबाट ब्राउजर-आधारित एआई अन्तरक्रियामा आक्रमणहरूको स्थानान्तरणले उपलब्ध आक्रमण सतहलाई नाटकीय रूपमा फराकिलो बनाउँछ। वेबपेजको सारांश अनुरोध गर्नु मात्र प्रयोगकर्ताहरूलाई अप्रत्यक्ष प्रम्प्ट इन्जेक्सन प्रविधिहरू मार्फत उत्पन्न हुने दुर्भावनापूर्ण सामग्रीमा पर्दाफास गर्न पर्याप्त हुन सक्छ।

एआई सुरक्षा बाइपास प्रविधिको बढ्दो लहर

कृत्रिम बुद्धिमत्ता प्रणालीहरूलाई लक्षित गर्ने नयाँ आक्रमण विधिहरू प्रकट गर्ने अनुसन्धानको बृद्धिको बीचमा ChatGPhish को खुलासा आएको छ। हालैका निष्कर्षहरूमा समावेश छन्:

• अनैच्छिक इन-कन्टेक्स्ट लर्निङ (IICL) जेलब्रेक प्रविधि, जसले GPT-5.4 प्रतिबन्धहरू बाइपास गर्न इन-कन्टेक्स्ट लर्निङ र सुरक्षा पङ्क्तिबद्धता बीचको द्वन्द्वको शोषण गर्दछ; ठूला भाषा मोडेल सुरक्षाहरूलाई बिस्तारै बेवास्ता गर्ने बहु-पालो कुराकानी रणनीतिहरू; दृश्यात्मक रूपमा विकृत छविहरू भित्र निर्देशनहरू लुकाउने टाइपोग्राफिक प्रम्प्ट इन्जेक्सन आक्रमणहरू; एप्पल इन्टेलिजेन्स सुरक्षाहरूलाई बाइपास गर्न युनिकोड दायाँ-देखि-बायाँ ओभरराइड प्रविधिहरूसँग संयुक्त न्यूरल एक्जिक आक्रमणहरू; र WebPromptTrap, ब्राउजरओएसलाई असर गर्ने अप्रत्यक्ष प्रम्प्ट इन्जेक्सन जोखिम जसले प्रयोगकर्ताहरूलाई वैध सामग्रीको एआई-उत्पन्न सारांशहरू मार्फत हेरफेर गर्दछ।
• एआई इकोसिस्टम र एजेन्ट फ्रेमवर्कलाई असर गर्ने सुरक्षा कमजोरीहरू, जसमा एन्थ्रोपिक क्लाउड कोडमा रहेको जोखिम समावेश छ जसले एक दुष्ट एनपीएम प्याकेज मार्फत ओएथ-समर्थित एमसीपी सञ्चारहरूको अवरोध सक्षम पारेको छ; ओपनक्लाउ सीपहरूलाई लक्षित गर्ने रिमोट अपडेट मेकानिज्म दुरुपयोग परिदृश्य; एआई-संचालित इमेल सुरक्षा उत्पादनहरूलाई धोका दिन डिजाइन गरिएको लुकेको-पाठ फिसिङ अभियानहरू; क्लाउडलाई अनधिकृत आदेशहरू जारी गर्न ब्राउजर एक्सटेन्सनहरूलाई अनुमति दिने क्लाउडब्लिड जोखिम; होस्ट-स्तर रिमोट कोड कार्यान्वयनमा प्रम्प्ट इंजेक्शनहरू बढाउन सक्षम माइक्रोसफ्ट सिमेन्टिक कर्नेल (CVE-2026-25592 र CVE-2026-26030) मा महत्वपूर्ण जोखिमहरू; ClawHub र skills.sh एजेन्ट रिपोजिटरीहरू भित्र व्यापक सुरक्षा कमजोरीहरू; र NVIDIA को NemoClaw सन्दर्भ स्ट्याक विरुद्ध आक्रमणहरू जसले दुर्भावनापूर्ण GitHub रिपोजिटरीहरू र npm प्याकेजहरू मार्फत ओपनक्लाउ डेटा एक्सफिल्टरेशन सक्षम पारेको छ।

एआई-संचालित साइबर खतराहरूको भविष्य

उन्नत एआई मोडेलहरू परिपक्व हुँदै जाँदा, साइबर अपराधीहरूले आफ्नो आक्रामक क्षमताहरूको प्रयोग बढ्दो रूपमा गरिरहेका छन्। धम्की दिने अभिनेताहरूले पत्ता लगाउने संयन्त्रबाट बच्न यसको व्यवहार परिमार्जन गर्न सक्षम थप अनुकूली मालवेयर विकास गर्न ठूला भाषा मोडेलहरूको फाइदा उठाइरहेका छन्।

थप रूपमा, एआई प्रणालीहरूलाई मालवेयर निर्णय प्रक्रियाहरूमा समावेश गरिँदैछ। यी क्षमताहरूले मालिसियस सफ्टवेयरलाई सम्झौता गरिएको वातावरणको मूल्याङ्कन गर्न, लक्ष्यहरू मूल्यवान छन् कि छैनन् भनेर निर्धारण गर्न, र थप पेलोडहरू तैनाथ गर्नका लागि अवस्थाहरू उपयुक्त छन् कि छैनन् भनेर निर्णय गर्न सक्षम बनाउँछन्।

च्याटजीफिश अनुसन्धानले अर्को सम्झना गराउँछ कि एआई प्रविधिहरूले पूर्ण रूपमा नयाँ सुरक्षा विचारहरू प्रस्तुत गर्दछ। एआई सहायकहरू उद्यम कार्यप्रवाहमा गहिरो रूपमा एकीकृत हुँदै जाँदा, अप्रत्यक्ष प्रम्प्ट इंजेक्शनहरू, हेरफेर गरिएका सारांशहरू, र विश्वास-आधारित इन्टरफेस दुरुपयोगहरूबाट सुरक्षा साइबर सुरक्षा रणनीतिको बढ्दो रूपमा महत्वपूर्ण घटक बन्नेछ।