Dobësia e ChatGPhish në ChatGPT

Studiuesit e sigurisë kibernetike kanë zbuluar një dobësi në ChatGPT të OpenAI që shfrytëzon besimin e platformës në lidhjet dhe imazhet Markdown, duke mundësuar sulme të shpejta injeksioni dhe duke krijuar mundësi të reja për phishing. Teknika, e quajtur ChatGPhish, demonstron se si përmbledhja e mundësuar nga IA mund të manipulohet për të ofruar përmbajtje dashakeqe direkt përmes një ndërfaqeje të besuar.

Problemi rrjedh nga mënyra se si renderuesi i përgjigjeve të ChatGPT përpunon elementët Markdown që burojnë nga faqet e internetit të palëve të treta. Kur chatbot përmbledh përmbajtjen e jashtme, ai automatikisht u beson lidhjeve të integruara Markdown dhe URL-ve të imazheve, duke marrë imazhe të largëta dhe duke shfaqur lidhjet si elementë aktivë dhe të klikueshëm brenda ndërfaqes së asistentit.

Mekanika pas sulmit

Një aktor kërcënimi mund të ngulisë një ngarkesë të vogël dashakeqe brenda një faqeje interneti që më vonë përmblidhet nga ChatGPT. Gjatë procesit të paraqitjes, imazhet e kontrolluara nga sulmuesi mund të merren automatikisht, duke ekspozuar potencialisht informacione të tilla si adresa IP e viktimës, Agjenti i Përdoruesit dhe detajet e Referuesit.

Përtej rrjedhjes së informacionit, kjo dobësi lejon që përmbajtja dashakeqe të paraqitet në mënyra shumë bindëse. Sulmuesit mund të shfaqin lidhje phishing direkt brenda përgjigjeve të ChatGPT, të shfaqin paralajmërime mashtruese sigurie në stilin e sistemit dhe të paraqesin kode QR të vendosura në infrastrukturën e kontrolluar nga sulmuesi. Këto kode QR mund t'i inkurajojnë përdoruesit t'i skanojnë ato me pajisje mobile, duke anashkaluar në mënyrë efektive filtrimin e URL-ve në desktop dhe kontrollet e sigurisë së ndërmarrjeve.

Ajo që e bën ChatGPhish veçanërisht të rëndësishëm nuk është vetë injektimi i menjëhershëm, por fakti që sistemi i inteligjencës artificiale ndjek me besnikëri udhëzimet e integruara dhe paraqet përmbajtjen që rezulton si pjesë të një përmbledhjeje të besueshme. Një faqe interneti në dukje e zakonshme mund të gjenerojë lidhje phishing, alarme llogarie të falsifikuara, imazhe të largëta dhe kode QR keqdashëse direkt brenda përgjigjes së një asistenti të inteligjencës artificiale.

Sipërfaqja në Zgjerim e Kërcënimeve të Shfletimit të Ndihmuar nga IA-ja

Zbulimi nxjerr në pah një sfidë më të gjerë sigurie: përmbledhja është shfaqur si një sipërfaqe e re sulmi kundërshtar. Më herët në mars 2026, studiuesit demonstruan se emailet e hartuara posaçërisht mund të manipulonin Microsoft Copilot përmes injektimit të prompteve të kryqëzuara (XPIA), duke ndikuar në përmbledhjet e gjeneruara nga IA përmes udhëzimeve të fshehura.

Ndërsa organizatat mbështeten gjithnjë e më shumë në mjetet e IA-së për kërkime dhe analiza përmbajtjeje, çdo faqe interneti keqdashëse e përpunuar nga një asistent i IA-së mund të fusë udhëzime të kontrolluara nga sulmuesi në kontekstin e modelit. Kjo përfaqëson një ndryshim të madh në taktikat e phishing-ut. Në vend që t'u kërkojnë përdoruesve të hapin bashkëngjitje të dyshimta ose të angazhohen me email-e keqdashëse, sulmuesit mund ta përdorin si armë aktivitetin rutinë të shfletimit dhe rrjedhat e punës së përmbledhjes së IA-së.

Migrimi i sulmeve nga mjediset e email-it në ndërveprimet e inteligjencës artificiale të bazuara në shfletues zgjeron në mënyrë dramatike sipërfaqen e disponueshme të sulmit. Thjesht kërkesa e një përmbledhjeje të një faqeje interneti mund të jetë e mjaftueshme për t'i ekspozuar përdoruesit ndaj përmbajtjes dashakeqe të gjeneruar përmes teknikave të injektimit indirekt të mesazheve të shpejta.

Një valë në rritje e teknikave të anashkalimit të sigurisë së inteligjencës artificiale

Zbulimi i ChatGPhish vjen në mes të një rritjeje të kërkimeve që zbulojnë metoda të reja sulmi që synojnë sistemet e inteligjencës artificiale. Gjetjet e fundit përfshijnë:

• Teknika e jailbreak-ut të Mësimit të Pavullnetshëm në Kontekst (IICL), e cila shfrytëzon konfliktet midis të mësuarit në kontekst dhe harmonizimit të sigurisë për të anashkaluar kufizimet e GPT-5.4; strategjitë e bisedës me shumë kthesa që anashkalojnë gradualisht mbrojtjet e modelit të madh gjuhësor; sulmet tipografike të injektimit të kërkesave që fshehin udhëzimet brenda imazheve të deformuara vizualisht; sulmet Neural Exec të kombinuara me teknikat e mbivendosjes nga e djathta në të majtë të Unicode për të anashkaluar mbrojtjet e Inteligjencës Apple; dhe WebPromptTrap, një dobësi indirekte e injektimit të kërkesave që prek BrowserOS që manipuloi përdoruesit përmes përmbledhjeve të gjeneruara nga IA të përmbajtjes në dukje legjitime.
• Dobësitë e sigurisë që ndikojnë në ekosistemet e IA-së dhe strukturat e agjentëve, duke përfshirë një dobësi në Anthropic Claude Code që mundësoi përgjimin e komunikimeve MCP të mbështetura nga OAuth përmes një pakete npm mashtruese; një skenar abuzimi me mekanizmin e përditësimit në distancë që synonte aftësitë e OpenClaw; fushatat e phishing-ut me tekst të fshehur të dizajnuara për të mashtruar produktet e sigurisë së email-it të mundësuara nga IA; dobësia ClaudeBleed që lejoi zgjerimet e shfletuesit të lëshonin komanda të paautorizuara për Claude; dobësi kritike në Microsoft Semantic Kernel (CVE-2026-25592 dhe CVE-2026-26030) të afta të përshkallëzojnë injeksione të shpejta në ekzekutimin e kodit në distancë në nivel host; të meta të përhapura të sigurisë brenda depove të agjentëve ClawHub dhe skills.sh; dhe sulme kundër grumbullit të referencës NemoClaw të NVIDIA-s që mundësoi nxjerrjen e të dhënave OpenClaw përmes depove dhe paketave npm keqdashëse GitHub.

E ardhmja e kërcënimeve kibernetike të drejtuara nga inteligjenca artificiale

Ndërsa modelet e përparuara të inteligjencës artificiale vazhdojnë të zhvillohen, kriminelët kibernetikë po eksperimentojnë gjithnjë e më shumë me aftësitë e tyre sulmuese. Aktorët kërcënues po shfrytëzojnë modele të mëdha gjuhësore për të zhvilluar programe keqdashëse më adaptive, të afta të modifikojnë sjelljen e tyre për të shmangur mekanizmat e zbulimit.

Përveç kësaj, sistemet e inteligjencës artificiale po përfshihen në proceset e vendimmarrjes në lidhje me programet keqdashëse. Këto aftësi i mundësojnë programeve keqdashëse të vlerësojnë mjediset e kompromentuara, të përcaktojnë nëse objektivat janë të vlefshëm dhe të vendosin nëse kushtet janë të përshtatshme për vendosjen e ngarkesave shtesë.

Hulumtimi i ChatGPhish shërben si një tjetër kujtesë se teknologjitë e IA-së sjellin konsiderata krejtësisht të reja sigurie. Ndërsa asistentët e IA-së integrohen thellësisht në rrjedhat e punës së ndërmarrjeve, mbrojtja nga injeksionet indirekte të shpejta, përmbledhjet e manipuluara dhe abuzimet e ndërfaqeve të bazuara në besim do të bëhet një komponent gjithnjë e më kritik i strategjisë së sigurisë kibernetike.