ChatGPhish ievainojamība pakalpojumā ChatGPT

Kiberdrošības pētnieki ir atklājuši OpenAI ChatGPT ievainojamību, kas izmanto platformas uzticēšanos Markdown saitēm un attēliem, nodrošinot tūlītējus injekcijas uzbrukumus un radot jaunas pikšķerēšanas iespējas. Šī metode, kas nosaukta par ChatGPhish, demonstrē, kā ar mākslīgā intelekta darbinātu apkopošanu var manipulēt, lai ļaunprātīgu saturu piegādātu tieši caur uzticamu saskarni.

Problēma rodas no tā, kā ChatGPT atbilžu renderētājs apstrādā Markdown elementus, kuru izcelsme ir trešo pušu tīmekļa lapās. Kad tērzēšanas robots apkopo ārēju saturu, tas automātiski uzticas iegultajām Markdown saitēm un attēlu URL, ielādējot attālos attēlus un parādot saites kā aktīvus, noklikšķināmus elementus palīga saskarnē.

Uzbrukuma mehānika

Apdraudējuma izpildītājs var ievietot nelielu ļaunprātīgu vērtumu tīmekļa lapā, ko vēlāk apkopo ChatGPT. Renderēšanas procesa laikā uzbrucēja kontrolēti attēli var tikt automātiski ielādēti, potenciāli atklājot tādu informāciju kā upura IP adrese, lietotāja aģents un atsauces dati.

Papildus informācijas noplūdei šī ievainojamība ļauj ļaunprātīgu saturu attēlot ļoti pārliecinošā veidā. Uzbrucēji var attēlot pikšķerēšanas saites tieši ChatGPT atbildēs, parādīt krāpnieciskus sistēmas stila drošības brīdinājumus un rādīt QR kodus, kas atrodas uzbrucēja kontrolētā infrastruktūrā. Šie QR kodi var mudināt lietotājus tos skenēt ar mobilajām ierīcēm, efektīvi apejot galddatoru URL filtrēšanu un uzņēmuma drošības kontroles.

ChatGPhish īpaši nozīmīgu padara nevis pati ātrā injekcija, bet gan fakts, ka mākslīgā intelekta sistēma precīzi seko iegultajām instrukcijām un iegūto saturu attēlo kā daļu no uzticama kopsavilkuma. Tādēļ šķietami parasta tīmekļa lapa var ģenerēt pikšķerēšanas saites, viltotu kontu brīdinājumus, attālinātus attēlus un ļaunprātīgus QR kodus tieši mākslīgā intelekta asistenta atbildē.

Mākslīgā intelekta atbalstītas pārlūkošanas pieaugošā apdraudējuma virsma

Šis atklājums izceļ plašāku drošības problēmu: kopsavilkumi ir parādījušies kā jauna pretinieku uzbrukuma virsma. Iepriekš 2026. gada martā pētnieki pierādīja, ka speciāli izstrādāti e-pasti var manipulēt ar Microsoft Copilot, izmantojot starpuzvedņu injekciju (XPIA), ietekmējot mākslīgā intelekta ģenerētus kopsavilkumus, izmantojot slēptas instrukcijas.

Tā kā organizācijas arvien vairāk paļaujas uz mākslīgā intelekta rīkiem pētniecībai un satura analīzei, jebkura ļaunprātīga tīmekļa lapa, ko apstrādā mākslīgā intelekta palīgs, modeļa kontekstā var ieviest uzbrucēja kontrolētas instrukcijas. Tas atspoguļo būtiskas izmaiņas pikšķerēšanas taktikā. Tā vietā, lai lietotājiem būtu jāatver aizdomīgi pielikumi vai jāsazinās ar ļaunprātīgiem e-pastiem, uzbrucēji var izmantot kā ieroci ikdienas pārlūkošanas darbības un mākslīgā intelekta apkopošanas darbplūsmas.

Uzbrukumu migrācija no e-pasta vides uz pārlūkprogrammā balstītu mākslīgā intelekta mijiedarbību ievērojami paplašina pieejamo uzbrukumu virsmu. Vienkārši pieprasot tīmekļa lapas kopsavilkumu, var pietikt, lai pakļautu lietotājus ļaunprātīgam saturam, kas ģenerēts, izmantojot netiešas tūlītējas injekcijas metodes.

Pieaugošs mākslīgā intelekta drošības apiešanas metožu vilnis

ChatGPhish atklājums tiek publicēts pētījumu uzplūda laikā, kas atklāj jaunas uzbrukuma metodes, kuras vērstas pret mākslīgā intelekta sistēmām. Jaunākie atklājumi ietver:

• Nevēlamā konteksta mācīšanās (IICL) jailbreak tehnika, kas izmanto konfliktus starp konteksta mācīšanos un drošības saskaņošanu, lai apietu GPT-5.4 ierobežojumus; vairāku pagriezienu sarunu stratēģijas, kas pakāpeniski apiet lielu valodu modeļu drošības pasākumus; tipogrāfiskas uzvednes injekcijas uzbrukumi, kas slēpj instrukcijas vizuāli izkropļotos attēlos; Neural Exec uzbrukumi apvienojumā ar Unicode rakstīšanas no labās uz kreiso pusi ignorēšanas metodēm, lai apietu Apple Intelligence aizsardzību; un WebPromptTrap — netieša uzvednes injekcijas ievainojamība, kas ietekmē BrowserOS un manipulē ar lietotājiem, izmantojot mākslīgā intelekta ģenerētus šķietami likumīga satura kopsavilkumus.
• Drošības ievainojamības, kas ietekmē mākslīgā intelekta ekosistēmas un aģentu ietvarus, tostarp ievainojamība Anthropic Claude kodā, kas ļāva pārtvert OAuth atbalstītu MCP saziņu, izmantojot negodīgu npm pakotni; attālās atjaunināšanas mehānisma ļaunprātīgas izmantošanas scenārijs, kas vērsts pret OpenClaw prasmēm; slēpta teksta pikšķerēšanas kampaņas, kas paredzētas, lai maldinātu mākslīgā intelekta darbinātus e-pasta drošības produktus; ClaudeBleed ievainojamība, kas ļāva pārlūkprogrammas paplašinājumiem izdot neatļautas komandas Claude; kritiskas ievainojamības Microsoft Semantic Kernel (CVE-2026-25592 un CVE-2026-26030), kas spēj pastiprināt tūlītējas injekcijas resursdatora līmeņa attālā koda izpildē; plaši izplatītas drošības nepilnības ClawHub un skills.sh aģentu krātuvēs; un uzbrukumi NVIDIA NemoClaw atsauces stekam, kas ļāva OpenClaw datu eksfiltrācijai, izmantojot ļaunprātīgas GitHub krātuves un npm pakotnes.

Mākslīgā intelekta vadītu kiberdraudu nākotne

Tā kā mākslīgā intelekta modeļi turpina attīstīties, kibernoziedznieki arvien vairāk eksperimentē ar savām uzbrukuma spējām. Apdraudējumu radītāji izmanto lielus valodu modeļus, lai izstrādātu adaptīvāku ļaunprogrammatūru, kas spēj mainīt savu uzvedību, lai izvairītos no atklāšanas mehānismiem.

Turklāt mākslīgā intelekta sistēmas tiek iekļautas ļaunprogrammatūras lēmumu pieņemšanas procesos. Šīs iespējas ļauj ļaunprogrammatūrai novērtēt apdraudētas vides, noteikt, vai mērķi ir vērtīgi, un izlemt, vai apstākļi ir piemēroti papildu vērtuma izvietošanai.

ChatGPhish pētījums kalpo kā vēl viens atgādinājums, ka mākslīgā intelekta tehnoloģijas ievieš pilnīgi jaunus drošības apsvērumus. Tā kā mākslīgā intelekta asistenti kļūst dziļi integrēti uzņēmumu darbplūsmās, aizsardzība pret netiešām tūlītējām injekcijām, manipulētām kopsavilkumiem un uz uzticēšanos balstītu saskarnes ļaunprātīgu izmantošanu kļūs par arvien svarīgāku kiberdrošības stratēģijas sastāvdaļu.