ChatGPhishi haavatavus ChatGPT-s

Küberturvalisuse uurijad on avastanud OpenAI ChatGPT-s haavatavuse, mis kasutab ära platvormi usaldust Markdowni linkide ja piltide vastu, võimaldades kiireid süstimisrünnakuid ja luues uusi andmepüügivõimalusi. Tehnika, mida nimetatakse ChatGPhishiks, demonstreerib, kuidas tehisintellektil põhinevat kokkuvõtet saab manipuleerida pahatahtliku sisu edastamiseks otse usaldusväärse liidese kaudu.

Probleem tuleneb sellest, kuidas ChatGPT vastuste renderdaja töötleb kolmandate osapoolte veebilehtedelt pärit Markdowni elemente. Kui vestlusrobot võtab kokku välise sisu, usaldab see automaatselt manustatud Markdowni linke ja piltide URL-e, laadides alla kaugpildid ja kuvades lingid assistendi liideses aktiivsete, klõpsatavate elementidena.

Rünnaku taga olevad mehhanismid

Ohuteguriga isik saab veebilehele manustada väikese pahatahtliku sisu, mille ChatGPT hiljem kokku võtab. Renderdamise käigus võidakse ründaja kontrolli all olevaid pilte automaatselt hankida, mis võivad paljastada teavet, näiteks ohvri IP-aadressi, kasutajaagendi ja viitaja andmed.

Lisaks infolekkele võimaldab see haavatavus pahatahtlikku sisu esitada väga veenval viisil. Ründajad saavad kuvada andmepüügilinke otse ChatGPT vastustes, kuvada petturlikke süsteemilaadseid turvahoiatusi ja esitada ründaja kontrollitavas infrastruktuuris majutatud QR-koode. Need QR-koodid võivad julgustada kasutajaid neid mobiilseadmetega skannima, möödudes tõhusalt lauaarvutipõhisest URL-ide filtreerimisest ja ettevõtte turvakontrollidest.

ChatGPhishi eriti oluliseks ei tee mitte kiire süstimine ise, vaid asjaolu, et tehisintellekti süsteem järgib täpselt manustatud juhiseid ja esitab saadud sisu usaldusväärse kokkuvõtte osana. Pealtnäha tavaline veebileht võib seega genereerida andmepüügilinke, võltsitud kontode teateid, kaugpilte ja pahatahtlikke QR-koode otse tehisintellekti assistendi vastuses.

Tehisintellekti abil sirvimise laienev ohupind

Avastus toob esile laiema turvaprobleemi: kokkuvõtete tegemine on tekkinud uue rünnakupinnana. Varem 2026. aasta märtsis näitasid teadlased, et spetsiaalselt loodud meilid suudavad manipuleerida Microsoft Copilotiga ristsuunalise süstimise (XPIA) abil, mõjutades tehisintellekti loodud kokkuvõtteid peidetud juhiste abil.

Kuna organisatsioonid toetuvad üha enam uurimis- ja sisuanalüüsi tehisintellekti tööriistadele, võib iga tehisintellekti assistendi töödeldud pahatahtlik veebileht mudeli konteksti lisada ründaja juhitud juhiseid. See kujutab endast olulist muutust andmepüügitaktikas. Selle asemel, et nõuda kasutajatelt kahtlaste manuste avamist või pahatahtlike meilidega suhtlemist, saavad ründajad relvana kasutada tavapärast sirvimistegevust ja tehisintellekti kokkuvõtete töövooge.

Rünnakute üleminek meilikeskkondadest brauseripõhistele tehisintellekti interaktsioonidele laiendab dramaatiliselt saadaolevat rünnakupinda. Ainult veebilehe kokkuvõtte küsimisest võib piisata, et kasutajad saaksid kokku puutuda kaudsete kiire süstimise tehnikate abil loodud pahatahtliku sisuga.

Tehisintellekti turvalisuse möödaviigu tehnikate kasvav laine

ChatGPhishi avalikustamine saabus keset uuringute lainet, mis paljastasid uusi rünnakumeetodeid tehisintellekti süsteemide vastu. Hiljutised tulemused hõlmavad järgmist:

• Tahtmatu kontekstipõhise õppe (IICL) jailbreak-tehnika, mis kasutab ära kontekstipõhise õppe ja ohutusnõuete vahelisi konflikte GPT-5.4 piirangute möödahiilimiseks; mitmepöördelised vestlusstrateegiad, mis järk-järgult mööduvad suurte keelemudelite kaitsemeetmetest; tüpograafilised käsurea sisestamise rünnakud, mis peidavad juhiseid visuaalselt moonutatud piltide sisse; Neural Exec rünnakud koos Unicode'i paremalt vasakule kirjutamise tehnikatega Apple'i luurekaitsemeetmete möödahiilimiseks; ja WebPromptTrap, kaudne käsurea sisestamise haavatavus, mis mõjutab BrowserOS-i ja manipuleerib kasutajatega pealtnäha legitiimse sisu tehisintellekti loodud kokkuvõtete abil.
• Turvanõrkused, mis mõjutavad tehisintellekti ökosüsteeme ja agentide raamistikke, sealhulgas Anthropic Claude'i koodi haavatavus, mis võimaldas OAuth-toega MCP-side pealtkuulamist petturliku npm-paketi kaudu; kaugvärskendusmehhanismi kuritarvitamise stsenaarium, mis on suunatud OpenClawi oskuste vastu; peidetud tekstiga andmepüügikampaaniad, mis on loodud tehisintellektil põhinevate e-posti turvatoodete petmiseks; ClaudeBleedi haavatavus, mis võimaldas brauserilaienditel anda Claude'ile volitamata käske; kriitilised haavatavused Microsoft Semantic Kernelis (CVE-2026-25592 ja CVE-2026-26030), mis on võimelised eskaleerima koheseid süstimisi hosti tasemel kaugkoodi käivitamisse; laialt levinud turvavead ClawHubi ja skills.sh agentide repositooriumides; ja rünnakud NVIDIA NemoClawi viitevirna vastu, mis võimaldasid OpenClawi andmete väljavoolu pahatahtlike GitHubi repositooriumide ja npm-pakettide kaudu.

Tehisintellektil põhinevate küberohtude tulevik

Kuna täiustatud tehisintellekti mudelid arenevad pidevalt, katsetavad küberkurjategijad üha enam oma rünnakuvõimetega. Ohutegurite tekitajad kasutavad suuri keelemudeleid, et arendada kohanemisvõimelisemat pahavara, mis on võimeline oma käitumist muutma, et tuvastusmehhanismidest mööda hiilida.

Lisaks kaasatakse tehisintellekti süsteeme pahavaraga seotud otsustusprotsessidesse. Need võimalused võimaldavad pahavaral hinnata ohustatud keskkondi, teha kindlaks, kas sihtmärgid on väärtuslikud, ja otsustada, kas tingimused sobivad täiendavate kasulike koormuste rakendamiseks.

ChatGPhishi uuring tuletab veel kord meelde, et tehisintellekti tehnoloogiad toovad kaasa täiesti uusi turvakaalutlusi. Kuna tehisintellekti assistendid integreeruvad sügavalt ettevõtte töövoogudesse, muutub kaudsete kiirsüstide, manipuleeritud kokkuvõtete ja usaldusel põhineva liideste kuritarvitamise eest kaitsmine küberturvalisuse strateegia üha olulisemaks komponendiks.