Zranitelnost ChatGPhish v ChatGPT

Výzkumníci v oblasti kybernetické bezpečnosti odhalili zranitelnost v technologii ChatGPT od OpenAI, která zneužívá důvěru platformy v odkazy a obrázky v Markdownu, což umožňuje útoky typu prompt injection a vytváří nové phishingové příležitosti. Tato technika s názvem ChatGPhish demonstruje, jak lze manipulovat se sumarizací poháněnou umělou inteligencí tak, aby se škodlivý obsah doručoval přímo prostřednictvím důvěryhodného rozhraní.

Problém pramení ze způsobu, jakým vykreslovač odpovědí ChatGPT zpracovává prvky Markdownu pocházející z webových stránek třetích stran. Když chatbot shrnuje externí obsah, automaticky důvěřuje vloženým odkazům Markdownu a URL adresám obrázků, načítá vzdálené obrázky a zobrazuje odkazy jako aktivní, klikatelné prvky v rozhraní asistenta.

Mechanika útoku

Útočník může do webové stránky vložit malý škodlivý obsah, který ChatGPT později shrne. Během procesu vykreslování mohou být automaticky načítány obrázky ovládané útočníkem, což může vést k odhalení informací, jako je IP adresa oběti, uživatelský agent a údaje o odkazujícím serveru.

Kromě úniku informací tato zranitelnost umožňuje prezentaci škodlivého obsahu velmi přesvědčivými způsoby. Útočníci mohou vykreslovat phishingové odkazy přímo v odpovědích ChatGPT, zobrazovat podvodná bezpečnostní varování ve stylu systému a prezentovat QR kódy hostované na infrastruktuře ovládané útočníkem. Tyto QR kódy mohou uživatele povzbudit k jejich skenování mobilními zařízeními, čímž efektivně obcházejí filtrování URL adres na počítačích a podnikové bezpečnostní kontroly.

Zvláště významným na ChatGPhish není samotné rychlé vkládání, ale fakt, že systém umělé inteligence věrně sleduje vložené instrukce a prezentuje výsledný obsah jako součást důvěryhodného shrnutí. Zdánlivě obyčejná webová stránka tak může přímo v odpovědi asistenta umělé inteligence generovat phishingové odkazy, upozornění na padělané účty, vzdálené obrázky a škodlivé QR kódy.

Rozšiřující se oblast hrozeb prohlížení s podporou umělé inteligence

Tento objev zdůrazňuje širší bezpečnostní výzvu: sumarizace se objevila jako nová plocha pro útoky protivníka. Dříve v březnu 2026 vědci prokázali, že speciálně vytvořené e-maily mohou manipulovat s Microsoft Copilotem prostřednictvím cross-prompt injection (XPIA) a ovlivňovat sumarizace generované umělou inteligencí prostřednictvím skrytých instrukcí.

Vzhledem k tomu, že se organizace stále více spoléhají na nástroje umělé inteligence pro výzkum a analýzu obsahu, může jakákoli škodlivá webová stránka zpracovaná asistentem umělé inteligence zavést do kontextu modelu instrukce ovládané útočníkem. To představuje zásadní posun v phishingových taktikách. Místo toho, aby útočníci vyžadovali od uživatelů otevírání podezřelých příloh nebo komunikaci se škodlivými e-maily, mohou jako zbraň využít rutinní prohlížení a pracovní postupy sumarizace umělé inteligence.

Migrace útoků z e-mailového prostředí do interakcí s umělou inteligencí v prohlížeči dramaticky rozšiřuje dostupnou oblast útoku. Pouhé vyžádání si shrnutí webové stránky může stačit k vystavení uživatelů škodlivému obsahu generovanému technikami nepřímé injekce výzvy (prompt injection).

Rostoucí vlna technik obcházení zabezpečení pomocí umělé inteligence

Zveřejnění o ChatGPhish přichází uprostřed vlny výzkumu, který odhaluje nové metody útoku zaměřené na systémy umělé inteligence. Mezi nedávná zjištění patří:

• Technika jailbreaku s názvem Involuntary In-Context Learning (IICL), která využívá konflikty mezi učením v kontextu a bezpečnostním zarovnáním k obcházení omezení GPT-5.4; strategie víceotáčkové konverzace, které postupně obcházejí ochranná opatření velkých jazykových modelů; útoky s typografickým prompt injection, které skrývají instrukce ve vizuálně zkreslených obrázcích; útoky Neural Exec v kombinaci s technikami přepsání Unicode zprava doleva k obcházení ochran Apple Intelligence; a WebPromptTrap, zranitelnost s nepřímým prompt injection ovlivňující BrowserOS, která manipulovala s uživateli prostřednictvím souhrnů zdánlivě legitimního obsahu generovaných umělou inteligencí.
• Bezpečnostní slabiny ovlivňující ekosystémy umělé inteligence a frameworky agentů, včetně zranitelnosti v kódu Anthropic Claude, která umožňovala zachycení komunikace MCP podporované OAuth prostřednictvím falešného balíčku npm; scénář zneužití mechanismu vzdálené aktualizace zaměřený na dovednosti OpenClaw; phishingové kampaně se skrytým textem určené k oklamání produktů pro zabezpečení e-mailů s umělou inteligencí; zranitelnost ClaudeBleed, která umožňovala rozšířením prohlížeče vydávat Claude neoprávněné příkazy; kritické zranitelnosti v sémantickém jádře Microsoft (CVE-2026-25592 a CVE-2026-26030) schopné eskalovat vkládání promptů do vzdáleného spuštění kódu na úrovni hostitele; rozsáhlé bezpečnostní chyby v repozitářích agentů ClawHub a skills.sh; a útoky na referenční stack NemoClaw od společnosti NVIDIA, které umožňovaly únik dat z OpenClaw prostřednictvím škodlivých repozitářů GitHub a balíčků npm.

Budoucnost kybernetických hrozeb řízených umělou inteligencí

S tím, jak se pokročilé modely umělé inteligence dále vyvíjejí, kyberzločinci stále častěji experimentují se svými útočnými schopnostmi. Aktéři hrozby využívají modely s rozsáhlými jazyky k vývoji adaptivnějšího malwaru schopného upravit své chování tak, aby se vyhnul detekčním mechanismům.

Systémy umělé inteligence jsou navíc začleňovány do procesů rozhodování o malwaru. Tyto funkce umožňují škodlivému softwaru vyhodnotit kompromitované prostředí, určit, zda jsou cíle cenné, a rozhodnout, zda jsou podmínky vhodné pro nasazení dalších datových částí.

Výzkum ChatGPhish slouží jako další připomínka toho, že technologie umělé inteligence zavádějí zcela nové bezpečnostní aspekty. Vzhledem k tomu, že se asistenti umělé inteligence hluboce integrují do podnikových pracovních postupů, ochrana před nepřímými výzvami k zadávání, manipulovanými souhrny a zneužíváním rozhraní založených na důvěryhodnosti se stane stále důležitější součástí strategie kybernetické bezpečnosti.