Zraniteľnosť ChatGPhish v ChatGPT

Výskumníci v oblasti kybernetickej bezpečnosti odhalili zraniteľnosť v technológii ChatGPT od spoločnosti OpenAI, ktorá zneužíva dôveru platformy v odkazy a obrázky v Markdowne, čo umožňuje útoky s okamžitým vstrekovaním a vytvára nové phishingové príležitosti. Táto technika s názvom ChatGPhish demonštruje, ako možno manipulovať so sumarizáciou poháňanou umelou inteligenciou tak, aby sa škodlivý obsah doručoval priamo cez dôveryhodné rozhranie.

Problém pramení zo spôsobu, akým vykresľovač odpovedí ChatGPT spracováva prvky Markdown pochádzajúce z webových stránok tretích strán. Keď chatbot sumarizuje externý obsah, automaticky dôveruje vloženým odkazom Markdown a URL adresám obrázkov, načítava vzdialené obrázky a zobrazuje odkazy ako aktívne, klikateľné prvky v rozhraní asistenta.

Mechanika útoku

Útočník môže do webovej stránky vložiť malý škodlivý dátový súbor, ktorý neskôr zhrnie ChatGPT. Počas procesu vykresľovania sa môžu automaticky načítať obrázky ovládané útočníkom, čo môže potenciálne odhaliť informácie, ako je IP adresa obete, používateľský agent a údaje o odkazujúcej stránke.

Okrem úniku informácií táto zraniteľnosť umožňuje prezentáciu škodlivého obsahu veľmi presvedčivými spôsobmi. Útočníci môžu vykresľovať phishingové odkazy priamo v odpovediach ChatGPT, zobrazovať podvodné bezpečnostné upozornenia v systémovom štýle a prezentovať QR kódy hostované na infraštruktúre kontrolovanej útočníkom. Tieto QR kódy môžu povzbudzovať používateľov, aby ich naskenovali mobilnými zariadeniami, čím efektívne obchádzajú filtrovanie URL adries na počítačoch a bezpečnostné kontroly podnikov.

ChatGPhish nie je obzvlášť významný kvôli samotnému rýchlemu vkladaniu, ale kvôli tomu, že systém umelej inteligencie verne nasleduje vložené pokyny a prezentuje výsledný obsah ako súčasť dôveryhodného súhrnu. Zdanlivo obyčajná webová stránka preto môže priamo v odpovedi asistenta umelej inteligencie generovať phishingové odkazy, upozornenia na falošné účty, vzdialené obrázky a škodlivé QR kódy.

Rozširujúci sa povrch hrozieb prehliadania s pomocou umelej inteligencie

Tento objav poukazuje na širšiu bezpečnostnú výzvu: sumarizácia sa objavila ako nová plocha pre útoky nepriateľov. Začiatkom marca 2026 výskumníci preukázali, že špeciálne vytvorené e-maily môžu manipulovať s Microsoft Copilotom prostredníctvom cross-prompt injection (XPIA) a ovplyvňovať súhrny generované umelou inteligenciou prostredníctvom skrytých inštrukcií.

Keďže sa organizácie čoraz viac spoliehajú na nástroje umelej inteligencie na výskum a analýzu obsahu, akákoľvek škodlivá webová stránka spracovaná asistentom umelej inteligencie môže do kontextu modelu zaviesť pokyny ovládané útočníkom. To predstavuje zásadný posun v phishingových taktikách. Namiesto toho, aby útočníci vyžadovali od používateľov otváranie podozrivých príloh alebo interakciu so škodlivými e-mailmi, môžu ako zbraň využiť bežnú aktivitu prehliadania a pracovné postupy sumarizácie umelou inteligenciou.

Migrácia útokov z e-mailového prostredia do interakcií umelej inteligencie v prehliadači dramaticky rozširuje dostupný povrch útoku. Samotné vyžiadanie si súhrnu webovej stránky môže stačiť na to, aby boli používatelia vystavení škodlivému obsahu generovanému technikami nepriameho vkladania údajov.

Rastúca vlna techník obchádzania zabezpečenia pomocou umelej inteligencie

Zverejnenie ChatGPhish prichádza uprostred vlny výskumu, ktorý odhaľuje nové metódy útoku zamerané na systémy umelej inteligencie. Medzi najnovšie zistenia patria:

• Technika jailbreaku s názvom Involuntary In-Context Learning (IICL), ktorá využíva konflikty medzi učením v kontexte a bezpečnostným zarovnaním na obídenie obmedzení GPT-5.4; stratégie viacnásobnej konverzácie, ktoré postupne obchádzajú ochranné opatrenia veľkých jazykových modelov; útoky typu prompt injection, ktoré skrývajú inštrukcie vo vizuálne skreslených obrázkoch; útoky Neural Exec v kombinácii s technikami prepísania Unicode sprava doľava na obídenie ochrany Apple Intelligence; a WebPromptTrap, zraniteľnosť typu nepriame prompt injection, ktorá ovplyvňuje BrowserOS a manipuluje s používateľmi prostredníctvom súhrnov zdanlivo legitímneho obsahu generovaných umelou inteligenciou.
• Bezpečnostné slabiny ovplyvňujúce ekosystémy umelej inteligencie a rámce agentov vrátane zraniteľnosti v kóde Anthropic Claude, ktorá umožňovala zachytávanie komunikácie MCP podporovanej OAuth prostredníctvom falošného balíka npm; scenár zneužitia mechanizmu vzdialenej aktualizácie zameraný na zručnosti OpenClaw; phishingové kampane so skrytým textom určené na oklamanie produktov zabezpečenia e-mailov s umelou inteligenciou; zraniteľnosť ClaudeBleed, ktorá umožňovala rozšíreniam prehliadača vydávať neoprávnené príkazy pre Claude; kritické zraniteľnosti v sémantickom jadre spoločnosti Microsoft (CVE-2026-25592 a CVE-2026-26030) schopné eskalovať injekcie promptu do vzdialeného vykonávania kódu na úrovni hostiteľa; rozsiahle bezpečnostné chyby v repozitároch agentov ClawHub a skills.sh; a útoky na referenčný stack NemoClaw od spoločnosti NVIDIA, ktoré umožňovali únik údajov z OpenClaw prostredníctvom škodlivých repozitárov GitHub a balíkov npm.

Budúcnosť kybernetických hrozieb riadených umelou inteligenciou

S postupným vývojom pokročilých modelov umelej inteligencie kyberzločinci čoraz viac experimentujú so svojimi ofenzívnymi schopnosťami. Aktéri hrozby využívajú rozsiahle jazykové modely na vývoj adaptívnejšieho malvéru schopného upraviť svoje správanie tak, aby sa vyhol detekčným mechanizmom.

Okrem toho sa systémy umelej inteligencie začleňujú do procesov rozhodovania o škodlivom softvéri. Tieto funkcie umožňujú škodlivému softvéru vyhodnotiť napadnuté prostredia, určiť, či sú ciele hodnotné, a rozhodnúť, či sú podmienky vhodné na nasadenie ďalších údajov.

Výskum spoločnosti ChatGPhish slúži ako ďalšia pripomienka toho, že technológie umelej inteligencie prinášajú úplne nové bezpečnostné aspekty. Keďže sa asistenti umelej inteligencie hlboko integrujú do podnikových pracovných postupov, ochrana pred nepriamymi injekciami promptov, manipulovanými súhrnami a zneužívaním rozhraní založených na dôvere sa stane čoraz dôležitejšou súčasťou stratégie kybernetickej bezpečnosti.