Luka w zabezpieczeniach ChatGPhish w ChatGPT

Badacze cyberbezpieczeństwa odkryli lukę w zabezpieczeniach ChatGPT platformy OpenAI, która wykorzystuje zaufanie platformy do linków i obrazów Markdown, umożliwiając ataki typu instant injection i stwarzając nowe możliwości phishingu. Technika ta, nazwana ChatGPhish, pokazuje, jak można manipulować podsumowaniami opartymi na sztucznej inteligencji, aby dostarczać szkodliwą treść bezpośrednio przez zaufany interfejs.

Problem wynika ze sposobu, w jaki renderer odpowiedzi ChatGPT przetwarza elementy Markdown pochodzące ze stron internetowych osób trzecich. Gdy chatbot podsumowuje treści zewnętrzne, automatycznie ufa osadzonym linkom Markdown i adresom URL obrazów, pobierając zdalne obrazy i wyświetlając linki jako aktywne, klikalne elementy w interfejsie asystenta.

Mechanika ataku

Atakujący może osadzić niewielki złośliwy ładunek na stronie internetowej, który następnie jest podsumowywany przez ChatGPT. Podczas renderowania, obrazy kontrolowane przez atakującego mogą być automatycznie pobierane, potencjalnie ujawniając informacje, takie jak adres IP ofiary, dane agenta użytkownika i dane odsyłające.

Oprócz wycieku informacji, luka umożliwia prezentację złośliwych treści w bardzo przekonujący sposób. Atakujący mogą generować linki phishingowe bezpośrednio w odpowiedziach ChatGPT, wyświetlać fałszywe ostrzeżenia bezpieczeństwa w stylu systemowym oraz prezentować kody QR hostowane w infrastrukturze kontrolowanej przez atakujących. Te kody QR mogą zachęcać użytkowników do skanowania ich za pomocą urządzeń mobilnych, skutecznie omijając filtrowanie adresów URL na komputerach stacjonarnych i kontrole bezpieczeństwa w przedsiębiorstwie.

To, co czyni ChatGPhish szczególnie istotnym, to nie samo szybkie wstrzyknięcie, ale fakt, że system sztucznej inteligencji wiernie wykonuje osadzone instrukcje i prezentuje wynikową treść jako część wiarygodnego podsumowania. Z pozoru zwyczajna strona internetowa może zatem generować linki phishingowe, alerty o fałszywych kontach, zdalne obrazy i złośliwe kody QR bezpośrednio w odpowiedzi asystenta AI.

Rozszerzająca się powierzchnia zagrożeń związanych z przeglądaniem wspomaganym sztuczną inteligencją

Odkrycie to uwypukla szerszy problem bezpieczeństwa: podsumowania stały się nową płaszczyzną ataku. Na początku marca 2026 roku badacze wykazali, że specjalnie spreparowane wiadomości e-mail mogą manipulować systemem Microsoft Copilot poprzez atak typu cross-prompt injection (XPIA), wpływając na generowane przez sztuczną inteligencję podsumowania za pomocą ukrytych instrukcji.

W miarę jak organizacje coraz częściej korzystają z narzędzi AI do badań i analizy treści, każda złośliwa strona internetowa przetworzona przez asystenta AI może wprowadzić do kontekstu modelu instrukcje kontrolowane przez atakującego. Stanowi to istotną zmianę w taktyce phishingu. Zamiast wymagać od użytkowników otwierania podejrzanych załączników lub odpowiadania na złośliwe wiadomości e-mail, atakujący mogą wykorzystać rutynowe czynności przeglądania stron internetowych i procesy podsumowujące AI.

Migracja ataków ze środowisk poczty elektronicznej do interakcji ze sztuczną inteligencją w przeglądarkach drastycznie poszerza dostępną powierzchnię ataku. Samo żądanie podsumowania strony internetowej może wystarczyć, aby narazić użytkowników na szkodliwą zawartość generowaną za pomocą pośrednich technik wstrzykiwania komunikatów.

Rosnąca fala technik omijania zabezpieczeń AI

Ujawnienie ChatGPhish pojawia się w kontekście rosnącej liczby badań ujawniających nowe metody ataków na systemy sztucznej inteligencji. Najnowsze odkrycia obejmują:

• Technika jailbreaku Involuntary In-Context Learning (IICL), która wykorzystuje konflikty między uczeniem się w kontekście a wyrównaniem zabezpieczeń w celu obejścia ograniczeń GPT-5.4; strategie konwersacji wieloetapowej, które stopniowo omijają zabezpieczenia dużego modelu językowego; ataki polegające na wstrzykiwaniu typograficznych komunikatów, które ukrywają instrukcje w wizualnie zniekształconych obrazach; ataki Neural Exec połączone z technikami omijania kolejności znaków Unicode od prawej do lewej w celu obejścia zabezpieczeń Apple Intelligence; i WebPromptTrap, luka w zabezpieczeniach umożliwiająca wstrzykiwanie pośrednich komunikatów w systemie BrowserOS, która manipulowała użytkownikami za pomocą generowanych przez sztuczną inteligencję podsumowań pozornie legalnych treści.
• Słabe punkty zabezpieczeń wpływające na ekosystemy sztucznej inteligencji i struktury agentów, w tym luka w zabezpieczeniach Anthropic Claude Code umożliwiająca przechwytywanie komunikacji MCP obsługiwanej przez OAuth za pośrednictwem złośliwego pakietu npm; scenariusz nadużycia mechanizmu zdalnej aktualizacji ukierunkowany na umiejętności OpenClaw; kampanie phishingowe z ukrytym tekstem mające na celu oszukanie produktów zabezpieczających pocztę e-mail opartych na sztucznej inteligencji; luka w zabezpieczeniach ClaudeBleed umożliwiająca rozszerzeniom przeglądarki wydawanie nieautoryzowanych poleceń Claude; krytyczne luki w zabezpieczeniach Microsoft Semantic Kernel (CVE-2026-25592 i CVE-2026-26030) umożliwiające eskalację natychmiastowych wstrzyknięć w celu zdalnego wykonania kodu na poziomie hosta; powszechne luki w zabezpieczeniach w repozytoriach agentów ClawHub i skills.sh; oraz ataki na stos referencyjny NemoClaw firmy NVIDIA, które umożliwiły eksfiltrację danych OpenClaw za pośrednictwem złośliwych repozytoriów GitHub i pakietów npm.

Przyszłość cyberzagrożeń opartych na sztucznej inteligencji

W miarę rozwoju zaawansowanych modeli sztucznej inteligencji (AI), cyberprzestępcy coraz częściej eksperymentują z ich możliwościami ofensywnymi. Aktorzy zagrożeń wykorzystują rozbudowane modele językowe do tworzenia bardziej adaptacyjnego złośliwego oprogramowania, zdolnego do modyfikowania swojego zachowania w celu omijania mechanizmów wykrywania.

Ponadto systemy sztucznej inteligencji są włączane do procesów decyzyjnych dotyczących złośliwego oprogramowania. Możliwości te umożliwiają złośliwemu oprogramowaniu ocenę zainfekowanych środowisk, określanie, czy cele są wartościowe, oraz decydowanie, czy warunki są odpowiednie do rozmieszczenia dodatkowych ładunków.

Badania ChatGPhish stanowią kolejne przypomnienie, że technologie AI wprowadzają zupełnie nowe zagadnienia bezpieczeństwa. Wraz z głęboką integracją asystentów AI z procesami pracy w przedsiębiorstwach, ochrona przed pośrednimi wstrzyknięciami komunikatów, zmanipulowanymi podsumowaniami i nadużyciami interfejsów opartych na zaufaniu stanie się coraz ważniejszym elementem strategii cyberbezpieczeństwa.