Рањивост ChatGPhish-а у ChatGPT-у

Истраживачи сајбер безбедности открили су рањивост у OpenAI-јевом ChatGPT-у која злоупотребљава поверење платформе у Markdown линкове и слике, омогућавајући брзе нападе ињекцијом и стварајући нове могућности за фишинг. Техника, названа ChatGPhish, показује како се сумирање засновано на вештачкој интелигенцији може манипулисати да би се злонамерни садржај испоручио директно преко поузданог интерфејса.

Проблем произилази из начина на који ChatGPT-ов рендерер одговора обрађује Markdown елементе који потичу са веб страница трећих страна. Када четбот сумира екстерни садржај, он аутоматски верује уграђеним Markdown линковима и URL-овима слика, преузимајући удаљене слике и приказујући линкове као активне елементе на које се може кликнути унутар интерфејса асистента.

Механика иза напада

Претња може да угради мали злонамерни садржај унутар веб странице коју касније сумира ChatGPT. Током процеса рендеровања, слике које контролише нападач могу се аутоматски преузети, потенцијално откривајући информације као што су IP адреса жртве, кориснички агент и детаљи реферера.

Поред цурења информација, рањивост омогућава представљање злонамерног садржаја на веома убедљиве начине. Нападачи могу директно приказивати фишинг линкове унутар ChatGPT одговора, приказивати лажна безбедносна упозорења у системском стилу и представљати QR кодове хостоване на инфраструктури коју контролише нападач. Ови QR кодови могу подстаћи кориснике да их скенирају мобилним уређајима, ефикасно заобилазећи филтрирање URL-ова на десктоп рачунарима и безбедносне контроле предузећа.

Оно што ChatGPhish чини посебно значајним није сама брза инјекција, већ чињеница да систем вештачке интелигенције верно прати уграђена упутства и приказује резултујући садржај као део поузданог резимеа. Наизглед обична веб страница стога може генерисати фишинг линкове, упозорења о лажним налозима, удаљене слике и злонамерне QR кодове директно унутар одговора вештачке интелигенције.

Растућа површина претњи прегледања потпомогнутог вештачком интелигенцијом

Ово откриће истиче шири безбедносни изазов: сумирање се појавило као нова површина за нападе противника. Раније у марту 2026. године, истраживачи су показали да специјално креирани имејлови могу манипулисати Microsoft Copilot-ом путем унакрсног убризгавања промптова (XPIA), утичући на сумирања генерисана од стране вештачке интелигенције путем скривених инструкција.

Како се организације све више ослањају на алате вештачке интелигенције за истраживање и анализу садржаја, свака злонамерна веб страница коју обради асистент вештачке интелигенције може увести инструкције које контролише нападач у контекст модела. Ово представља велику промену у тактикама фишинга. Уместо да захтевају од корисника да отварају сумњиве прилоге или интерагују са злонамерним имејловима, нападачи могу да искористе рутинске активности прегледања и токове рада вештачке интелигенције за сумирање као оружје.

Миграција напада из окружења е-поште на интеракције вештачке интелигенције засноване на прегледачу драматично проширује доступну површину за нападе. Само захтевање резимеа веб странице може бити довољно да изложи кориснике злонамерном садржају генерисаном техникама индиректног убризгавања.

Растући талас техника заобилажења безбедности вештачком интелигенцијом

Откриће ChatGPhish-а долази усред таласа истраживања која откривају нове методе напада усмерене на системе вештачке интелигенције. Недавна открића укључују:

• Техника невољног учења у контексту (IICL), која искоришћава сукобе између учења у контексту и безбедносног поравнања како би се заобишла ограничења GPT-5.4; стратегије вишеструког разговора које постепено заобилазе заштитне мере великих језичких модела; напади убризгавањем типографских промптова који скривају инструкције унутар визуелно искривљених слика; напади Neural Exec комбиновани са техникама превазилажења Unicode-а здесна налево како би се заобишла заштита Apple Intelligence-а; и WebPromptTrap, индиректна рањивост убризгавања промптова која утиче на BrowserOS који је манипулисао корисницима путем резимеа наизглед легитимног садржаја генерисаних од стране вештачке интелигенције.
• Безбедносне слабости које утичу на екосистеме вештачке интелигенције и оквире агената, укључујући рањивост у Anthropic Claude Code-у која је омогућила пресретање MCP комуникација подржаних OAuth-ом путем лажног npm пакета; сценарио злоупотребе механизма даљинског ажурирања усмерен на OpenClaw вештине; фишинг кампање са скривеним текстом дизајниране да обмањују производе за безбедност е-поште покретане вештачком интелигенцијом; рањивост ClaudeBleed која је омогућила екстензијама прегледача да издају неовлашћене команде Claude-у; критичне рањивости у Microsoft Semantic Kernel-у (CVE-2026-25592 и CVE-2026-26030) способне да ескалирају убризгавање брзих података у даљинско извршавање кода на нивоу хоста; широко распрострањене безбедносне мане унутар ClawHub и skills.sh репозиторијума агената; и напади на NVIDIA-ин NemoClaw референтни стек који су омогућили крађу OpenClaw података путем злонамерних GitHub репозиторијума и npm пакета.

Будућност сајбер претњи вођених вештачком интелигенцијом

Како напредни модели вештачке интелигенције настављају да сазревају, сајбер криминалци све више експериментишу са својим офанзивним способностима. Претње користе моделе великих језика како би развиле адаптивнији злонамерни софтвер способан да мења своје понашање како би избегао механизме детекције.

Поред тога, системи вештачке интелигенције се укључују у процесе доношења одлука о злонамерном софтверу. Ове могућности омогућавају злонамерном софтверу да процени угрожена окружења, утврди да ли су мете вредне и одлучи да ли су услови погодни за распоређивање додатних корисних оптерећења.

Истраживање ChatGPhish-а служи као још један подсетник да технологије вештачке интелигенције уводе потпуно нова безбедносна разматрања. Како се асистенти вештачке интелигенције дубоко интегришу у пословне токове рада, заштита од индиректних убризгавања промптова, манипулисаних резимеа и злоупотреба интерфејса заснованих на поверењу постаће све критичнија компонента стратегије сајбер безбедности.