Kerentanan ChatGPhish dalam ChatGPT

Penyelidik keselamatan siber telah menemui kelemahan dalam ChatGPT OpenAI yang mengeksploitasi kepercayaan platform terhadap pautan dan imej Markdown, membolehkan serangan suntikan segera dan mewujudkan peluang pancingan data baharu. Teknik ini, yang digelar ChatGPhish, menunjukkan bagaimana ringkasan berkuasa AI boleh dimanipulasi untuk menyampaikan kandungan berniat jahat secara langsung melalui antara muka yang dipercayai.

Isu ini berpunca daripada cara pemapar respons ChatGPT memproses elemen Markdown yang berasal dari halaman web pihak ketiga. Apabila chatbot meringkaskan kandungan luaran, ia secara automatik mempercayai pautan Markdown dan URL imej yang terbenam, mengambil imej jauh dan memaparkan pautan sebagai elemen aktif yang boleh diklik dalam antara muka pembantu.

Mekanik di Sebalik Serangan

Aktor ancaman boleh membenamkan muatan berniat jahat kecil dalam halaman web yang kemudiannya diringkaskan oleh ChatGPT. Semasa proses pemaparan, imej yang dikawal oleh penyerang mungkin diambil secara automatik, yang berpotensi mendedahkan maklumat seperti alamat IP mangsa, Ejen Pengguna dan butiran Perujuk.

Selain kebocoran maklumat, kerentanan ini membolehkan kandungan berniat jahat dipaparkan dengan cara yang sangat meyakinkan. Penyerang boleh memaparkan pautan pancingan data terus dalam respons ChatGPT, memaparkan amaran keselamatan gaya sistem palsu dan memaparkan kod QR yang dihoskan pada infrastruktur yang dikawal oleh penyerang. Kod QR ini boleh menggalakkan pengguna mengimbasnya dengan peranti mudah alih, dengan berkesan memintas penapisan URL berasaskan desktop dan kawalan keselamatan perusahaan.

Apa yang menjadikan ChatGPhish sangat penting bukanlah suntikan gesaan itu sendiri, tetapi hakikat bahawa sistem AI dengan setia mengikuti arahan terbenam dan membentangkan kandungan yang terhasil sebagai sebahagian daripada ringkasan yang dipercayai. Oleh itu, halaman web yang kelihatan biasa boleh menjana pautan pancingan data, amaran akaun palsu, imej jauh dan kod QR berniat jahat terus di dalam respons pembantu AI.

Permukaan Ancaman yang Semakin Meluas bagi Pelayaran Berbantukan AI

Penemuan ini menonjolkan cabaran keselamatan yang lebih luas: ringkasan telah muncul sebagai permukaan serangan musuh yang baharu. Terdahulu pada Mac 2026, para penyelidik menunjukkan bahawa e-mel yang dibuat khas boleh memanipulasi Microsoft Copilot melalui suntikan gesaan silang (XPIA), mempengaruhi ringkasan yang dijana AI melalui arahan tersembunyi.

Memandangkan organisasi semakin bergantung pada alatan AI untuk penyelidikan dan analisis kandungan, sebarang halaman web berniat jahat yang diproses oleh pembantu AI mungkin memperkenalkan arahan yang dikawal oleh penyerang ke dalam konteks model. Ini mewakili perubahan besar dalam taktik pancingan data. Daripada memerlukan pengguna membuka lampiran yang mencurigakan atau terlibat dengan e-mel berniat jahat, penyerang boleh menjadikan aktiviti penyemakan imbas rutin dan aliran kerja ringkasan AI sebagai senjata.

Penghijrahan serangan daripada persekitaran e-mel kepada interaksi AI berasaskan pelayar meluaskan permukaan serangan yang tersedia secara mendadak. Hanya meminta ringkasan halaman web mungkin mencukupi untuk mendedahkan pengguna kepada kandungan berniat jahat yang dihasilkan melalui teknik suntikan gesaan tidak langsung.

Gelombang Teknik Pintasan Keselamatan AI yang Semakin Berkembang

Pendedahan ChatGPhish itu berlaku di tengah-tengah lonjakan penyelidikan yang mendedahkan kaedah serangan baharu yang menyasarkan sistem kecerdasan buatan. Penemuan terkini termasuk:

• Teknik jailbreak Pembelajaran Dalam Konteks Secara Tidak Sukarela (IICL), yang mengeksploitasi konflik antara pembelajaran dalam konteks dan penjajaran keselamatan untuk memintas sekatan GPT-5.4; strategi perbualan berbilang pusingan yang secara beransur-ansur memintas perlindungan model bahasa yang besar; serangan suntikan gesaan tipografi yang menyembunyikan arahan dalam imej yang diputarbelitkan secara visual; serangan Neural Exec digabungkan dengan teknik penggantian kanan-ke-kiri Unicode untuk memintas perlindungan Apple Intelligence; dan WebPromptTrap, kerentanan suntikan gesaan tidak langsung yang mempengaruhi BrowserOS yang memanipulasi pengguna melalui ringkasan kandungan yang nampaknya sah yang dijana AI.
• Kelemahan keselamatan yang menjejaskan ekosistem AI dan rangka kerja ejen, termasuk kerentanan dalam Kod Claude Anthropic yang membolehkan pemintasan komunikasi MCP yang disokong OAuth melalui pakej npm penyangak; senario penyalahgunaan mekanisme kemas kini jarak jauh yang menyasarkan kemahiran OpenClaw; kempen pancingan data teks tersembunyi yang direka untuk memperdaya produk keselamatan e-mel berkuasa AI; kerentanan ClaudeBleed yang membenarkan sambungan pelayar mengeluarkan arahan tanpa kebenaran kepada Claude; kerentanan kritikal dalam Microsoft Semantic Kernel (CVE-2026-25592 dan CVE-2026-26030) yang mampu meningkatkan suntikan segera ke dalam pelaksanaan kod jarak jauh peringkat hos; kelemahan keselamatan yang meluas dalam repositori ejen ClawHub dan skills.sh; dan serangan terhadap tindanan rujukan NemoClaw NVIDIA yang membolehkan pengekstrakan data OpenClaw melalui repositori GitHub dan pakej npm yang berniat jahat.

Masa Depan Ancaman Siber Berpacuan AI

Ketika model AI canggih terus matang, penjenayah siber semakin bereksperimen dengan keupayaan serangan mereka. Pelaku ancaman memanfaatkan model bahasa yang besar untuk membangunkan perisian hasad yang lebih adaptif yang mampu mengubah suai tingkah lakunya bagi mengelakkan mekanisme pengesanan.

Di samping itu, sistem AI sedang digabungkan ke dalam proses membuat keputusan perisian hasad. Keupayaan ini membolehkan perisian berniat jahat menilai persekitaran yang terjejas, menentukan sama ada sasaran berharga dan memutuskan sama ada keadaan sesuai untuk menggunakan muatan tambahan.

Kajian ChatGPhish berfungsi sebagai satu lagi peringatan bahawa teknologi AI memperkenalkan pertimbangan keselamatan yang baharu sepenuhnya. Apabila pembantu AI semakin bersepadu ke dalam aliran kerja perusahaan, perlindungan daripada suntikan gesaan tidak langsung, ringkasan yang dimanipulasi dan penyalahgunaan antara muka berasaskan kepercayaan akan menjadi komponen strategi keselamatan siber yang semakin kritikal.