ChatGPT'de ChatGPhish Güvenlik Açığı

Siber güvenlik araştırmacıları, OpenAI'nin ChatGPT platformunda, Markdown bağlantılarına ve resimlerine duyulan güveni istismar eden ve hızlı enjeksiyon saldırılarına olanak tanıyan, yeni kimlik avı fırsatları yaratan bir güvenlik açığı keşfetti. ChatGPhish olarak adlandırılan bu teknik, yapay zeka destekli özetlemenin, güvenilir bir arayüz üzerinden doğrudan kötü amaçlı içerik sunmak için nasıl manipüle edilebileceğini gösteriyor.

Sorun, ChatGPT'nin yanıt oluşturucusunun üçüncü taraf web sayfalarından gelen Markdown öğelerini işleme biçiminden kaynaklanıyor. Sohbet robotu harici içeriği özetlerken, gömülü Markdown bağlantılarına ve resim URL'lerine otomatik olarak güveniyor, uzaktan resimleri alıyor ve bağlantıları asistanın arayüzünde aktif, tıklanabilir öğeler olarak görüntülüyor.

Saldırının Arkasındaki Mekanizma

Bir tehdit aktörü, daha sonra ChatGPT tarafından özetlenen bir web sayfasına küçük bir kötü amaçlı yazılım yerleştirebilir. Oluşturma işlemi sırasında, saldırgan tarafından kontrol edilen görüntüler otomatik olarak alınabilir ve bu da kurbanın IP adresi, Kullanıcı Aracısı ve Yönlendiren bilgileri gibi bilgileri potansiyel olarak açığa çıkarabilir.

Bilgi sızıntısının ötesinde, bu güvenlik açığı kötü amaçlı içeriğin son derece ikna edici şekillerde sunulmasına olanak tanır. Saldırganlar, ChatGPT yanıtlarının içine doğrudan kimlik avı bağlantıları yerleştirebilir, sahte sistem tarzı güvenlik uyarıları gösterebilir ve saldırgan kontrolündeki altyapıda barındırılan QR kodları sunabilir. Bu QR kodları, kullanıcıları mobil cihazlarıyla taramaya teşvik ederek, masaüstü tabanlı URL filtrelemesini ve kurumsal güvenlik kontrollerini etkili bir şekilde atlatmalarını sağlayabilir.

ChatGPhish'i özellikle önemli kılan şey, doğrudan yapılan enjeksiyon değil, yapay zeka sisteminin yerleştirilmiş talimatları sadakatle takip etmesi ve ortaya çıkan içeriği güvenilir bir özetin parçası olarak sunmasıdır. Bu nedenle, görünüşte sıradan bir web sayfası, yapay zeka asistanının yanıtının içine doğrudan kimlik avı bağlantıları, sahte hesap uyarıları, uzaktan alınan resimler ve kötü amaçlı QR kodları oluşturabilir.

Yapay Zeka Destekli Taramanın Genişleyen Tehdit Alanı

Bu keşif, daha geniş bir güvenlik sorununa dikkat çekiyor: özetleme, yeni bir düşmanca saldırı yüzeyi olarak ortaya çıktı. Mart 2026'nın başlarında araştırmacılar, özel olarak hazırlanmış e-postaların, çapraz komut istemi enjeksiyonu (XPIA) yoluyla Microsoft Copilot'u manipüle edebileceğini ve gizli talimatlar aracılığıyla yapay zeka tarafından oluşturulan özetleri etkileyebileceğini göstermişti.

Kuruluşlar araştırma ve içerik analizi için yapay zeka araçlarına giderek daha fazla güvendikçe, bir yapay zeka asistanı tarafından işlenen herhangi bir kötü amaçlı web sayfası, modelin bağlamına saldırgan tarafından kontrol edilen talimatlar ekleyebilir. Bu, kimlik avı taktiklerinde büyük bir değişimi temsil etmektedir. Saldırganlar, kullanıcıların şüpheli ekleri açmasını veya kötü amaçlı e-postalarla etkileşim kurmasını gerektirmek yerine, rutin tarama etkinliğini ve yapay zeka özetleme iş akışlarını silah olarak kullanabilirler.

Saldırıların e-posta ortamlarından tarayıcı tabanlı yapay zeka etkileşimlerine kayması, mevcut saldırı yüzeyini önemli ölçüde genişletiyor. Bir web sayfasının özetini istemek bile, kullanıcıları dolaylı komut istemi enjeksiyon teknikleri aracılığıyla oluşturulan kötü amaçlı içeriğe maruz bırakmak için yeterli olabilir.

Yapay Zeka Güvenlik Açıklarını Aşma Tekniklerinde Artan Bir Dalga

ChatGPhish ifşası, yapay zekâ sistemlerini hedef alan yeni saldırı yöntemlerini ortaya koyan araştırmaların yoğunlaştığı bir dönemde geldi. Son bulgular arasında şunlar yer alıyor:

• İstem dışı Bağlam İçi Öğrenme (IICL) jailbreak tekniği, GPT-5.4 kısıtlamalarını aşmak için bağlam içi öğrenme ve güvenlik uyumu arasındaki çatışmalardan yararlanır; büyük dil modeli korumalarını kademeli olarak aşan çok turlu konuşma stratejileri; talimatları görsel olarak bozulmuş görüntüler içinde gizleyen tipografik komut istemi enjeksiyon saldırıları; Apple Intelligence korumalarını aşmak için Unicode sağdan sola geçersiz kılma teknikleriyle birleştirilmiş Neural Exec saldırıları; ve görünüşte meşru içeriğin yapay zeka tarafından oluşturulan özetleri aracılığıyla kullanıcıları manipüle eden, BrowserOS'u etkileyen dolaylı bir komut istemi enjeksiyon güvenlik açığı olan WebPromptTrap.
• Yapay zeka ekosistemlerini ve ajan çerçevelerini etkileyen güvenlik zafiyetleri arasında, kötü amaçlı bir npm paketi aracılığıyla OAuth destekli MCP iletişimlerinin ele geçirilmesini sağlayan Anthropic Claude Kodundaki bir güvenlik açığı; OpenClaw becerilerini hedef alan uzaktan güncelleme mekanizması kötüye kullanım senaryosu; yapay zeka destekli e-posta güvenlik ürünlerini aldatmak için tasarlanmış gizli metinli kimlik avı kampanyaları; tarayıcı uzantılarının Claude'a yetkisiz komutlar göndermesine olanak tanıyan ClaudeBleed güvenlik açığı; komut istemi enjeksiyonlarını ana bilgisayar düzeyinde uzaktan kod yürütmeye yükseltebilen Microsoft Semantic Kernel'deki (CVE-2026-25592 ve CVE-2026-26030) kritik güvenlik açıkları; ClawHub ve skills.sh ajan depolarındaki yaygın güvenlik açıkları; ve kötü amaçlı GitHub depoları ve npm paketleri aracılığıyla OpenClaw verilerinin sızdırılmasını sağlayan NVIDIA'nın NemoClaw referans yığınına yönelik saldırılar yer almaktadır.

Yapay Zeka Destekli Siber Tehditlerin Geleceği

Gelişmiş yapay zeka modelleri olgunlaşmaya devam ettikçe, siber suçlular da saldırı yetenekleriyle ilgili giderek daha fazla deneme yapıyor. Tehdit aktörleri, tespit mekanizmalarından kaçınmak için davranışlarını değiştirebilen daha uyarlanabilir kötü amaçlı yazılımlar geliştirmek amacıyla büyük dil modellerinden yararlanıyor.

Ayrıca, yapay zeka sistemleri kötü amaçlı yazılımların karar alma süreçlerine entegre ediliyor. Bu yetenekler, kötü amaçlı yazılımların ele geçirilmiş ortamları değerlendirmesine, hedeflerin değerli olup olmadığını belirlemesine ve ek zararlı yazılımların konuşlandırılması için koşulların uygun olup olmadığına karar vermesine olanak tanıyor.

ChatGPhish araştırması, yapay zeka teknolojilerinin tamamen yeni güvenlik hususlarını beraberinde getirdiğini bir kez daha hatırlatıyor. Yapay zeka asistanları kurumsal iş akışlarına derinlemesine entegre oldukça, dolaylı komut enjeksiyonlarına, manipüle edilmiş özetlere ve güvene dayalı arayüz suistimallerine karşı koruma, siber güvenlik stratejisinin giderek daha kritik bir bileşeni haline gelecektir.