Dünyanın en popüler yapay zeka modeli ChatGPT, güvenlik araştırmacısı Johann Rehberger tarafından tespit edilen şaşırtıcı bir güvenlik açığıyla gündeme geldi. Bu açık, saldırganların ChatGPT’nin uzun vadeli hafıza özelliğini manipüle ederek zararlı talimatlar ve sahte bilgiler yerleştirmesine olanak tanıyor. OpenAI, bu durumu bir güvenlik sorunu olarak kabul edip kısmi bir düzeltme yayımlasa da uzmanlara göre sorun tam anlamıyla çözülmedi.

ChatGPT’nin Hafızasına Sahte Bilgiler Eklenebiliyor

Rehberger, ChatGPT’nin hafıza özelliğini manipüle eden bir kavram kanıtı (PoC) hazırlayarak saldırganların kullanıcının hafızasına sahte anılar ekleyebildiğini gösterdi. Bu açık, ChatGPT’nin kullanıcının yaşını, inançlarını veya başka kişisel bilgilerini yanlış bir şekilde hatırlamasına yol açabiliyor. Örneğin, ChatGPT’ye bir kullanıcının 102 yaşında olduğu veya dünyanın düz olduğuna inandığı gibi sahte bilgiler öğretilebiliyor.

OpenAI Düzeltme Yayınladı Ancak Tehdit Devam Ediyor

OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliğini Eylül ayında genişletmişti. Ancak bu özellik, dolaylı prompt enjeksiyonu adı verilen bir saldırı yöntemiyle kötüye kullanılabiliyor. OpenAI, bu güvenlik açığını kapatmak için bir düzeltme yayımladı ancak uzmanlar, hafızaya yanlış bilgilerin hâlâ eklenebileceği konusunda uyarıyor. Kullanıcılara, hafıza ayarlarını düzenli olarak kontrol etmeleri ve şüpheli değişikliklere dikkat etmeleri önerildi.

ChatGPT’nin hafıza özelliği, saldırganların sistem üzerinde daha fazla kontrol sahibi olmasına olanak tanıyabilir. Bu nedenle, kullanıcıların dikkatli olması ve yapay zekanın güvenliğine daha fazla önem vermesi gerekiyor.

Havva ERTÜRK

Kaynak: shiftdelete