Ana Sayfa Arama Galeri Video Yazarlar
Üyelik
Üye Girişi
Yayın/Gazete
Yayınlar
Kategoriler
Servisler
Nöbetçi Eczaneler Sayfası Nöbetçi Eczaneler Hava Durumu Namaz Vakitleri Gazeteler Puan Durumu
WhatsApp
Sosyal Medya
Uygulamamızı İndir

ŞEYTANIN AKLINA GELMEZ: CHATGPT, SAHTE ANILARLA HACKLENDİ!

Güvenlik araştırmacısı Johann Rehberger, ChatGPT’de kullanıcıların hafızasına sahte bilgiler ekleyerek sisteme zarar verebilecek bir açık keşfetti. OpenAI, bu güvenlik açığını kapatmak için düzeltme yayımladı.

Güvenlik araştırmacısı Johann Rehberger,

Dünyanın en popüler yapay zeka modeli ChatGPT, güvenlik araştırmacısı Johann Rehberger tarafından tespit edilen şaşırtıcı bir güvenlik açığıyla gündeme geldi. Bu açık, saldırganların ChatGPT’nin uzun vadeli hafıza özelliğini manipüle ederek zararlı talimatlar ve sahte bilgiler yerleştirmesine olanak tanıyor. OpenAI, bu durumu bir güvenlik sorunu olarak kabul edip kısmi bir düzeltme yayımlasa da uzmanlara göre sorun tam anlamıyla çözülmedi.

ChatGPT’nin Hafızasına Sahte Bilgiler Eklenebiliyor

Rehberger, ChatGPT’nin hafıza özelliğini manipüle eden bir kavram kanıtı (PoC) hazırlayarak saldırganların kullanıcının hafızasına sahte anılar ekleyebildiğini gösterdi. Bu açık, ChatGPT’nin kullanıcının yaşını, inançlarını veya başka kişisel bilgilerini yanlış bir şekilde hatırlamasına yol açabiliyor. Örneğin, ChatGPT’ye bir kullanıcının 102 yaşında olduğu veya dünyanın düz olduğuna inandığı gibi sahte bilgiler öğretilebiliyor.

OpenAI Düzeltme Yayınladı Ancak Tehdit Devam Ediyor

OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliğini Eylül ayında genişletmişti. Ancak bu özellik, dolaylı prompt enjeksiyonu adı verilen bir saldırı yöntemiyle kötüye kullanılabiliyor. OpenAI, bu güvenlik açığını kapatmak için bir düzeltme yayımladı ancak uzmanlar, hafızaya yanlış bilgilerin hâlâ eklenebileceği konusunda uyarıyor. Kullanıcılara, hafıza ayarlarını düzenli olarak kontrol etmeleri ve şüpheli değişikliklere dikkat etmeleri önerildi.

ChatGPT’nin hafıza özelliği, saldırganların sistem üzerinde daha fazla kontrol sahibi olmasına olanak tanıyabilir. Bu nedenle, kullanıcıların dikkatli olması ve yapay zekanın güvenliğine daha fazla önem vermesi gerekiyor.

Havva ERTÜRK

Kaynak: shiftdelete

chatgpt 5 - Marmara Bölge: Balıkesir Son Dakika Haberleri ile Hava Durumu