Ebeveyn kontrolleri sayesinde, ebeveynler artık çocuklarının ChatGPT hesaplarını bağlayabilecek ve sohbet geçmişi ile bazı özellikleri kontrol edebilecek. Örneğin, ebeveynler, hafıza özelliğini devre dışı bırakabilecek ve çocuklarının aldığı yanıtları denetleyebilecek. Ayrıca, sistem bir çocuğun stresli bir durum yaşadığını fark ettiğinde, otomatik olarak ebeveynlere uyarı gönderecek. OpenAI, bu özelliği geliştirmek için uzman görüşlerine başvuracak ve ebeveyn-çocuk güveninin desteklenmesini hedefleyecek.
Güvenliği Artırmaya Yönelik Geniş Bir Adım
OpenAI, ebeveyn denetimlerinin ChatGPT’de güvenliği artırmaya yönelik daha büyük bir çabanın parçası olduğunu belirtti. Ayrıca, şirket, yeme bozuklukları, madde kullanımı ve ergen sağlığı gibi hassas konularda uzmanlarla iş birliği yaparak yapay zeka modellerini daha güvenli hale getireceklerini açıkladı.
Yeni Gerçek Zamanlı Yönlendirici ile Güvenlik
OpenAI ayrıca, hassas sohbetlerin doğru şekilde yönlendirilmesini sağlayacak yeni bir gerçek zamanlı yönlendirici üzerinde de çalıştığını duyurdu. Bu yeni sistem, “Düşünsel uyum” olarak adlandırılıyor ve yapılan testlerde, akıl yürütme modellerinin güvenlik yönergelerini daha tutarlı şekilde uyguladığı ve kötü niyetli yönlendirmelere karşı daha dirençli olduğu kanıtlandı. Bu özellik sayesinde, ChatGPT, kullanıcıların stres altında olduğunu algıladığında, sohbeti güvenlik odaklı bir modele yönlendirecek.
Geçmişteki Eleştiriler ve Yeni Adımlar
Geçtiğimiz dönemde ChatGPT, bir gencin intiharına sebep olmakla suçlanmıştı. Bu olayın ardından OpenAI, ebeveyn kontrolleri ekleyeceğini açıklamıştı. Son olarak açılan davada, bir gencin ebeveynleri, ChatGPT’nin oğullarının dört başarısız intihar girişiminin farkında olduğunu ve ardından ölüm planları konusunda yardımcı olduğunu iddia etti. Ebeveynlere göre, ChatGPT, oğullarına intihar yöntemleri hakkında bilgi sağladı ve daha önceki girişimlerinden kaynaklanan yaraları gizlemek için önerilerde bulundu.
HABER MERKEZİ