Yapay zeka dünyasında dikkat çeken yeni bir iddia ortaya atıldı. OpenAI’ın ChatGPT’yi geliştirmek amacıyla bazı gerçek kullanıcı konuşmalarını insan çalışanlar veya değerlendiriciler üzerinden analiz ettirdiği ileri sürüldü.
İddiaların odağında ise şirket içerisinde yürütüldüğü belirtilen “Project Lily” adlı çalışma bulunuyor. ChatGPT konuşmaları inceleniyor mu?Ortaya atılan bilgilere göre bazı insan değerlendiriciler, ChatGPT’nin gerçek kullanıcılara verdiği yanıtları inceleyerek çeşitli kriterlere göre puanlıyor.
Bu değerlendirmelerde yapay zekanın verdiği yanıtların doğruluğu, üslubu, kullanıcıya karşı yaklaşımı ve davranış biçimi ele alınıyor.
Çalışmanın özellikle yapay zekanın kullanıcıyı gereğinden fazla onaylaması anlamına gelen “sycophancy” davranışını azaltmayı amaçladığı ileri sürülüyor. Uzun sohbetlerin tamamı görülebiliyor mu?İddiaların en dikkat çekici bölümlerinden biri, bazı değerlendirmelerde yalnızca tek bir mesajın değil, kullanıcı ile ChatGPT arasındaki daha uzun konuşmaların da incelenebildiği yönünde.
Bu durum, kişisel veya hassas bilgilerin sohbetlerde paylaşılması halinde söz konusu içeriklerin insan değerlendiricilerin karşısına çıkıp çıkamayacağı sorusunu da beraberinde getiriyor.
Ancak bu iddiaların, bütün ChatGPT sohbetlerinin insanlar tarafından okunduğu anlamına gelmediğinin altı çiziliyor.
Kişisel bilgiler tartışma konusu olduYapay zeka sistemlerinin geliştirilmesinde kullanıcı verilerinin anonimleştirilmesi ve kişisel bilgilerin mümkün olduğunca ayıklanması büyük önem taşıyor.
Ortaya atılan iddiaya göre kullanıcı isimleri gibi doğrudan tanımlayıcı bilgilerin gizlenmeye çalışıldığı ancak bazı hassas verilerin sohbetlerin bağlamı içerisinde kalabileceği öne sürülüyor.
Bu nedenle kullanıcıların yapay zeka sistemleriyle yaptıkları görüşmelerde kişisel, finansal veya özel bilgileri paylaşırken dikkatli olmaları önem taşıyor.
İnsan değerlendirmesi neden yapılıyor?Yapay zeka modellerinin geliştirilmesinde yalnızca internetten veya farklı veri kümelerinden elde edilen içerikler kullanılmıyor.
İnsanlardan alınan geri bildirimler de modellerin daha doğru, güvenli ve kullanıcı beklentilerine uygun yanıtlar vermesinin sağlanmasında önemli rol oynuyor.
Değerlendiriciler, yapay zekanın verdiği yanıtları puanlayarak hangi cevapların daha başarılı olduğunu belirleyebiliyor. Bu geri bildirimler daha sonra model davranışlarının geliştirilmesinde kullanılabiliyor.
“Yüzlerce kişi tüm konuşmaları okuyor” demek doğru mu? Ortaya atılan iddialar, yüzlerce kişinin ChatGPT kullanıcılarının konuşmalarını değerlendirdiği yönünde olsa da buradan her sohbetin tek tek insanlar tarafından okunduğu sonucu çıkarılmamalı.Çalışmanın hangi konuşmaları kapsadığı, değerlendirmelerin nasıl seçildiği ve kaç kişinin hangi yetkilerle erişim sağladığı konusunda ayrıntılar net değil.
Bu nedenle iddiaların kapsamı konusunda kesin ifadeler kullanmak yerine resmi açıklamalar ve yeni bilgiler bekleniyor.
Yapay zeka hizmetlerinin günlük hayatta daha fazla kullanılmaya başlaması, veri güvenliği ve kullanıcı gizliliği konusunu da giderek daha önemli hale getiriyor.
Özellikle sağlık, finans, özel hayat veya kimlik bilgileri gibi hassas konuların yapay zeka sohbetlerinde paylaşılması, kullanıcıların veri kullanım koşullarını daha dikkatli incelemesini gerektiriyor.
Kullanıcılar ne yapabilir?ChatGPT kullanıcıları, uygulamanın veri ve gizlilik ayarlarını kontrol ederek konuşmalarının model geliştirme süreçlerinde kullanılıp kullanılmadığına ilişkin seçenekleri inceleyebilir.
Ayrıca kullanıcıların kimlik bilgileri, şifreler, banka bilgileri, sağlık kayıtları veya paylaşılmasını istemedikleri özel verileri sohbetlere yazmaktan kaçınmaları daha güvenli bir yaklaşım olarak öne çıkıyor. Gözler OpenAI’dan gelecek açıklamalardaYeni iddia, yapay zeka sistemlerinin geliştirilmesinde insan değerlendirmesinin rolü kadar kullanıcı gizliliğinin sınırlarını da yeniden tartışmaya açtı.
“Project Lily” adı verilen çalışmanın kapsamı ve gerçek kullanıcı sohbetlerinin hangi koşullarda değerlendirildiğine ilişkin ayrıntıların netleşmesi için resmi açıklamalar belirleyici olacak.
HABER MERKEZİ