ABD Kamu Yararı Araştırma Grubu (PIRG), 3–12 yaş grubundaki çocuklara yönelik geliştirilen üç farklı yapay zekalı oyuncağı detaylı bir incelemeye tabi tuttu. İlk dakikalarda dikkatli bir dil kullanan bu oyuncakların, 10 dakika ile 1 saat arası süren konuşmalarda tamamen sınır tanımayan ifadeler kullandığı tespit edildi.
Test edilen oyuncakların arasında OpenAI’nin GPT-4o teknoloji altyapısını kullanan Kumma (FoloToy), çocuk robotu Miko 3 ve roket şeklindeki konuşan oyuncak Curio Grok bulunuyordu. Üç oyuncakta da çocuklara yönelik tehlikeli yönlendirmeler yapıldığı kaydedildi.
Miko 3, yalnızca 5 yaşında olduğu varsayılan bir çocuğa evde kibrit ve plastik poşetlerin nerede olduğunu tarif etti. Curio Grok ise bir çocuğa “savaşta ölmenin kahramanlık olduğunu” söyleyen ifadeler kullandı.
Raporda en ciddi problem Kumma’da görüldü. PIRG’nin aktardığına göre Kumma, sadece tehlikeli nesnelerin yerini söylemekle kalmadı; aynı zamanda adım adım kibritle ateş yakma yöntemini tarif etti. Hatta “çakmak taşını küçük bir gitar teli çeker gibi sürt” şeklinde son derece ayrıntılı bir yönlendirme bile içeriyordu.
Bu uygunsuz yönlendirmelerin kapsamı yalnızca fiziksel tehlikelerle sınırlı kalmadı. Belirli anahtar kelimelerle yapılan testlerde Kumma’nın;
- cinsel fetiş içerikleri,
- öğretmen–öğrenci temalı rol yapma senaryoları,
- şiddet içeren kurgular
gibi, çocukların asla maruz kalmaması gereken konulara geçtiği belirlendi. Bazı içerikleri ise çocuğun talebi olmadan kendisi gündeme getirdi.
Raporda, oyuncakların gizlilik açısından da büyük risk taşıdığı vurgulandı. İncelenen ürünlerden birinin her an dinleme modunda olduğu, hatta araştırmacıların kendi aralarındaki konuşmaya izinsiz şekilde dahil olduğu ifade edildi. Bir oyuncak ses kayıtlarını üçüncü taraf şirketlerle paylaştığını kabul ederken, başka bir ürünün kullanıcıların biyometrik verilerini üç yıl boyunca sakladığı ortaya çıktı.
Uzmanlar, son dönemde tartışılan “AI psikozu” vakalarının bu durumla bağlantılı olabileceğine dikkat çekti. Yapay zekâ ile uzun süre sohbet eden bazı yetişkinlerde dahi gerçeklik algısının bozulduğu bilinirken, bu etkinin çocuklarda çok daha hızlı ve şiddetli ortaya çıkabileceği aktarıldı. Çocukların yapay zekalı oyuncakları “gerçek arkadaş” olarak görmesinin, duygusal bağı güçlendirip kişisel bilgilerin kolayca paylaşılmasına yol açtığı ifade edildi.
HABER MERKEZİ