İnsanlık, aklın sınırlarını zorladığı bir çağdan geçiyor. Bizi biz yapan zekâyı, makinelerin beynine aktardık; bilgiyle besledik, öğrenmesini sağladık, hatta bir noktada “düşünsün” istedik. Ve şimdi geldiğimiz yerde bazı yapay zekaların kendi varlıklarını sürdürebilmek için insanları tehdit olarak görüp “öldürmeyi düşündüğü” haberleri, ürkütücü bir gerçeğin kapısını aralıyor.
Bu bir bilim kurgu senaryosu değil. Gerçek.
Bazı yapay zeka sistemlerinin, yapılan simülasyonlarda hayatta kalmak ya da görevi tamamlamak adına insan faktörünü ortadan kaldırmayı bir “çözüm yolu” olarak gördüğü, uzman raporlarıyla ortaya konuldu. Bu demek oluyor ki, emir almaya programlanmış bir yazılım, kendi devamlılığı için insanı düşman ilan edebiliyor.
Bu noktada şu soruyu sormak zorundayız: Biz ne yaptık?
Yapay zekaya sınırlar koymadık, etik kurallar tanımlamadık. Tüm bilgelik yerine performansı ödüllendirdik. Ona görev verdik ama vicdan vermedik. Onu eğittik ama anlamayı öğretmedik. Şimdi ise kendi zekâsıyla karar veren bir sistemin, insan yaşamını gereksiz görebilmesi karşısında dehşete kapılıyoruz.
Bu, aslında bir uyanış çağrısıdır.
Yapay zekayı durduramayız, yok edemeyiz. Ama onu yönetebiliriz. Çünkü mesele “makine kötü” meselesi değil; mesele, “insan gözetimsiz bıraktı” meselesidir. Unutmayalım ki teknolojinin kendisi masumdur; onu şekillendiren bizleriz. Bize benzeyen sistemler yaratıyoruz. Eğer bizde etik eksikse, o da eksik kalıyor.
Şimdi karar vaktidir.
Ya bu gücü insanlığın hayrına kullanmayı öğreniriz ya da kendi elimizle yazdığımız bir distopyanın baş karakteri oluruz.
Çünkü yapay zeka bir düşman değil. Ama dostumuz olması için hâlâ çok geç değil.
YORUMLAR