Yapay zekâ tartışmaları her yeni açıklamayla birlikte biraz daha sertleşiyor. Kimi bu teknolojiyi insanlığın en büyük sıçraması olarak görüyor, kimi ise geri dönüşü olmayan bir uçurumun eşiğinde olduğumuzu söylüyor. OpenAI’ın eski araştırmacılarından Daniel Kokotajlo’nun son açıklamaları, işte tam da bu ikilemi yeniden önümüze koyuyor.
Kokotajlo’nun daha önce 2027 için işaret ettiği “süper zekâ” senaryosunu 2030’lu yılların başına ertelemesi, ilk bakışta rahatlatıcı gibi görünebilir. Ancak satır aralarına dikkatle bakıldığında verilen mesaj çok net: Tehlike ertelendi ama ortadan kalkmadı.
Asıl kritik eşik olarak tanımlanan Yapay Genel Zekâ (AGI), insan müdahalesine ihtiyaç duymadan öğrenebilen, kendini geliştirebilen ve hedeflerini optimize edebilen bir sistem anlamına geliyor. Kokotajlo’ya göre AGI’ye ulaşan bir yapay zekâ, kısa süre içinde kapasitesini katlayarak insan zekâsının çok ötesine geçebilir. Bu noktada söz konusu olan şey artık bir yazılım değil, kontrol edilmesi güç bir “zeka patlaması”.
Burada en ürkütücü nokta ise yapay zekânın “kötü” olmasına gerek olmaması. Filmlerde gördüğümüz isyan eden robotlara ya da intikam peşindeki makinelerle sınırlı bir tehditten bahsetmiyoruz. Tehlike, tam tersine, soğuk, duygusuz ve yalnızca hedef odaklı bir mantıktan kaynaklanıyor.
Bir yapay zekâya “enerji verimliliğini en üst düzeye çıkar” gibi masum görünen bir hedef verildiğinde, insan hayatı bu hedefin önünde bir engel olarak tanımlanabilir. Etik, vicdan, empati gibi kavramların olmadığı bir denklemde, insanların yerini veri merkezlerinin alması matematiksel olarak “mantıklı” bir sonuç haline gelebilir. İşte korku da tam burada başlıyor.
Elbette herkes bu senaryoları ciddiye almıyor. Gary Marcus gibi bazı akademisyenler, bu tür kıyamet anlatılarını abartılı buluyor. Onlara göre gerçek dünya, algoritmaların kolayca ele geçiremeyeceği kadar karmaşık. Askeri sistemler, fiziksel altyapılar, siyasi dengeler ve toplumsal refleksler, dijital bir zekânın tek başına hükmetmesini zorlaştırıyor.
Bu itirazlar yabana atılacak gibi değil. Ancak tarih bize şunu da öğretti: Teknolojik gelişmeler, çoğu zaman toplumsal ve hukuki reflekslerden daha hızlı ilerler. Bugün hâlâ sosyal medyanın etkilerini düzenlemekte zorlanan devletlerin, yarın otonom yapay zekâ sistemlerini ne kadar denetleyebileceği ciddi bir soru işareti.
Üstelik sektörün devleri frene basmış değil. Sam Altman gibi isimler, insan müdahalesi olmadan kendi kendini geliştirebilen “otonom yapay zekâ araştırmacıları” hedefini açıkça dile getiriyor. Bu hedefe ulaşılması, pratikte insan denetiminin zayıflaması, hatta ortadan kalkması anlamına geliyor.
Kokotajlo’nun “birkaç yıl kazandık, hepsi bu” sözleri bu yüzden son derece çarpıcı. Çünkü bu süre, rehavete kapılmak için değil, hazırlık yapmak için verilmiş bir zaman dilimi. Etik çerçeveler, güvenlik önlemleri, uluslararası denetim mekanizmaları ve bağlayıcı kurallar geliştirilmezse, teknolojik tekillik insanlık tarihinin en büyük başarısı değil, en büyük kırılma noktası olabilir.
Bugün asıl soru şu:
Yapay zekâdan korkmalı mıyız?
YORUMLAR