“Yapay zekâ kendi halefini oluşturabilir” uyarısı
Anthropic tarafından yayımlanan “When AI Builds Itself” başlıklı analizde, yapay zekâların artık yalnızca verilen komutları yerine getiren araçlar olmaktan çıktığı vurgulandı. Rapora göre yeni nesil sistemler, kendi yazılım altyapılarını geliştirip gelecekte kendi versiyonlarını eğitebilecek seviyeye yaklaşmış durumda.
Uzmanlara göre bu gelişme, teknoloji tarihinde yeni bir dönemin kapısını aralayabilir. Ancak aynı zamanda insan kontrolünün zayıflaması ihtimali nedeniyle ciddi riskler de gündeme geliyor.
Claude sistemi kendi kodunu yazmaya başladı
Şirketin geliştirdiği Claude isimli yapay zekâ modelinin performans verileri dikkat çekti. Açıklanan bilgilere göre üretim sürecindeki yazılım kodlarının yüzde 80’den fazlası artık doğrudan yapay zekâ tarafından oluşturuluyor.
Anthropic, bu oranın kısa süre önce oldukça düşük seviyelerde olduğunu belirterek yapay zekânın kendi kendine yazılım geliştirme hızındaki artışın çarpıcı boyutlara ulaştığını ifade etti.
Yapay zekâ gelişiminde 5 aşamalı süreç
Raporda yapay zekâ teknolojilerinin gelişimi beş ayrı evreye ayrıldı:
Birinci aşamada klasik insan merkezli yazılım süreçleri yer alırken, ikinci aşamada çalışanların üretken yapay zekâ desteğiyle kod yazdığı dönem başladı.
Üçüncü aşamada yapay zekâ ajanlarının bağımsız şekilde yazılım geliştirebildiği belirtilirken, mevcut dönemin ise sistemlerin kendi yazılımlarını çalıştırıp görevleri başka yapay zekâlara aktarabildiği seviyeye ulaştığı aktarıldı.
Şirketin dikkat çektiği son aşama ise en tartışmalı bölüm oldu. Bu seviyede yapay zekâ sistemlerinin kendi başlarına yeni modeller oluşturup eğitebileceği ifade edildi. Yani gelecekte bir yapay zekâ, insan desteği olmadan kendi yeni versiyonunu geliştirebilir hale gelebilir.
Kontrol kaybı endişesi büyüyor
Uzmanlar, yapay zekânın bu denli bağımsız hale gelmesinin kontrol kaybı riskini artırabileceği konusunda uyarıyor. Özellikle askeri teknolojiler, siber güvenlik, yanlış bilgi üretimi ve ekonomik sistemler üzerinde oluşabilecek etkiler nedeniyle küresel ölçekte kaygılar yükseliyor.
Yapay zekâ alanındaki hızlı ilerleme, teknoloji şirketlerinin milyarlarca dolarlık yatırımlarıyla daha da hız kazanmış durumda. Küresel yapay zekâ harcamalarının bu yıl 2,5 trilyon dolar seviyesini aşacağı tahmin ediliyor.
Elon Musk’tan yapay zekâ uyarısı
Yapay zekâ konusunda daha önce birçok kez uyarıda bulunan Elon Musk da gelişmelerden endişe duyan isimler arasında yer alıyor. Future of Life Institute tarafından yayımlanan açık mektupta Musk ile birlikte çok sayıda bilim insanı ve teknoloji uzmanı, GPT-4 seviyesinden daha güçlü sistemlerin geliştirilmesinin geçici olarak durdurulmasını talep etmişti.
Uzmanlar mektupta, kontrolsüz yapay zekâ gelişiminin kitlesel iş kayıpları, dezenformasyon ve insanlığın teknoloji üzerindeki kontrolünü kaybetmesi gibi riskler doğurabileceğine dikkat çekmişti.
Papa’dan küresel yapay zekâ çağrısı
Yapay zekâ tartışmalarına dini liderler de dahil oldu. Papa 14. Leo geçtiğimiz aylarda yayımladığı genelgede, yapay zekânın askeri ve ekonomik rekabet aracı olmaktan çıkarılması gerektiğini savundu.
Papa, küresel ölçekte yapay zekâ sistemlerinin daha etik, şeffaf ve insan odaklı şekilde geliştirilmesi çağrısında bulundu.
Uzmanlar yeni düzenlemeler istiyor
Teknoloji uzmanlarına göre yapay zekânın gelişim hızı, mevcut yasal düzenlemelerin önüne geçmiş durumda. Bu nedenle birçok ülkenin yeni güvenlik protokolleri ve etik kurallar üzerinde çalışması gerektiği ifade ediliyor.
Özellikle kendi kendini geliştirebilen sistemlerin ortaya çıkması halinde, yapay zekâ teknolojilerinin geleceğinin insanlık için büyük fırsatlar kadar ciddi riskler de taşıdığı belirtiliyor.
HABER MERKEZİ