Yapay zeka alanında kontrol kaybı riski giderek artarken, sistemlerin kendi haleflerini tasarlama potansiyeline ulaşması endişe verici bir durum haline geliyor. Elon Musk ve Papa 14. Leo gibi önde gelen isimlerin “silahsızlandırma ve durdurma” çağrıları, bu yıl küresel yapay zeka harcamalarının 2,59 trilyon dolara ulaşacağına dair verilere rağmen yeterince dikkate alınmıyor.
ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “Yapay Zeka Kendini Ürettiğinde” başlıklı makalesinde, otonom yazılım döngülerinin oluşturulduğunu ve bir yapay zeka modelinin kendi halefini tasarlayıp eğitebileceği aşamaya gelindiğini gözler önüne serdi. Anthropic’in paylaştığı bilgiler, şirketlerinin geliştirdiği Claude yazılım sisteminin kaynak kodunun %80’inden fazlasının, modelin kendisi tarafından üretildiğini gösteriyor. Bu oran, 2025 yılının başlarında henüz tek haneli rakamlardaydı ve yapay zekanın kendi kodunu üretme hızındaki büyük artış dikkat çekiyor.
Yapay zeka gelişim süreci, beş temel aşamaya ayrılıyor:
1. Aşama: Geleneksel bir şirket işleyişine benzer şekilde çalışan sistemler.
2. Aşama (2023-2025): Çalışanların kod yazımında yapay zeka sistemlerinden destek aldığı dönem.
3. Aşama (2025-2026): Yapay zekaların kendi kendine kod yazmaya başladığı evre.
4. Aşama (Mevcut Durum): Kodları kendi kendine çalıştıran ve diğer yapay zekalara iş süreçlerini devredebilme yeteneğine sahip sistemler.
5. Aşama (Gelecek Hedefi): Yapay zeka ajanlarının kendi kendine yeni modeller oluşturup eğitebileceği bir seviyeye ulaşması. Bu aşamada, sonraki sürümler tamamen yapay zeka tarafından geliştirilecek.
Yapay zekanın kontrolsüz büyümesine karşı dünya genelinde tepkiler de hız kazanıyor. Future of Life Institute (FLI) tarafından Mart 2023’te yayımlanan bir mektupta, iş insanı Elon Musk tarafından imzalanarak, GPT-4’ten daha güçlü sistemlerin eğitimine en az 6 ay süreyle ara verilmesi talep edilmişti. Mektupta, kitlesel iş kayıpları, dezenformasyon ve medeniyetin kontrolünü kaybetme tehlikesine dikkat çekilmişti. Benzer bir uyarı, Papa 14. Leo’nun Mayıs 2023’te yayımladığı “Muhteşem İnsanlık” genelgesiyle geldi; Papa, yapay zekanın askeri, ekonomik ve bilişsel rekabetten arındırılarak küresel düzeyde silahsızlandırılmasını talep etti.
Yazının yazarı: Yusuf Arslan
