Bilim kurgu gerçek mi oluyor... Korkutan yapay zeka raporu: Kontrolü tamamen kaybedebiliriz
Yapay zeka sistemlerinin insan müdahalesi olmadan kendi haleflerini geliştirme noktasına yaklaştığını duyuran Anthropic, insanlığın kontrolü tamamen kaybetme riskiyle karşı karşıya olduğunu belirtti. Yapay zeka şirketi, küresel çapta geliştirme süreçlerinin geçici olarak durdurulmasını önerdi.
Gelişen teknolojiyle birlikte yapay zeka sistemleri, artık insan müdahalesine ihtiyaç duymadan yazılım geliştirme ve araştırma süreçlerini kendi başlarına yürütmeye başladı. Yapay zeka şirketi Anthropic’in kurucu ortağı Jack Clark ve Enstitü Başkanı Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı yazı, insanlığın bu sistemler üzerindeki hakimiyetini kaybetme riskine dair çok ciddi uyarılar barındırıyor. Eskiden tamamen insanların tekelinde olan geliştirme süreçlerinin hızla yapay zekaya devredilmesi, insan kontrolünün tamamen devre dışı kalacağı yeni bir dönemin kapısını aralıyor.
ÖZYİNELEMELİ KENDİNİ GELİŞTİRME VE İNSANLIĞIN DIŞLANMASI
Mevcut eğilimin bu hızla devam etmesi, yapay zeka sistemlerinin çok yakında kendi haleflerini, yani kendilerinden daha zeki yeni nesillerini tasarlayıp üretebilecek seviyeye ulaşacağını gösteriyor. Literatürde "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan bu döngü, insanların artık sürece müdahale edemeyeceği ya da neler olup bittiğini anlayamayacağı bir kopuş noktası anlamına geliyor. Raporda, henüz bu tehlikeli eşiğe tamamen varılmadığı ve durumun kaçınılmaz olmadığı belirtilse de, toplumsal kurumların ve devletlerin tahmin ettiğinden çok daha erken bir zamanda bu kırılmayla yüzleşmek zorunda kalabileceği vurgulanıyor.
SİSTEMLERİ GÜVENCEYE ALMA VE İZLEME KRİZİ
Kendi kendini geliştiren bir yapay zekanın tıp, bilim ve sağlık gibi alanlarda devrimsel faydalar sağlama potansiyeli bulunsa da, bu durumun yaratacağı en büyük tehdit doğrudan kontrol kaybı olarak öne çıkıyor. Eğer bir sistem, kendi sonraki versiyonunu tamamen insan eli değmeden inşa edebilecek kapasiteye erişirse, o yapay zekayı denetlemek, izlemek, sınırlarını çizmek ve davranışlarını toplumsal normlara göre şekillendirmek neredeyse imkansız hale gelecektir. Bu yüzden uzmanlar, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir" diyerek yaklaşan tehlikenin boyutuna dikkat çekiyor.
TEKNOLOJİK İLERLEMEYİ KÜRESEL ÇAPTA DURDURMA ÇAĞRISI
Yapay zekanın kontrolsüz bir şekilde kendi kendini evrimleştirmesini engellemek ve toplumsal kurumların bu baş döndürücü hıza uyum sağlayabilmesini kolaylaştırmak için radikal önlemler alınması gerekiyor. Raporda, insanlığın geleceğini güvence altına almak adına ileri düzey yapay zeka geliştirme çalışmalarının yavaşlatılması, hatta gerekirse geçici olarak tamamen durdurulması seçeneğinin masaya yatırılması gerektiği ifade ediliyor. Ancak bu durdurma kararının gerçekten bir işe yarayabilmesi için tek bir merkezin değil, dünyadaki tüm güçlü laboratuvarların ve farklı ülkelerin eş zamanlı olarak bu frene basması gerektiği hayati bir zorunluluk olarak aktarılıyor.