Yapay zekada felaket riskleri: Kontrolden çıkmadan önce son çıkış

Yapay zekanın geliştirilmesinde öncülük eden bilim insanları, hızlı bir şekilde gelişmekte olan bu teknolojinin potansiyel risklerini kontrol altında tutabilmek için ülkelerin küresel bir denetim sistemi kurmaları gerektiğini belirterek uyarılarda bulunuyor.

Evrim Ağacı'nda yer alan habere göre, verilen komut ile metin ya da görsel gibi çıktılar üretebilen üretken yapay zeka dil modellerinin ortaya çıkışı, yapay zekanın ne denli güçlü biçimlerde ilerlediğini açıkça gösteriyor. Teknolojiyi ticarileştirme yarışı, onu çok kısa sürede akademinin sınırlarından çıkarıp akıllı telefonlara, otomobillere ve dersliklere kadar taşıdı. Bu süreçte Washington'dan Pekin'e kadar dünya genelindeki devletler, yapay zekayı hem düzenlemek hem de ondan yararlanmak konusunda hızlıca çözümler üretmek zorunda kaldı.

BİLİM İNSANLARI KAYGILI

Eylül 2024'te, yapay zeka alanının önde gelen önemli isimlerinden Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Andrew Yao ve Ya-Qin Zhang öncülüğünde birçok bilim insanı bir araya geldi ve bizzat geliştirilmesine katkıda bulundukları yapay zekanın yakın bir gelecekte ciddi risklere yol açabileceği konusundaki kaygılarını dile getirdiler.

Bu bilim insanları, yapay zekanın birkaç yıl gibi kısa bir süre içinde yaratıcılarının yeteneklerini geride bırakabilecek bir zeka düzeyine ulaşabileceğini ve insan kontrolünün yitirilmesinin veya bu yapay zeka sistemlerinin kötü niyetli kullanımının tüm insanlık açısından felaketle sonuçlanabileceği konusunda uyarılarda bulundular.

Soldan sağa: Stuart Russell, Andrew Yao, Yoshua Bengio ve Ya-Qin Zhang. Geoffrey Hinton, toplantıya uzaktan katılım sağladı. Yapay zekanın oluşturduğu ciddi risklerin önlenmesi için uluslararası iş birliği çağrısında bulunan bu isimler, yapay zeka alanındaki en etkili bilim insanları arasında görülmektedir.

Bu toplantıya katılım sağlayan Johns Hopkins Üniversitesi'nden hukukçu, bilgisayar bilimi ve kamu yönetimi profesörü olan Gillian Hadfield, bugün dünyanın herhangi bir noktasında bir yapay zeka sisteminin ileri yetenekler geliştirmesi durumunda onu dizginlemek için hazır bir planın mevcut olmadığını belirtmektedir. Dr. Hadfield şöyle söylüyor:

Eğer altı ay sonra bir felaket yaşansa, yani modellerin otonom bir şekilde kendilerini geliştirmeye başladığını fark etsek böyle bir durumda kimi arayacaksınız?
Bu nedenle, 5-8 Eylül 2024 tarihlerinde dünyanın dört bir yanından gelen bilim insanları, bu konulara dair bir planı tartışmak üzere Venedik'te bir araya gelmişlerdir. Bu toplantı, ABD merkezli kâr amacı gütmeyen bir araştırma grubu Far.AI oluşumunun Safe AI Forum (Tr: "Güvenli Yapay Zeka Forumu") tarafından organize edilen Uluslararası Yapay Zeka Güvenliği Diyalogları'nın üçüncü buluşmasıdır. Venedik'te toplanan bilim insanları, devletlerin kendi topraklarındaki araştırma laboratuvarlarında ve şirketlerde yapay zeka sistemleri ile ilgili neler olup bittiğini tam anlamıyla bilmesinin önemli bir gereklilik olduğunu vurgulamışlardır.

ORTAK STANDART VURGUSU

Bilim insanlarının önerisi, her ülkenin kendi sınırları içinde geliştirilen yapay zeka sistemlerini takip edecek bir yapay zeka güvenliği otoritesi kurması yönündedir. Bu doğrultuda ulusal güvenlik otoritelerini, yapay zeka sistemlerinin kendilerini başka cihazlarda ya da internette kopyalayabilmesi veya yaratıcısını kasıtlı olarak aldatabilmesi gibi bazı kırmızı çizgiler ve uyarı işaretleri konusunda ortak standartlar belirlemesi gerektiğini belirtmişlerdir. Ayrıca bunun gibi ileri düzey riskler için devletlerin uluslararası düzeyde işbirliği yapması çağrısında bulunmuşlar ve bu süreç için Birleşmiş Milletler gibi bir uluslararası bir otoritenin koordinasyonunu önermişlerdir.

ABD, Çin, İngiltere, Kanada, Singapur ve başka birçok ülkeleden pek çok bilim insanı toplantı sonunda hazırlanan bildiriye imza atmışlardır. Bildirinin imzacılarından özellikle öne çıkan iki isim, Yoshua Bengio ve Geoffrey Hinton'dır. Aynı zamanda, Pekin Tsinghua Üniversitesi'nde verdiği dersler ile alanda ün kazanan ve başarılı birçok öğrenci yetiştiren Andrew Yao da imzacılar arasındadır. Bu üç ismin her biri, prestijli kabul edilen Turing A.M ACM Ödülü'nü kazanan seçkin araştırmacılar arasında yer almaktadır. Hinton ve Bengio, 2018 Yılı Turing Ödülü'nü; Yao ise 2000 Yılı Turing Ödülü'nü kazanmıştır).[1], [2], [3] Ayrıca, bu isimlerden Hinton, 2024 Nobel Fizik Ödülü'nü de almaya hak kazanmıştır.

FARKLI COĞRAFYALARDAN İNSANLAR BİR ARAYA GELİYOR

Evrim Ağacı sitesinde yer alan bilgilerde şunlar yer alıyor:

Bununla birlikte toplantıda, Çin'in hükümet politikalarına danışmanlık yapan önde gelen yapay zeka araştırma kurumlarında çalışan birkaç Çinli bilim insanı da yer almıştır. Ayrıca eski hükümet yetkililerinden bazıları da toplantıya katılım sağlamıştır. Örneğin, daha önce Çin Dışişleri Bakanlığı'nda görev almış ve diplomat olarak hizmet vermiş Fu Ying ile İrlanda'nın eski cumhurbaşkanı Mary Robinson bu isimler arasındadır. Buna ek olarak bilim insanları, ilk kez 2024'ün başlarında Çin'in başkenti Pekin'de toplanmış ve toplantı sonrasında üst düzey Çin hükümet yetkililerine görüşmelerinin içeriğini aktararak bilgi vermişlerdir. Bildiri ile sonuçlanan son toplantı ise İtalya'nın Veneto bölgesinin başkenti Venedik'te gerçekleşmiştir. Bu toplantılar, Çin'den ve Batıdan bilim insanlarının etkileşim kurması için nadir bulunan bir fırsat sunmaktadır. Keza ABD ve Çin, teknolojik üstünlük için büyük bir rekabet içerisindedir. Bu bağlamda bu toplantılar, bilimsel ve teknolojik rekabet kızışırken ve diyalog ortamı giderek daralırken farklı coğrafyalardan uzmanların bir araya gelmesine olanak tanımaktadır.

Bir tahmin de yapay zekadan: Gram altın ne zaman 10 bin lira