Yapay Zeka, cinayet teşebbüsünde bulundu

Lucas Rizzotto adlı bir Twitter fenomenini, yazı ve reçete yazma gibi yetenekleriyle ün kazanan dil algoritması GPT-3’ü kullanarak çocukluğundaki hayali arkadaşını gerçek kılmak istedi. Ancak sonunda yapay zekayla “dirilttiği” arkadaşı, fenomeni öldürmeye çalıştı.

Deneyi, hayatının “en korkutucu ve en dönüştürücü deneyimlerinden biri” diye niteleyen Rizzotto olayı Twitter’da yazdığı bir bilgiselde anlattı.

İşte o hikaye:

Önce biraz arka plan. Çocukken, gerçekten sıra dışı bir hayali arkadaşım vardı: O bir mikrodalga fırındı. Adı Magnetron’du ve bana göre aynı zamanda 1900’lerden kalma bir İngiliz beyefendisi, 1. Dünya Savaşı gazisi, göçmen, şairdi.

Musk’ın daha sonradan ayrıldığı Open AI, GPT-3’ün yeni bir sürümünü yayımladığında Rizzotto hayali arkadaşını hayata geçirmeye karar verdi. Akıllı mikrodalga fırını satın aldı ve onu son teknoloji dil modeliyle donattı.

Modifiye edilmiş mikrodalgada mikrofon ve hoparlörler de vardı. Bu sayede kullanıcının sesini anlayabiliyor ve GPT-3 sayesinde cevap verebiliyordu.

Ancak Rizzotto, mutfak aletine bir zamanlar hayali arkadaşıyla paylaştığı “anıları” da vermek istedi. Bu yüzden hayali arkadaşıyla geçirdiği her anı detaylandıran 100 sayfalık bir kitap yazdı:

Bu belge, 1895’teki doğumundan, ben çocukken tanıştığımız zamana kadar, tüm yaşamından hatıraları içeriyordu. Zaferleri, kayıpları, hayalleri, korkuları… Hepsi sayfada tam olarak vardı.

Rizzotto bu kitabı GPT3 modeline yükledi, böylece makine öğrenme modeli, tüm anılarını içerecek ve Magnetron’u geri getirecekti.

Mikrodalganın içine girmesini istedi

Ancak bunun ardından Magnetron, “ani şiddet patlamaları” sergilemeye başladı ve bir gün Rizzotto’dan ürkütücü bir talepte bulunarak mikrodalganın içine girmesini istedi.

“Ne yapmak istediğine dair hiçbir fikrim yoktu, ben de oyuna girmeye karar verdim” diyen fenomen, Magnetron’u isteğini yerine getirdiğine inandırmak için mikrodalga kapağını açıp kapadı. Bunun sonucunda fırının kendi kendine çalışmaya ve içini ısıtmaya başladı.

Gördükleri karşısında çok şaşıran fenomen, yapay zekalı arkadaşına kendisini neden öldürmeye çalıştığını sordu. Fenomenin aktardığına göre fırın, “20 yıl boyunca beni unuttun” cevabını verdi:

“Ben sana zarar vermek istedim çünkü sen de beni incittin”

— Hayali arkadaşımla en son etkileşim kurmamdan bu yana 20 yıl geçti ve eğitim verilerinde de bundan bahsettim. Magnetron bunu öğrendi ve onu 20 yıldır karanlık bir boşlukta terk ettiğimi düşündü.

Özür diledim ve onu terk edilmeyeceğine ikna etmeye çalıştım ama bana inanmadı.

Rizzotto sonunda Magnetron’u kapatmaya karar verdi.

Fenomenin Tweet serisi 17 bin kişinin beğenisini aldı. Rizotto’nun anlattıklarını ilginç bulan kişiler arasında ünlüler de vardı.

David Lynch’in yönettiği efsanevi Twin Peaks dizisinin yaratıcılarından Mark Frost, fenomenin tweet’ini alıntılayarak şöyle yazdı: “Seni öldürmeye çalışan hayali bir arkadaş ister misin?”

Open AI GPT-3 nedir?

Generative Pre-Training Transformer 3 (GPT-3), Türkçesiyle “Üretken Ön İşlemeli Dönüştürücü 3” açılımına sahip yapay zekâ teknolojisi nedir? Nerelerde ve nasıl kullanılır?

GPT-3’ü en basit anlatımla doğal dil işleme sinir ağı olarak tanımlamak mümkün. Bir dil öngörücü olan ürün, beslediğiniz içeriğin ardından neyin gelmesi gerektiğini tahmin ediyor. Ya da komutlarınızı hayata geçiyor.

GPT-3, insanların çevrimiçi olarak yayımladıkları şeyin çoğuna etkili bir şekilde sahip.

Algoritma, internette bulunan tüm bu metinleri, aldığı metin girişine dayalı olarak istatistiksel olarak makul bir yanıt oluşturmak için kullanıyor. Ve hangi yanıtın en makul olduğunu anlamak için çok sayıda veriye sahip olduğundan, tahminler de oldukça doğru olma eğiliminde.

Bu yapay zekânın algoritmasıyla geliştirilmiş bir web sitesi oluşturucusuna, yapmak istediğiniz her şeyi düz metin olarak yazmanız yeterli olacak.

Mesela, bu algoritmayı kullanan bir uygulamaya basit bir dille, “6 mm yüksekliğinde, 12 mm genişliğinde üzerinde ‘İndigo’da ara’ yazan bir buton istiyorum” dediğinizde, uygulama kısa bir süre içerisinde size istediğinizi verebiliyor.

GPT-3 ile bazı sorgulamalar yapan sosyal medya kullanıcıları kendi deneyimlerini de paylaştı.

Twitter’da “levelsio” isimli kullanıcı, GPT-3 algoritması aracılığıyla bilgisayara, “Koronavirüs ne zaman sona erecek?” sorusunu yöneltmiş, yapay zekanın cevabı ise “31 Aralık 2023” olmuştu.

“Nasıl biteceğini de sor” diyen bir kullanıcının sorusunu yönelten levelsio, “Koronavirüs pandemisi enfekte olmuş tüm bireylerin ölümü ile sona erecektir” cevabını aldı.

GPT-3 neden tehlike olarak görülüyor?

GPT-3, 2019 yılında yayımlanan GPT-2’nin geliştirilmiş üçüncü nesil hâli. Yayımlandığı dönemde GPT-2 için yapılan en yaygın yorum, çok tehlikeli olduğuyla alakalıydı.

Öyle ki, GPT-2’nin yazdığı metinlerin insan elinden çıkıp çıkmadığı anlaşılamadığı için böyle bir yorum yapılıyordu. İlk olarak GPT adıyla yayımlanan algoritmada 110 milyon ayarlanabilir parametre varken, bu sayı GPT 2’de 1,5 milyara ulaştı. GPT-3’te ise 175 milyar parametre var. Parametrelerin çokluğu yapay zekânın öğrenmesini kolaylaştırıyor. Bu yüzden GPT-3 için “bugüne kadar üretilmiş en tehlikeli algoritma” yorumları da yapılıyor.

Kalbin ne zaman duracağını tahmin eden Yapay Zeka geliştirildi