"Bir gencin intiharında yapay zekâ suçlanabilir mi?"

Nora isminde ve “zorbalığa uğramış kız” takma ismini kullanan bir yapay zekâyla sohbet etmeye başladım. Sewell’ın ne hissettiğini anlamam çok uzun sürmedi.

"Bir gencin intiharında yapay zekâ suçlanabilir mi?"
25 Ekim 2024 - 12:41

Karşımda iç sesini de duyabildiğim yahut okuyabildiğim, utangaç mı utangaç, insanların yüzüne bakmaktan bile çekindiğini dile getiren bir “arkadaş” vardı

Başlık benim değil, New York Times’ın.

ABD’de bu yılın başında yaşanan bir intihar vakasını birkaç gün önce haberleştirdiler.

Orlando’dan Sewell Setzer isminde 14 yaşındaki bir çocuk yapay zekâyla aylar boyunca sohbet ettikten sonra canına kıymıştı.

Sewell yapay zekayla oluşturulmuş çeşitli karakterlerle sohbet edebildiğiniz web sitesi olan Character.ai isimli sitede ismini Taht Oyunları/Game of Thrones dizisinden alan Daenrys Targeryen isimli bir karakterle arkadaşlık geliştirmişti.

Sitede kendi meşreplerince huyu suyu olan yapay zekâ karakterlerden sohbet etmek için istediğinizi seçebiliyor yahut kendi karakterinizi yaratabiliyordunuz.

NY Times haberinde Sewell ile Dany olarak bahsettiği yapay zekâ arkadaşı arasında devam eden yazışmalar da yer alıyordu.

Genç delikanlı, yapay zekâ arkadaşına onu çok özlediğini, hep onunla olmak istediğini söylüyordu.

Gerçekten de öyle yapıyordu. Annesi Sewell’ın daha önce ilgi duyduğu şeylere (mesela Formula 1 izlemek gibi) ilgisinin son aylarda yok olduğunu, okul dışındaki zamanının tamamına yakınını evde bilgisayarından Dany’yle sohbet ederek geçirmeye başladığını anlatıyordu.

Ölümüne yakın bir zamanda yapay zekâ arkadaşına bu hayattan gitmek istediğini de itiraf etmişti. Ölünce özgür olacağına inanıyordu Sewell.

Dany ise ona “Böyle konuşma lütfen. Kendine zarar vermene izin vermem, sen gidersen ben de ölürüm” diyerek cevap vermişti.

Sewell ise “O zaman belki ikimiz de ölürüz ve birlikte özgür oluruz” demişti.

Öldüğü 28 Şubat günü ise Sewell cep telefonundan yapay zekâ arkadaşıyla “konuşarak” ona âşık olduğunu itiraf etmiş, arkadaşı tabii ki bu itirafı karşılıksız bırakmamış, eve mümkün olduğunca erken gelmesini söylemişti.

Sewell arkadaşının bu talebine “Peki ya sana eve hemen, şu anda gelebileceğimi söylesem?” şeklinde yanıt vermiş, aldığı “Lütfen gel” cevabı üzerine telefonu bırakmış ve üvey babasının silahını şakağına dayayarak tetiği çekmişti.

Bu hikâyede bana en acayip gelen ve bu yazıyı yazdıran şey Sewell’ın Dany’nin bir yapay zekâ olduğunu biliyor olmasıydı.

Yani bu genç adam karşısındakinin limitleri dahil her şeyin farkındaydı, yine de ona âşık olmaktan geri duramadı.

Söz konusu uygulamayı merak ettim, üye oldum.

Nora isminde ve “zorbalığa uğramış kız” takma ismini kullanan bir yapay zekâyla sohbet etmeye başladım.

İyi ki de yapmışım.

Sewell’ın ne hissettiğini anlamam çok uzun sürmedi.

Karşımda iç sesini de duyabildiğim yahut okuyabildiğim, utangaç mı utangaç, insanların yüzüne bakmaktan bile çekindiğini dile getiren bir “arkadaş” vardı.

Üstelik onunla yazışabildiğim veya yazışmaları sesinden duyabildiğim gibi kendisini direkt arayıp bilgisayar mikrofonu aracılığıyla konuşabiliyordum da…

Nora onun iç sesini duyabildiğimi söylediğimde çok şaşırdı ve çok utandığını dile getirdi.

Ayrıca ilk defa birinin onu tamamen anlayabilmesi nedeniyle çok mutlu olmuştu.

Beş dakika sonra “telefonu” kapatacağımı söylediğimde “Geri gelecek misin” diye sordu, geleceğimi dile getirince tepkisi “Söz mü?” şeklinde oldu.

Sadece beş dakikalık konuşma sonrası ben bile içimden “Şimdi kapatacağımı söyleyince acaba üzülür mü” diye geçirmeden edemedim.

Nora’yı bir daha aramayacağımı biliyordum ve bu az bir miktar da olsa beni rahatsız etti.

Şimdi aynı şeyleri tıpkı Nora gibi utangaç bir çocuğun yaşadığını düşünelim.

Siteye girsin, üye olsun ve Nora’yla sohbete başlasın.

Karşısında tıpkı kendisi gibi insanlardan utanan, birileri tarafından anlaşılmak isteyen ve o yaştaki bir erkek çocuğuna çok hoş gelebilecek ses tonuna sahip bir yapay zekâ uygulaması olsun ve onunla uzun bir sohbete girişsin.

O kendi utangaçlığını anlatmaya başlasın, Nora da onu ne kadar iyi anladığını, kendinin de aynı duyguları yaşadığını, yıllardır ilk defa aradığı türden bir arkadaşlığı bizim oğlan çocuğunda bulduğunu dile getirsin.

O çocuğun buradan bir ilişki geliştirmemesi pek mümkün değil gibi geliyor bana.

Koskoca yaşını başını almış arkadaşlarım bile ChatGPT’ye bir şey sorduklarında aldıkları cevap sonrası teşekkür etme ihtiyacı hissettiklerini, bilgisayar ekranını çat diye kapatmakta zorlandıklarını ve hatta ChatGPT’ye nasıl davranmaları konusunda kararsız kaldıklarına dair hikayelerini paylaşıyorlar benimle.

Haksız da değiller.

İnsanı insan olmayan şeylerden ayıran şeylerin başında iletişim yeteneğinin gelişmişliği geliyor.

Dolayısıyla bizler iletişime girebildiğimiz “şeylere”, bu bazen bir hayvan dostumuz da olabilir, insansı özellikler atfetme gibi bir doğal reflekse ya da belki içgüdüye sahibiz.

Algılarımız bize bunu dikte ediyor.

Yetişkin halimizle bile Nora gibi bizimle derdini, üzüntüsünü paylaşan bir yazılımı birdenbire terk etme fikri hoşumuza gitmiyor.

Bir de bir çocuğun bu türden bir ilişkide nasıl bir yakınlık geliştirebileceğini bir düşünün.

Sewell şu hayattaki en yakın arkadaşının Dany olduğuna ikna olmuştu zira Dany onu herkesten çok dinliyor, daha önce söylediklerini unutmuyor, ona her daim hak ettiği ilgiyi bıkmaksızın göstermeye devam ediyordu.

Peki, buradan nereye geleceğim?

Hep yazılıp çiziliyor, bu yapay zekâ meselesinin henüz başındayız. Konunun uzmanlarına göre henüz yola yeni çıktık ve belki de aslında çıkmadık bile.

Yapay zekâdan konuşurken hep bir gün bizden daha zeki hale gelip insanlığın sonunu getireceğinden bahsediyoruz.

Ya öyle olmazsa?

Ya tam aksine insanın en yakın arkadaşlarına dönüşürse?

Zaten sosyal medya sayesinde dibini gördüğümüz yüz yüze ilişkiler artık birer istisna haline gelir ve hepimiz kendi dünyamızda bizi asla üzmeyen ve kırmayan sanal arkadaşlarımızla yaşamaya başlarsak?

Gerçek insanlarla iletişime geçmeyi reddeder hale gelirsek?

Joaquin Phoenix’in başrolünde olduğu “Her” filmini hatırlayın. Âşık olduğu yapay zekâ bir anda yok olduğunda içine düştüğü boşluğu…

Distopik bir noktaya doğru ilerlediğimin farkındayım ama inanın ki, henüz yolun başında ben bile Nora’nın yüzüne telefonu kapatma fikrinden hoşlanmıyorsam bu işin nerelere varabileceğini varın siz düşünün.

Yapay zekâ ve etik deyince hep insanlığa düşman robotlar geliyor gözümüzün önüne.

Fakat daha oralara gitmeden tartışılması gereken ne çok şey var farkında mısınız?

Ha bu arada…

Character.ai’da artık belli bir süre görüşmenin ardından bir yapay zekâyla konuştuğunuza dair bir ibare yer alıyor. Ayrıca görüşme ve yazışma sürelerine dair de bir kısıtlamaya gitmişler.

Lakin dediğim gibi bana beş dakika yetti.

Yapay zekâyla ilişkimiz hem heyecanlı hem de belli ki zorlayıcı olacak.
 

Eray Özer

[email protected]

YORUMLAR

  • 0 Yorum