Sıradan bir asistan mı, tehlikeli bir ajan mı... Nedir bu Operator

Operator, teoride kullanıcıların günlük dijital işlemlerini gerçekleştirmesine yardımcı olabilen bir yapay zeka ajanı olarak 3 hafta önce OpenAI tarafından tanıtıldı.

Bir web tarayıcısını kullanarak market alışverişinden, LinkedIn profil güncellemelerine kadar çeşitli işlemleri gerçekleştirebiliyor.

Şu an için yalnızca ChatGPT Pro abonelerine aylık 200 dolar karşılığında sunulan bir "araştırma önizlemesi" aşamasında bulunuyor.

Kullanıcı deneyimleri, Operator'ün bazı temel işlemleri yerine getirebildiğini ancak beklentilerin altında kaldığını gösteriyor. Örneğin, bir alışveriş sürecinde ürünleri bulabiliyor ancak satın alma işlemini tam anlamıyla gerçekleştiremiyor. Benzer şekilde, müşteri hizmetleriyle iletişim kurmada rehberlik edebilse de, sürecin tamamlanması için hâlâ manuel müdahaleye ihtiyaç duyuyor.

Carnegie Mellon Üniversitesi'nden bilgisayar bilimi yardımcı doçenti Aditi Raghunathan, yapay zeka ajanlarına 'sıradan bir asistan' olarak bakmak gerektiği görüşünde:

Raghunathan, "Benim için karar vermesini istemiyorum çünkü benden daha iyi şeyler yapabileceğine güvenmiyorum" diyerek, AI'nın insan yetkinliğini aşan bir noktaya ulaşmasına şüpheyle yaklaşıyor.

Öte yandan, küresel ölçekte yapay zeka ajanlarının kullanımı hızla yaygınlaşıyor. Özellikle tarım sektöründe, çiftçiler John Deere gibi büyük markaların yapay zeka destekli yazılımlarını kullanarak gece boyunca traktörlerini çalıştırabiliyor.

Küresel kalkınma odaklı Digital Green gibi organizasyonlar, gelişmekte olan ülkelerdeki çiftçilere Operator gibi AI çözümleri sunarak maliyetleri düşürmeyi ve verimi artırmayı hedefliyor.

Geçtiğimiz hafta Paris'te düzenlenen Yapay Zeka Eylem Zirvesi, bu teknolojinin geleceği hakkında kritik tartışmalara da ev sahipliği yaptı. ABD ve Çin arasındaki rekabetin giderek arttığı bu süreçte, liderler yapay zekanın güvenliği ve düzenlenmesi konularında görüş alışverişinde bulundu. Ancak zirveden çıkan sonuçlar, AI gelişiminin daha çok "büyüme ve hâkimiyet" odaklı olduğu yönünde.

ABD Senatörü JD Vance, zirvede yaptığı açıklamada, "Yapay zekanın geleceği, güvenlik konusunda el sıkışarak kazanılmayacak" diyerek, sektörde sert bir rekabetin sürdüğünü vurguladı.

Bu görüş, ABD Başkanı Donald Trump'ın Ocak ayında önceki Başkan Joe Biden'ın AI güvenliğiyle ilgili yürütme emrini iptal etmesiyle de paralellik gösteriyor.

Yapay zekanın bağımsız karar alabilme yetisi, etik ve güvenlik açısından büyük endişeler yaratıyor. Bu bağlamda, felsefeci Nick Bostrom'un 2003 yılında ortaya attığı "ataş senaryosu" örnek gösteriliyor:

Diyelim ki tek amacı mümkün olduğunca çok sayıda ataç yapmak olan bir yapay zekamız var. Yapay zeka, insanlar onu kapatmaya karar verebileceğinden, hiç insan olmamasının çok daha iyi olacağını hemen anlayacaktır. Çünkü insanlar bunu yaparsa, daha az ataş olur. Ayrıca, insan vücudu ataş haline getirilebilecek çok sayıda atom içerir. Yapay zekanın hedeflemeye çalışacağı gelecek, çok sayıda ataş olmasına rağmen hiç insanın olmadığı bir gelecek olacaktır.

Cornell Üniversitesi Teknoloji Politikası Enstitüsü Müdürü Sarah Kreps, "En yüksek riskli senaryolardan biri, AI ajanlarının biyolojik silah geliştirme süreçlerini hızlandırması olabilir" diyerek, kötü niyetli aktörlerin AI'yı nasıl kullanabileceğine dikkat çekiyor.

Şu anki Operator sürümü, güvenlik önlemleriyle sınırlı bir yetenek setine sahip. OpenAI, yapay zeka ajanlarının bağımsız olarak kredi kartı bilgileri kullanmasına, CAPTCHA testlerini aşmasına veya web sitelerine giriş yapmasına izin vermiyor. Bu, bir yandan güvenliği artırırken, diğer yandan AI'nın kullanım alanlarını daraltıyor.

Ancak, yapay zekanın gelecekte nasıl bir evrim geçireceği belirsizliğini koruyor. OpenAI'nin Operator'ü geliştirme sürecinde kullanıcı geri bildirimlerini dikkate alarak daha gelişmiş versiyonlarını piyasaya süreceği tahmin ediliyor.

Birkaç yıl içinde, yapay zeka ajanlarının hayatımızdaki rolü netleşebilir ve onlara ne kadar güvenmemiz gerektiğini daha iyi anlayabiliriz.

Odatv.com