Yapay zeka (AI) zorlu hastalıklara çözüm bulup, pandemileri önceden tahmin edebilecekken; nasıl oluyor da aynı zamanda insanlığı tehdit ediyor?

Yapay zekanın fikir babası olarak tanınan Geoffrey Hinton, geçenlerde Google’dan istifa etmiş ve yapay zekanın insanlığı yok etme riskleri hakkında daha fazla konuşabilmek için bunu yaptığını söylemişti. Kendisinin gördüğü en büyük tehdit, yapay zeka ile çalışan chatbotların insan zekasını geçmesi ve bildiğimiz zekadan farklı şekilde çalışacakları için yönetilemez hale gelebileceğiydi. Birkaç gün önce, OpenAI ve Google Deepmind başkanları da dahil, yapay zekanın diğer ‘baba’ları yapay zekanın (AI) insanlığın yok olmasına yol açabileceği konusunda yayımlanan bir bildiriyi imzaladı. "AI kaynaklı yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır"

AI Güvenliği Merkezi'nin bildiri özeti: Geçenlerde katıldığım bir toplantıda, sağlıkta inovasyon üzerine harika bir konuşma yapan Steven Tucker, ‘Doktorların ve hastaların yapay zekaya, yapay zekanın da doktorlara ihtiyacı var’ dedi ve izleyicilerin çoğunluğunu oluşturan doktorlara yapay zekadan uzak durmak yerine onun gelişimine katkı sağlayacak çalışmaların içinde bulunmalarını tavsiye etti. Yayınlanan bildiriyi görünce, bu konuşmayı düşündüm. Aslında daha fazla hayat kurtarmak, daha iyi tedavi çözümlerinin üretilmesi, ilaç geliştirme süreçlerinin kısaltılması, daha hızlı ve doğru teşhis gibi çok önemli konuları kapsayan sağlıkta yapay zekanın, nasıl oluyor da aynı zamanda insanlık için tehdit haline gelmesinden endişe ediliyor?

Örneğin bu bildiriye imza atanlar arasında Google Deepmind olması çok şaşırtıcı. Zira Deepmind tamamen etki (impact) üzerine çalışmalar yürütüyor. Onaylanmış modelleri arasında göz hastalıklarının erken teşhisinden proteinin sekanslanması ile daha etkili ilaç elde edilmesine kadar çok farklı çalışmalar var. Ve tüm bunları yaparken Google’ın tüm araçlarını, hatta Youtube gibi sosyal medya kanallarını kullandıklarını saklamıyorlar.Tam da burada tehdit oluşturabilecek ‘aşırı öğrenme’ konusu aralanmaya başlıyor. Google gibi, IBM gibi zaten dünyanın tüm datasını elinde bulunduran şirketler, bizim chatbotlar ile yazışmalarımızdan çok daha fazlasını hali hazırda yapay zekaya öğrettiler. Üstelik ellerinde bulunan çok fazla araç var ve bunlardan beslenmeye devam ediyorlar. Hal böyle olunca, nasıl ki iPhone her yıl yeni bir update çıkarıyorsa, yapay zekada da hali hazırda çok daha üst versiyonlar olduğunu tahmin etmek zor değil. İşte bu yüzden babalar sürekli uyarılarda bulunurken, her seferinde düzenleme ve hukuksal yapıların kurulması gerektiğinin altını çiziyorlar. Ancak tüm bu uyarılara rağmen, bu tehditlerin olmadığını düşünenler de yok değil. Onların dayanağı yine insana bağımlılık. Yani ‘çekeriz fişi gider’ kafası. Bir yanda yapay zekanın ana geliştiricilerinin tedirginliği bir yanda yapay zekanın insanlığa faydaları konusunda hergün çıkan onlarca haber ve güncelleme. Önümüzdeki günlerde insanlık için öngörüler yapabilen, sağlıkta gelişimi hızlandıran, daha uzun yaşamın şifrelerini çözmek için kullanılan yapay zekanın, güçlenerek ‘artık faydalı olmayayım da, bu insanlığa zarar vereyim’ kararını alıp almayacağını hep birlikte göreceğiz. O zamana kadar yapay zekanın mevcut nimetlerinden faydalanmaya devam.

Bu arada yayınlanan bildirinin altında imzası olanlar arasında Bill Gates’in de olduğunu ekleyeyim.

Didem Aral

KAGİDER Üyesi