Bu zamana kadar karar verme süreçlerinin merkezinde hep insanı gördük, hiyerarşik bir düzen içinde olsun veya olmasın, kararı veren de kararın konusu da her zaman insan odaklıydı. Sanığa isnat edilecek suçun cezası mahkumiyet bile olsa, hangi hukuk sisteminde olursanız olun, hep kararın mahiyeti bir insan tarafından hazırlandı. Peki, değişen global dünya çerçevesinde 21. yüzyılda da işleyiş bu yönde devam mı edecek, yoksa kararların tamamı veya bir kısmı insan dışı sistemler tarafından mı hazırlanacak? Bu ihtimal dahilinde, algoritma temelli kararlara veya tahminlere güvenebilecek miyiz?
Açıklanabilir Yapay Zeka (XAI) yazımızda Black Box sorunundan bahsetmiştik ancak sorunun olası etkilerine değinmemiştik. İnsan karar verme sistemi de aslında Black Box’tan çok farklı değildir. Bir karar insan tarafından verildiğinde de, kişinin sarf ettiği nihai kelimelere göre hareket ederiz ama karar verme süreci boyunca sonucu neyin etkilediğini bilemeyiz. Bazı subjektif ve öznel süreçler de -bilinçli olarak veya olmayarak- gayet karar verme süreçlerini etkileyebilir. Son yıllarda yapılan araştırmalara göre, hakimlerin erken saatlerdeki duruşmalarda sanık lehine karar verdikleri ancak mola saatine yaklaştıkça aleyhte karara imza attıkları tespit edilmiştir. Bunun sebebinin açlık veya yorgunluktan mı kaynaklandığı bilinmese de, yargıda bile karar verme süreçleri üzerinde öznel sebeplerin etkileri görülmektedir. Bir bakıma, insanların düşünce süreçlerini de, algoritmalarda olduğu gibi kalem kalem inceleyemeyiz.
Neden yapay zekâ bir karar verdiğinde bizi rahatsız ediyor?
Aslında buna verilebilecek kesin ve tek olasılıklı bir yanıt yoktur. Biraz derine inersek ve insanın entelektüel olarak gelişim sürecini gözlemlersek, kişiler özellikle belirli mevkilere gelip toplumun dinamiğini etkileyecek kararlar verebilme yetkisine sahip olmadan önce özel eğitimlerden geçerler. Bu eğitimlere devam ederken veya görev anında onlara belirli ahlaki kurallar ve etik değerler eşlik eder — en azından makul bir insana bu değerlerin eşlik etmesi gerekmektedir. Nitekim, bir yapay zeka neyin etik bir davranış olup olmadığını tespit edecek bir muhakeme yeteneğine sahip değildir. Bu sebeple, verdiği karar dayandığı veri setine göre doğru olsa da etik olacağı anlamına gelmez. Ancak, günümüzde “automation bias” dediğimiz, insanların kendi düşünce mekanizmalarından ziyade yapay zeka gibi otomasyon sistemlerine güveniyor olmasından dolayı, bu sistemlerin verdiği tüm kararları doğru kabul etme eğilimi söz konusudur. Bu da bizi bir bakıma, ahlaki muhakeme yeteneğinden yoksun sistemlerin ağzından çıkan iki söze mahkum bırakmaktadır.
Algoritmalar büyük bir veri kümesindeki eğitim ve sayısız tekrarın ardından belirli durumlar için tahminlerde bulunmaları adına kullanılabilmektedir. Algoritmalar, yalnızca bireylerin geçmiş ve şimdiki özelliklerini, davranışlarını ve ortamlarını yansıtan kişisel verilere dayanarak; gelecekte belirli bir durumda belirli sonuçların ne kadar muhtemel olacağını tahmin edebilirler. Bu tahminler, kişilerin gelecekte muhtemelen sahip olacağı geliri hesaplamak, kredibilitesini ölçmek veya işe alınıp alınmayacağına karar vermek gibi durumlar için bir “araç” olarak kullanılabilir. Ancak algoritma tarafından belirlenen bu tahminlerin kişilere yönelik kararlar verilirken kullanılması ne kadar etik veya ne kadar doğru olduğu tartışılması gereken bir konudur çünkü her veri seti veya kişiye ait her veri ileri de olabilecek şeyleri kesin olarak belirlemeye yetmez. Sadece algoritmaya dayanarak verilen kararlar olasılıkları ve istisnai senaryoları ortadan kaldırır niteliktedir. Bu sebeple bir kişi hakkında karar verilirken algoritma araç olarak kullanılacaksa belki de insana özgü bazı değerlerin ortadan kaldırılmaması gerekmektedir ki; insanlara istisna olabilme şansı verilsin.
