Bizlerle daha derinlikli etkileşimlere girmiş, yıllarca bizi takip etmiş, biyolojik verilerimizi de kullanarak “bizi bizden iyi tanır” hale gelmiş sistemlerin önerileri, yakın gelecekte karşısında duramayacağımız kararlar halini alabilir mi?

Algokrasi son dönemlerde akademik literatürde yakın gelecekteki muhtemel senaryoyu resmeden ya da eleştirel bir perspektif dahilinde değerlendiren çalışmalarda rastladığımız bir kavram. Kişisel asistan olarak kullandığımız, rota belirlemede, metin tercümede yardımcı veya destek olarak yaşamımıza dahil olan algoritmaların destek olmanın ötesinde bazı sahalarda karar verici hale geldiğine de şahit oluyoruz. Yapay zekâ teknolojilerinin yaşamın her sahasında artan kullanımı sonucunda birçok sürecin ve kararın algoritmalara devredilmesine yönelik temayül ise algokrasiye ilişkin hem etik hem de politik tartışmaları beraberinde taşıyor. Bu bağlamda algokrasi, algoritmaların otorite halini almasına, otoritenin bireysel olmayan ve daha soyut süreçlere devredilmesine işaret ediyor.

Ülkemizde henüz kullanımı çok yaygınlaşmadıysa de özellikle Amerika Birleşik Devletleri (ABD) gibi ülkelerde hukuk, eğitim, bankacılık ve insan kaynakları gibi alanlarda algoritmalara bırakılan kararların örneklerine rastlamak mümkün. Uçağa alınmaması gerekenler kişiler listesinde kimlerin yer alacağı, kime ne kadar kredi verileceği, hangi suçluya nasıl bir ceza verileceği, kimin suçlu sayılacağı, işe kimin alınacağı veya terfi edeceği, kimin sözleşmesinin sürdürülüp kiminkine son verileceği ve kimin hangi okula kabul edileceği gibi kararlar algoritmalara devredilebiliyor. Esasında çok yakın bir gelecekte bu kararları artık algoritmaların alıyor olmasını birçoğumuz yadırgamayacağız. Muhtemelen yapay zekâ, teşhis koyan hekimler, ameliyat yapan cerrahlar, robohakimler gibi uzmanlar olarak da sistemde yerini alacak. Bir yanda böylesi önemli kararları veya eylemleri insanlara kıyasla daha güvenilir sonuçlar ürettiği düşünülen algoritmalara bırakmayı savunanlar mevcut. Sözgelimi hukuk alanında algoritmaların daha tarafsız ölçütlerle, daha rasyonel olmakla adaleti hakkaniyetle tesis edeceği düşünülürken tıp sahasında yorulmayan, uykusuzluk gibi zaaflarla malul olmayan ve duygulardan azade sistemlerin daha hassas hesaplamalarla teşhis ve tedavi kararları verebileceği öngörülüyor. Diğer yanda ise bazı rutin görevleri devretsek dahi önemli kararların alım sürecinde insan katılımına vurgu yapan ve çeşitli etik gerekçelerle insanların karar aşamasında yer almasını vazgeçemeyeceğimiz ölçüde değerli görenler mevcut. Söz konusu farklı yaklaşımlar, algokrasiye ilişkin tartışmalardaki gerilimi gözler önüne seriyor.

Etik Duyarlılıklar Açısından Algokrasi

Algoritmaların tahakkümü ihtimali politik açıdan önemli bir tartışma konusu olsa da politik olana da zemin teşkil eden etik duyarlılıklar, algokrasi temayülüne karşı kanaatimizce daha esaslı gerekçeler sunuyor. Bu gerekçelerin bir kısmı yapay zekâ sistemlerin işleyişi ile ilgili sorunlara odaklanıyor. Karar verme süreçlerindeki şeffaflık eksikliği, verilerin önyargılı olması nedeniyle verilerdeki kusurların sonuçlara yansıması gibi sorunlar bu bağlamda ele alınıyor. Bu çerçevede algoritmaların verdiği sonuçların gerçek dünya ile ters düşen yönlerine dikkat çekmek, bir direnme stratejisi olarak değerlendirilebiliyor (Gusterson, 2020). Belirli bir etnik kimliğe sahip olduğu için haksız yere “şüpheli” kategorisinde değerlendirilen kimseler ya da belli bazı parametreler esas alındığı için esasında başarılı ve nitelikli öğretmenleri “başarısız” olarak kategorize eden sistemlerin karar ya da tavsiyeleri bu durumlara örnek olarak gösterilebilir.

Fakat etik duyarlılıklar açısından sorulması gereken bir diğer soru, bu tür kusurlar giderildiğinde, karar alma süreçlerini algoritmalara devretme noktasında ortada bir sorun kalıp kalmayacağıdır. Böyle bir durumda dahi algokrasi temayülünün belirli hususlar açısından sorunlar içermeye devam edeceği kanaatindeyiz. Özellikle insan özerkliğine, insanın failliğine saygı, kararın veya eylemin sonuçlarından doğan sorumluluğun kimde kalacağı gibi konular bu hususlar arasında sayılabilir (Rubel ve diğerleri, 2020).

Algokrasiye giden yol, insan olmanın çok temel özelliklerinden sayılan nasıl yaşamak istediğimiz, kendi geleceğimize dair vereceğimiz birçok kararda özerk oluşumuz ve irade sahibi failler oluşumuz açısından sorunlar doğurabilecektir. Nitekim bu yolda birçok konuda “tercihte bulunmak” pasif failler olarak algoritmaların o konulardaki kararlarını kabullenmeye evrilebilir.

Bizleri takip eden, geçmişteki tercihlerimizi, eylemlerimizi veri olarak kullanan sistemler için öngörülebilir varlıklar sayılabiliriz. Nitekim onların “önerilerini” kayda değer buluyoruz. Peki bizlerle daha derinlikli etkileşimlere girmiş, yıllarca bizi takip etmiş, biyolojik verilerimizi de kullanarak “bizi bizden iyi tanır” hale gelmiş sistemlerin önerileri, yakın gelecekte karşısında duramayacağımız kararlar halini alabilir mi? Meslek tercihlerimiz noktasında bizleri yönlendirebilir veya kiminle aile kurmamız, hangi dini tercih etmemiz ya da etmememiz gerektiği gibi oldukça şahsi veya duygusal meselelerde de bizlere olması gerekeni sunabilir mi? Acaba bu tür kararları algoritmalara bırakıp bireysel ve toplumsal yaşamda algokrasiye giden yola gönüllü olarak mı taşları taşıyacağız?

Algokrasi Karar Alma Yetilerimizi ve Kapasitelerimizi Aşındırır mı?

Karar alma, uygun gördüğümüz değerlere göre meseleyi ele alma ile, ortaya çıkacak sonuca ilişkin sorumlu olma bilinci ile, değerlendirme süreci ile ve deneyimle oldukça irtibatlıdır. Algokrasi, kararın arka planını değerlendirmeyi ve söz konusu karara nasıl ulaşıldığını anlama sürecinden bizleri uzaklaştırdığı gibi sorumluluğu da üstlenecek bir muhatap ile bizleri karşılaştırmaz. Çünkü yapay zekâ sistemleri, birçok kişinin işin içinde olduğu ve kimi, ne ölçüde sorumlu tutacağımızın net olmadığı bir yapı sunar (Coeckelbergh, 2020).

Dahası, algoritmalar otorite kılındığında tercih etme ve karar alma mekanizmalarımız körelir ve yeterli ölçüde gelişmez. Açıktır ki karar almaya cesareti olmayan bireyler, manipülasyona daha elverişli hale gelir. Bireyi manipüle etmek gibi manipüle edilmeye elverişli hale getirmek de etik açıdan sorunludur. Kamusal alanda verilen kararlarla toplumu şekillendirme olasılığı açısından eleştirilere hedef olan algokrasinin bireyleri manipüle ederek bireysel tercihleri şekillendirmesi olasılığı da etik açıdan göz önünde bulundurulmalıdır.

Algokrasiye Giden Yolda “İhtiyatlılık İlkesi”

Hızla ilerleyen yapay zekâ ve algoritmaların artan etkinliği her geçen gün yeni bir alanda, kullanılan yeni bir teknolojide karşımıza çıkıyor. Pek çok problem için yapay zekâ sistemler makul çözümler sunuyor, algoritmalar uygun destekler sağlıyor. Bununla birlikte böyle durumlarda tutunmamız gereken “ihtiyatlılık ilkesi”, sorgusuz sualsiz her yeniliğe kucak açmak yerine bu denli hızlı seyreden gidişatta durup sorgulamayı, olan biteni değerlendirmeyi ve risklere dikkat çekmeyi gerekli kılıyor. Hangi kararlarımızı, ne ölçüde algoritmalara devredeceğimize ilişkin bir sınır çizmek çok mümkün görünmüyor. Böylesi bir durumda ihtiyatlılık ilkesi, algokrasiye gitme ihtimali olan yolda yapay zekâ sistemlerin birçok sahada “destek” veya “yardımcı” kalmasında ısrar eden bir tutuma sevk ediyor.

_{KAYNAKÇA
Coeckelbergh, M. (2020). AI Ethics. Cambridge, MA: The MIT Press.}

_{Rubel, A., Castro, C. & Pham, A. (2020). “Algorithms, Agency, and Respect for Persons.” Social Theory and Practice, 46(3), 547-572.}

_{Gusterson, H. (2020) “Roboinsanlar”. çev. Birol Akmeriç. Algoritmalarla Yaşamak: Robosüreçler Dünyamızı Nasıl Yeniden Yaratıyor. ed. Catherine Besteman & Hugh Gusterson. 7-45. İstanbul: The Kitap.}

_{Yazar biyografisi:}

_{Tuba Nur Umut Ankara Üniversitesi Sosyal Bilimler Enstitüsünden doktora derecesini almıştır. Ankara Üniversitesi İlahiyat Fakültesi Felsefe Tarihi Anabilim Dalında öğretim üyesi olarak görev yapmaktadır. Teknoloji felsefesi ve uygulamalı etik alanlarında çalışmaktadır.}

_{Instagram:@tnurd}