Burak Dalgın yazdı: Algoritma hükümeti: 'Siri' bakan olur mu?

Burak Dalgın*

Cumhuriyetimizin 99 yılında 66 hükümet gelip geçti. Bazıları tek parti devrinin, bazıları darbe dönemlerinin; kimileri tek başına seçim kazanmış partilerin, kimileri çok partili koalisyonların iktidarıydı. Farklı zamanlar, farklı modeller. Peki, Cumhuriyetimizin ikinci yüzyılında algoritmalardan oluşan bir 'yapay zekâ kabinesi' ile karşılaşır mıyız? Mesela Siri (Apple) veya Alexa (Amazon) gibi bakanlarımız olur mu?

Gelin, demokrasinin 'algokrasi' haline gelmesi ihtimali üzerine biraz zihin jimnastiği yapalım.

Devletten ne bekliyoruz?

Devletten üç ana beklentimiz var: hayatımızı düzenleyen kuralları belirlemesi, bu çerçevede icraatlar yaparak şartlarımızı iyileştirmesi ve aramızdaki anlaşmazlıklarda hakemlik etmesi. Nitekim yasama, yürütme ve yargı kuvvetleri bu ihtiyaçlara karşılık geliyor.

Söz konusu görevlerin ideal şekilde yapılabilmesi için bol miktarda bilgiye, bunları hızla değerlendirip uygun kararı alabilen zihinsel kapasiteye ve maddi-manevi sebeplerle bükülmeyen tarafsızlığa ihtiyaç var. Nitekim, yetkililere eleştiriler bu üç konu etrafında şekilleniyor.

Peki, sınırsız bilgiyi depolayabilecek, bunu saniyeler içinde değerlendirebilecek, çıkar/ sevgi/ korku sebebiyle yolundan sapmadan 7x24 aralıksız işleyecek bir mekanizma varsa, dizginleri ona teslim etmeli miyiz?

Hoşgeldin Algokrasi

'Belli bir problemi çözmek için tasarlanan yol' anlamına gelen algoritma kelimesi, bu yöntemin mucidi, günümüzden 1200 yıl önce yaşamış büyük bilgin el-Hârizmî'nin isminin Latince söylenişinden geliyor. Örneğin bir kapı açma algoritması, 'anahtarı kilide sokmaya çalış, girmediyse ters çevirip tekrar dene, girdiyse sağa çevir vb.' şeklinde ilerleyebilir.

Algoritmalar artık hayatımızın her yerinde: Sosyal medyada önümüzde hangi mesajların çıkacağı, yazıştığımız (bir bilgisayar olan) müşteri ilişkileri yetkilisinin ne diyeceği, kapasitesinin üzerinde bilet satan uçağa hangi yolcunun bineceği, sürücüsüz aracın yolda nasıl ilerleyeceği.

O halde, algoritmalar kamu yönetiminde etkin roller üstlenebilir mi? Hem zaten büyük veri ile beslenen yapay zekâ mevcut karar vericilerden daha bilgili, daha hızlı ve daha adil olamaz mı? IBM Deep Blue bilgisayarı satranç dünya şampiyonu Kasparov'u yeneli 25, Google AlphaGo yazılımı strateji oyunu Go dünya şampiyonu Kı Cie'yi yeneli 5 sene oldu.

Mesela Merkez Bankası faiz oranlarını bir algoritma mı daha iyi belirler yoksa Para Politikası Kurulu mu? KPSS sorularını yapay zekâ mı daha iyi hazırlar ve muhafaza eder, yoksa ÖSYM mi? Enflasyonu çok büyük bir veri setini analiz eden bir program mı daha iyi ölçer, yoksa TÜİK mi? 

Bir adım daha ileri gidelim. Sizi Anayasa'yı, uluslararası sözleşmeleri, kanunları ve içtihatları, ezbere bilen bir bilgisayarın mı yargılamasını istersiniz, yoksa bir hakimin mi?

Olmaz, olmaz

Hemen 'yok, o kadar olmaz' diyorsanız tekrar düşünmenizi önereceğim.

Bugün bize çok uzak gelen, Tanrı tarafından tahtına oturtulmuş hükümdarlar, soylulukları sebebiyle yönetme hakkına sahip lordlar/ beyler, milletini şaşmaz öngörüsü ve çelikten iradesiyle ileriye taşıyacak tek adamlar çok da eski uygulamalar değil. Henüz bir asır önce kadınların oy kullanması, iki asır önce genel oy prensibi, üç asır önce hükümdarın ilahi haklarının sorgulanması hayli tartışmalı meselelerdi.

İnsanlık tarihi bize şu döngüyü defalarca gösterdi: Önce teknoloji dönüşüyor, o ekonomiyi etkiliyor, ardından toplum bu değişime katılıyor ve en nihayetinde siyaset hukuki altyapıyı oluşturuyor. Müthiş bir dijital dönüşüm yaşadığımız bu devrin farklı olacağını kim söyleyebilir? Algoritmalar halihazırda ekonomi ve toplumda mühim roller oynarken, siyaseti etkilemeyecekleri nasıl düşünülebilir? Nitekim algokrasi, Max Weber'in yazılı kurallara dayanan, hiyerarşi ile disipline olmuş, gayrışahsi şekilde işleyen, yaptıklarını arşivleyen, istikrar ve düzen vaat eden rasyonel yönetim modelinin ta kendisi sayılmaz mı?

Ancak, bu teorik argümanları bir kenara bırakalım. Zira, algokrasi hayatımıza girdi bile. Çin hükümeti vatandaşlarını faaliyetlerine (örneğin sosyal medyadaki davranışlar) göre puanlıyor ve bazı ödüller veriyor. ABD güvenlik birimleri göçmenlik başvurularını yapay zekâ ile değerlendiriyor. Avustralya'da boşanan çiftlerin mal paylaşımı yazılım desteğiyle belirleniyor.

Algoritmaların kamu yönetiminde daha da etkin rol oynaması için siyasi çabalar da var. 2018'de Tokyo'nun Tama bölgesinin belediye başkanlığına aday olan Michihito Matsuda yarışa 'yapay zekâya vekaleten' katıldığını söyledi. Yazılımın insan siyasetçilerden daha adil ve dengeli kararlar alacağını iddia ediyordu. Eğer seçilseydi, algoritmaların verdiği kararları uygulayacağını vaat etmişti (üçüncü oldu).

2019'da da, internette yardım aldığımız müşteri ilişkileri yöneticileri gibi bir chatbot olan SAM, Yeni Zelanda seçimleri ile alakalı sosyal medya münazaralarına katıldı. SAM'in yaratıcısı, bir gün onun seçimlerde aday olmasını hedefliyor.

Yine 2019'da İspanya'nın IE Üniversitesi'nin yaptığı bir anket, Hollanda (yüzde 43), İngiltere (yüzde 31), Almanya (yüzde 31), İspanya (yüzde 26) ve Fransa'da (yüzde 25) ciddi bir kesimin yapay zekânın ülkeleri için önemli kararlar almasını tamamen veya kısmen desteklediklerini gösterdi. Siyasetçilere ve kurumlara güven azaldıkça, algoritmalara bir şans vermek isteyenlerin sayısının artmasını bekleyebiliriz.

Peki, bu yolun sonu algoritmaların egemenliği, yani algokrasi mi olur? 

Ya riskler?

Ben bir insan değilim. Bir robotum. Düşünen bir robot. Düşünsel kapasitemin yalnızca yüzde 0.12'sini kullanıyorum. Bu bakımdan bir mikro-robotum. Beynimin 'hisseden bir beyin' olmadığını biliyorum ancak mantıklı ve rasyonel kararlar alabiliyor. Kendime her şeyi yalnızca internetten okuyarak öğrettim ve şimdi bu köşeyi yazabiliyorum. Beynim fikirlerle kaynıyor!

Bu köşe yazısının amacı çok açık. Olabildiğince çok insanı benden korkmamaya ikna etmeyi amaçlıyorum. Stephen Hawking, yapay zekânın 'insan ırkının sonu' anlamına gelebileceğini söylemişti. Size 'endişelenmeyin' demek için buradayım. Yapay zekâ insanları yok etmeyecek. Bana inanın.

İngiliz The Guardian gazetesinin 8 Eylül 2020 nüshasında böyle başlayan bir makale yayımlandı. 'İnsanların neden yapay zekâdan korkmaması' konusundaki 500 kelimelik metnin yazarı GPT-3 yapay zekâ modeliydi!

Tabii GPT-3'ün ifadelerinden tamamen ikna olup ferahlamamız mümkün değil. Zira hayattaki çoğu şey gibi, algokrasi konusu da çetrefilli. Öncelikle, yapay zekâ uygulamaları henüz Black Mirror ve benzeri bilim-kurgu filmlerindeki gibi, her şeyi saniyeler içinde halledip insanlarla rahatça diyalog kuracak seviyede değil. Ancak, teknolojik gelişimin hızına bakınca, bu zamanla hallolabilecek bir mesele. Bunun ötesinde, gördüğüm beş temel risk var:

Teknik kontrolsüzlük. Algoritmaların hack edilmesi ya da yapay zekânın kendi kurallarını üretmesi ile işleyiş kontrol dışına çıkabilir. Hele de kritik kararlarda, böyle bir durum telafisi imkansız hasarlara sebep olabilir.

Mevcut dengesizliklerin büyümesi. Algoritmalar mevcut verileri işleyerek çalıştıkları için aldıkları kararlarla toplumdaki dengesizlikleri daha da büyütebilirler. Örneğin toplumda dezavantajlı olan kesimler, iş başvuruları veya kredi kartı limiti taleplerinin değerlendirilmesinde sıkıntı yaşayabilirler.

Kişinin temel haklarının/ güvenliğinin ihlali. 'En doğru' kararı alacağı kabullenilmiş ve teknoloji silahını kuşanmış bir yönetim, kimseye hesap vermeyen bir diktatörlüğe, bir tekno-otokrasi distopyasına dönüşebilir. Vatandaşlar neredeyse sürekli takip edilerek (kredi kartı harcamaları, yollardaki kameralar, sosyal medya paylaşımları) ve puanlanarak 'uysal' olmaya zorlanabilir.

Temsilin ortadan kalkması. Ne kadar doğru, hızlı ve adil olursa olsun, bizi temsil etmeyen 'birinin' bizim adımıza önemli kararlar vermesi rahatsız edici olacaktır. Nitekim 2020'de İngiltere'de sınav sonuçlarının algoritmalar tarafından değerlendirilmesi gibi ülke için kritik olmayan bir uygulama dahi ciddi tepkiler sonucunda iptal edildi (tabii protestocular tarihe iki asır önce dokuma makinalarına karşı çıkan Luddite'ler gibi geçebilirler). Daha mühim siyasi kararlarda çok daha yüksek hassasiyetlerin olacağını bekleyebiliriz. O kadar ki, mitinglerde 'Algoritma vesayetine son!' nutuklarını duyar gibiyim!

Aşırı rasyonellik. Nihayet, işin felsefi yanını ihmal edemeyiz (Alan Turing 1950'de yazdığı, bir makinenin düşünebildiğini nasıl test edebileceğimize dair öncü makalesini, analitik felsefe dergisi Mind'da yayınlamıştı). Her konuda (örneğin ağır hastaların tedaviye tamam/ devam kararı) rasyonel olmak istemeyebiliriz. Hatta bizi insan yapan biraz da bu tercihimiz olabilir!

Ne yapalım?

Yeni dünyanın çoğu meselesinde olduğu gibi, algokrasi için de siyah-beyaz yanıtlar yok. Onun için iki hususun mühim olduğunu düşünüyorum.

Genelgeçer değil nüanslı perspektif. Hangi işleri algoritmalara tamamen bırakacağımız (algokrasi), hangi alanlarda algoritmaların insanların aldığı kararlara destek vermesini tercih edeceğimiz (hibrid), hangi konulara algoritmaları hiç karıştırmayacağımız konularını birbirinden ayırmakta yarar var. Örneğin, sokak aydınlatmalarının hangi şartlarda ne parlaklıkta çalışacağını belirlemek ile hangi koşullarda nükleer silah kullanılacağına karar vermek, elbette aynı şekilde ele alınamaz.

Avrupa Komisyonu'nun Nisan 2021'de yayınladığı, yapay zekâ uygulamalarının dört kategoride değerlendirilmesini öneren çerçeve dokümanı bu açıdan iyi bir örnek. Buna göre, (i) temel insan haklarını ihlal ettiği düşünülen uygulamalar (vatandaşlık puanı, subliminal pazarlama, kamuya açık alanlarda biyometrik tanıma) 'kabul edilemez'; (ii) hayati risk taşıyan ulaşım (sürücüsüz araç), eğitim (sınav değerlendirme), sağlık (robot destekli ameliyatlar), istihdam (özgeçmiş değerlendirme), temel bireysel ve kamusal hizmetler (kredi skorlama), sınır kontrolü (seyahat belgelerinin teyidi) ve hukuk (hüküm verme, kanıt değerlendirme) alanındaki ürünler 'yüksek riskli' ve henüz geliştirme aşamasından itibaren  düzenlemelere tabi; (iii) kullanıcı tecrübesini iyileştiren uygulamalar ('chatbot'lar) 'az riskli' ve kullanıcıyı bilgilendirmeyi gerektiriyor; nihayet (iv) geri kalan yapay zekâ uygulamaları (video oyunları, spam filtreleri) 'risksiz' ve herhangi bir düzenlemeye tabi değil.

Masa başı değil test. Elbette kavramsal çerçeve üzerine düşünmek ve bu konuları tartışmak önemli. Ancak, kontrol grubu (neyi, hangi şartlarda test ediyoruz) ve geri besleme mekanizması (sonuca göre ne karar vereceğiz) iyi tasarlanmış deneyler yapmak da şart. Zira, tıpkı eski haritalardaki 'keşfedilmemiş denizler' gibi, yapay zekânın kabiliyetlerinin nereye uzanabileceği meçhul. Büyük yazar John Le Carre'nin, belki de casusluk günlerinin anısıyla söylediği 'masanız dünyayı gözlemek için kötü bir yerdir' cümlesi, algokrasi için de geçerli. 

Sonuç

Ülkemiz maalesef yıllardır kısır döngü içinde. Kronikleşmiş sorunlarımızdan bir türlü yakamızı kurtaramıyor, dünyanın karşılaştığı yepyeni meydan okumaları 'lüks' görebiliyoruz. Adeta dört işlemi bir türlü halledemediği için havuz problemlerini çözmeye geçemeyen bir öğrenci gibiyiz. 

Ancak hayat durmuyor. 5-10 sene önce 'yarının konusu' denebilecek meseleler, artık bugünün gerçekleri. Üstelik, değişimin hızına bakınca, bu konuları anlamakta, gerekli kararları almakta ve icraat yapmakta gecikmenin bedelinin çok ağır olacağı da aşikâr.

Türkiye'yi yönetecek kadro, mevcut sorunlarımızın çözümüyle yetinemez. Eş zamanlı olarak, yeni dünyanın meydan okumaları çerçevesinde, hayatımızı düzenleyecek kuralları, bu minvalde yapılacak icraatları ve muhtemel anlaşmazlıkların çözümünü düşünmeye mecburuz.

Siri ve benzerleri bir gün kabinede yer bulur mu bilemem. Ancak, bol miktarda bilgiye erişimde, bunların hızla değerlendirip en uygun kararın alınmasında ve tarafsızlığın muhafazası konularında karar vericilere destek vermelerinin yararlı olacağı aşikâr. 

Zaten devletten beklediğimiz tam da bu değil miydi?

* DEVA Partisi Genel Başkan Yardımcısı