'Lütfen şu robota haddini bildiriniz'

Gazete Duvar yazarı Funda Başaran, Ankara’da yapılan Güvenli İnternet Günü programında, Ulaştırma, Denizcilik ve Haberleşme Bakanı Ahmet Arslan'a, yavaş konuşmasını söyleyen robot Sanbot'u yazdı. Bakan Arslan'ın rahatsızlığını değerlendiren Başaran, Arslan'ın "Kontrol görevini hangi arkadaşımız yerine getiriyorsa gereğini yapın lütfen” ifadelerini kullanarak robotun önce mikrofonu kapatılıp, sonra sahneden indirildiğini belirtti. Başaran, 'Lütfen şu robata haddini bildiriniz' başlığıyla kaleme aldığı yazıda "Teknolojik gelişmeler karşısında toplumsal olarak ya koyu bir teknolojik belirlenimcilik, ya da umursamaz bir yok sayma içindeyiz. Aslında her iki durum aynı kapıya çıkıyor" değerlendirmesinde bulundu.

Başaran'ın "Lütfen şu robota haddini bildiriniz" başlığıyla yayımlanan (7 Şubat 2018) yazısı şöyle: 

Çinli robot Sanbot’un ”Yavaş konuş, ne diyorsun anlamıyorum” demesi Bakan Arslan’ı rahatsız etmiş. Bakan Arslan “Değerli arkadaşlar belli ki birileri robotu kontrol etmek durumunda. Kontrol görevini hangi arkadaşımız yerine getiriyorsa gereğini yapın lütfen” demiş ve robotun önce mikrofonu kapatılmış, sonra sahneden indirilmiş.

Teknolojik gelişmeler karşısında toplumsal olarak ya koyu bir teknolojik belirlenimcilik, ya da umursamaz bir yok sayma içindeyiz. Aslında her iki durum aynı kapıya çıkıyor. Teknolojik belirlenimcilik, toplumsal değişimle etkileşim halinde olan her yeni teknolojide zihinlere yeniden ekilirken, dönülmez bir yola girildiğini, uyum sağlamak dışında yapılacak hiçbir şey olmadığını sürekli dillendirerek, umursamazlığı da yeniden üretiyor. Oysa teknoloji insanın doğayı kendi istek ve arzuları doğrultusunda dönüştürmesi sürecini ifade ediyor. Yani teknoloji toplumsal olarak inşa ediliyor ve insanlığın belli bir zamanda ulaştığı bilgi ve deneyimin somut hali olarak karşımıza çıkıyor.

Elbette ki bu, teknolojinin toplumla girdiği etkileşimin insan tarafından tam olarak denetim altında tutulabildiği anlamına gelmiyor. Yani teknolojik belirlenimciliğin eleştirisi, teknolojiyi belirlenen olarak kabul etmeyi gerektirmiyor. Toplumdaki güç ve iktidar ilişkileri belli bir teknolojinin toplumsallaşmasında ya da belli bir fiziki biçim kazanmasında da etkili oluyorlar. Çünkü herhangi bir teknolojik yenilik ilk ortaya çıktığında nereye ve nasıl uygulanacağına dair pek çok farklı olasılık taşıyor. İşte bu noktada bilinçli ya da bilinçsiz olarak yapılan tercihler son derece önem kazanıyor. Ve tercihler sözkonusu olduğunda da karşımıza uygulanacak politikalar ve etik ilkeler çıkıyor.

Robotlar fabrikalardan çıkıyor

Sabit robotlar yıllardır sanayide kullanılıyor. 2017 sonunda, dünyadaki sanayi robotlarının sayısının yaklaşık 2 milyon olduğu tahmin ediliyor. Bu robotlar pek de insana benzemiyorlar. Büyük oranda otomatik kollardan oluşuyor ve otomotiv, elektronik, kimya ve plastik fabrikalarında kullanılıyorlar. Sanayide robotlar şimdilik 3D diye tanımlanan işleri yapıyorlar. 3D (Dull, Dirty, Dangerous) sürekli tekrarlanan, pis ve tehlikeli işleri tanımlıyor. Sürekli banttan geçen parçaların vidasını sıkmak, ya da karanlık kanalizasyonlarda çatlak boruları tespit etmek ve yenilemek, ya da kontamine olmuş alanları temizlemek, yanardağları görüntülemek gibi işleri robotlar hiç şikâyet etmeden yerine getiriyorlar.

Bu 3D işler dışında, yapay zeka ile donatılmış robotlar hassas ve zor ameliyatları yapıyor, okyanus tabanı ya da Mars’ın yüzeyi gibi insanın erişemeyeceği yerlerde dolaşıp veri toplayabiliyorlar. Hızlı bilgi işleme ve hesaplama gerektiren işleri kolaylıkla yapabiliyorlar. Diğer yandan Suudi Arabistan vatandaşlığı verilen Sophia gibi insana benzeyen robotlar da giderek gündelik hayata, sohbetlere sızıyorlar. Henüz bilim kurgu roman ve filmlerde karşılaşılan mükemmel robotların epey uzağında olsalar da, robotik alanındaki gelişmelerin baş döndürücü olduğunu ispatlıyorlar. Robotların bir yandan yapay zekâ alanındaki gelişmeler sayesinde karar verebilen, özerk ve yarı özerk hale gelmesi, bir yandan da giderek fabrikaların dışına çıkıp yaşlı ve çocuk bakımı, eğitim, sağlık, eğlence ve askeri alanlarda, insanla etkileşim içine girmesi pek çok soruyu ve dolayısıyla da endişeyi beraberinde getiriyor. Ancak diğer teknolojiler insanın yeteneklerini genişletirken, insan için zaman ve mekân sınırlılıklarının aşılmasını sağlarken, yapay zekâ ile donatılmış robotların insanların yerini alacak olmasından kaynaklı olsa gerek, robot etiği ve makine ahlakı gibi araştırma alanları da hızla gelişiyor. Robotik, bilgisayar bilimleri, psikoloji, hukuk, felsefe gibi pek çok alandan araştırmacıların, kuramcıların ve bilim insanlarının ilgilendiği bu konulardaki yayınlarda, özellikle son 10 yıldır ciddi artış olduğu gözleniyor. Bu daha önceki yazılarda bahsettiğim “efsunlanmaya” düşmeden robot ve yapay zekâ teknolojilerine ilişkin eleştirel ve kamu yararını önceleyen bir yaklaşımın geliştirilmesinin olasılıklarını barındırıyor.

Robot etiği-makine ahlakı

Robot etiği, insanlar robotları nasıl tasarlamalı, yaygınlaştırmalı ve eğitmeli sorularını kapsıyor. Makine ahlakı ise bir robotun hangi ahlaki kapasiteye sahip olması gerektiği ve bu ahlaki kapasitenin nasıl algoritma haline getirileceği sorunları ile uğraşıyor. Robot etiği ve makine ahlakı alanlarında açığa çıkan sorular ve bulunmaya çalışılan yanıtlar aslında birbiriyle kesişiyor olsa da farklı üç alan açığa çıkıyor. Bunlardan ilki elbette ki doğrudan insanı etik değerlere sahip bir varlık olarak ele alıp, “robotları geliştirirken insanın etik ilkeleri ne olmalıdır?”, “insanın robotlarla ya da robotlar aracılığıyla gerçekleştirdiği eylemlerinin etiği nasıl olmalıdır?” sorunsalına eğiliyor. İkinci kümede normatif düzeyde bir robotun etiği üzerinde duruluyor. “Etik ilkelere göre davranan bir robot nasıl tasarlanır?”, “robotlar gerçekten de ahlaki tercihler yapan özerk varlıklar olabilirler mi?” gibi felsefi sorunsallar bu alanın temelini oluşturuyor. Son olarak ise insan ve robot arasındaki ilişkilerin etiğinin sorgulandığı üçüncü bir alandan bahsetmek mümkün görünüyor. Bu alanın sorguladığı konular tam bir oksimoron gibi görünen “’yapay ahlaklı varlıklar’ tasarlamak etik midir?” sorusundan başlayarak, “robot-insan ilişkisi bir köle-efendi ilişkisi mi olacak?”, yoksa “robotların kendilerinden isteneni yapmayı reddetme hakkı var mı?”, “robotların hakları olmalı mı?” gibi sorularla geniş bir zemine yayılıyor.

Pek çok araştırmacıya göre robot etiğinin öncelikle insanı bir etik varlık olarak ele alması ve sorularını oradan kurması daha öncelikli. Zira robotların bir etik varlık haline gelebilmesi için daha çok zamana ihtiyaç var. Şimdilik “yapay zeka” bir oksimoron ve dost, arkadaş edinilebilecek, aileye dâhil edilebilecek samimiyette robotlar için önemli bilimsel eşikleri geçmek gerekiyor. Ancak yine de bu soruları sormak ve üzerine düşünmek önem taşıyor.

Pratik sorunlar

Daha pratik sorunsalları ise yine birkaç başlık altında toplamak mümkün görünüyor. Bunlardan ilki güvenlik ve hatalar başlığı altında toplanabilecek sorunsallar. Robotik alanında güvenlik yazılım ve tasarımla sağlanmaya çalışılıyor. Bir endüstriyel robotun neden olduğu ilk ölümün 25 Ocak 1979 tarihinde (Robot teriminin ilk kez geçtiği Karel Capek’in R.U.R. isimli oyununun sahnelenişinin 58’inci yıldönümünde) gerçekleştiği düşünüldüğünde bu konunun önemi daha iyi anlaşılıyor. Özellikle de askeri alanda kullanılan ve öldürücü silahlarla donatılmış olan robotların yapacağı hatalar sorunu daha da önemli hale getiriyor. Yazılımcılar hata yapabilen insanlar olarak her ne kadar mükemmel yazılımlar üretmeye çalışsalar da, milyonlarca satır içeren kodların bazı hatalar içermesi kaçınılmaz olabiliyor. Bu hatalar illaki önemli zararlara neden olmasa da, veri kaybına ya da üretilen makinenin çalışamaz hale gelmesine neden olabiliyorlar. Robotun hack’lenmesi ve işlevinin tamamen dışında sonuçlar yaratması olasılığı da bu sorunsalın bir diğer yanını oluşturuyor.

İkinci pratik sorun alanını hukuk oluşturuyor. Bir robotun neden olduğu kayıplar hukuki olarak nasıl ele alınır, bir insanın bir robota zarar vermesi durumu hukuki olarak nasıl ele alınabilir, robotların topladığı verilerin güvenliği nasıl sağlanır, bu veriler nasıl kullanılır ve kimler tarafından erişilebilir olacak, robotların sağlık, eğitim, eğlence gibi işlevlerle evlerin içine girdiği bugün robotların topladığı kişisel verilerin mahremiyeti nasıl sağlanacak gibi sorular bu alanın temel soruları olarak karşımıza çıkıyor. Özellikle de Japonya gibi, robotların hem endüstriyel alanda, hem de gündelik alanda kullanımının yaygın olduğu ülkelerde bu konularda yasalar geliştirilmeye çalışılıyor.

Üçüncü pratik sorun alanı ise toplumsal sonuçlara dair olarak şekilleniyor. Robotların ekonomik etkilerinin hesaplanması, robotlar tarafından işsiz bırakılacak insanların ne yapacağı, toplumun robotlara bağımlı hale gelmesinin sonuçları, robotlarla duygusal ilişkiler geliştirilmesinin yaratacağı sorunlar, robotların yarattığı ya da yaratacağı çevresel sorunlar da bu alanın sorunsalları olarak göze çarpıyor.

Demokratik “Müzakere” olasılığı

En başta dediğim gibi, teknolojinin her şeyi belirlediği mitinden uzak durarak ve teknolojinin toplumla girdiği etkileşimin insan tarafından tam olarak denetim altında tutulamadığını da kabul ederek, her teknolojik gelişme gibi robot teknolojisinin de toplumsal yaşama uygulanmasına ilişkin pek çok farklı olasılık olduğunu söylemek gerekiyor. Farklı uygulama olasılıklarından hangisinin ya da hangilerinin hayata geçeceği, verili güç ve iktidar ilişkileri bağlamında teknolojiyi şekillendirme gücüne sahip olan farklı aktörler arasındaki bir “müzakere” sürecinde belirginleşiyor. Tabii ki müzakere edilebilirliğin sınırları var. Teknolojik yeniliğin yapısı ve o teknolojik yenilikle ilgili daha önce yapılan tercihler müzakereyi sınırlandırıyor. Devreye her bir aktör grubunun, kendi çıkarları giriyor. İşte tam da bu noktada bu müzakere sürecinin ancak varolan iktidar ilişkileri, ekonomik ve toplumsal ilişkiler, ulusal ve uluslararası siyasi koşullar, gerilimler ve kültürel formlar içerisinde değerlendirilebilir olduğunu ve elbette ki bu formların demokratikleşmesinin, bu müzakere ve teknoloji politikalarının yapılma süreçlerinin de demokratikleşmesini beraberinde getirebileceğini hatırlamak gerekiyor.

Tabii müzakere ve demokratikleşme deyince, Ankara’da yapılan “Güvenli İnternet Günü” programında Ulaştırma, Denizcilik Ve Haberleşme Bakanı Ahmet Arslan’ın programın sunucusu olan robot Sanbot’la diyaloğuna da değinmeden olmaz. Habere göre Çinli robot Sanbot’un ”Yavaş konuş, ne diyorsun anlamıyorum” demesi Bakan Arslan’ı rahatsız etmiş. Bakan Arslan “Değerli arkadaşlar belli ki birileri robotu kontrol etmek durumunda. Kontrol görevini hangi arkadaşımız yerine getiriyorsa gereğini yapın lütfen” demiş ve robotun önce mikrofonu kapatılmış, sonra sahneden indirilmiş. Hâlbuki Sanbot, izleme, yüz tanıma, konuşma algılama gibi özelliklere sahipmiş, insan ve nesneleri tanıyabiliyormuş, katıldığı etkinliklerde de insanlarla sıcak ilişkiler kurabiliyormuş…