"Yapay zekanın kaza yapmasına insanlar mı neden oluyor?"

Cumhuriyet yazarı Hakan Kara, otonom arabalara ilişkin yapılan denemelerde meydana gelen kazalarla ilgili olarak, "En fazla kaza haberi en çok denemeyi yapan Google’dan geliyordu.  Fakat kazaların önemli bölümü 'yapay zekâdan' kaynaklanmıyordu. Yani suçlu karşı taraftı, kurallara uymayan insanlardı. Yapay zekânın suçlu olduğu birkaç kaza ise küçük çaplı kazalardı. Google bu kazalardan gereken sonuçların çıkarıldığını sistemin geliştirildiğini söylüyordu" dedi.

Hakan Kara'nın, "Yapay zekâ kaza yaparsa" başlığıyla yayımlanan (3 Temmuz 2016) yazısı şöyle:

Diyeceksiniz ki, “Ne olmuş? Yapay zekâ daha önce de pek çok kaza yaptı.”  Doğru. Otonom arabalarla ilgili denemeler yoğunlaştıkça kaza haberleri de gelmeye başlamıştı. En fazla kaza haberi en çok denemeyi yapan Google’dan geliyordu.  Fakat kazaların önemli bölümü “yapay zekâdan” kaynaklanmıyordu. Yani suçlu karşı taraftı, kurallara uymayan insanlardı. Yapay zekânın suçlu olduğu birkaç kaza ise küçük çaplı kazalardı. Google bu kazalardan gereken sonuçların çıkarıldığını sistemin geliştirildiğini söylüyordu.  Daha da ötesi. Bütün bu süreçte, insan müdahalesinin kaza riskini artırdığını saptayan Google, otonom araçların tümüyle sürücüsüz olması gerektiğini söylüyordu.  Ayrıca otonom araçların trafiğe çıkmasıyla, trafik kazalarının önemli ölçüde azalacağı söyleniyordu.

***

Fakat son kazada yapay zekâ ilk kez ölüme neden oldu. Amerika Florida’daki kazada Tesla’nın Model S otomobilinde bulunan 40 yaşındaki Joshua Brownyaşamını yitirdi. Kaza sırasında Tesla’daki otomatik pilotun devrede olduğu belirtiliyor.  Brown geçen nisan ayında YouTube’da bir video yayımlamıştı. Videoda, Tesla’daki otomatik pilot, basit bir manevrayla üstüne doğru gelen beyaz bir kamyonetten kaçmayı başarıyordu. Brown yapay zekânın manevrasından çok etkilenmiş, videonun altına yazdığı açıklamada, Tesla şirketinin başındaki Elon Musk’a da mesaj göndermişti:  “Teşekkürler Elon”

***

Peki, nasıl oldu da böyle bir kaza yaşanabildi?  Tesla’daki yetkililerin verdiği bilgiye göre, kazada karşı yönden gelen beyaz bir kamyon, Tesla’nın önünden sola dönüyor. Tesla’daki yapay zekâ kamyonu göremiyor ve çarpıyor. Ne kamera ne de sensörler işe yaramıyor. Olur şey değil.  Anlaşılan o ki ortada ciddi bir teknik sorun var. ABD Ulusal Otoyol Trafik Güvenliği İdaresi’nin kazayla ilgili başlattığı inceleme, sorunun teknik nedenlerini ortaya koyacak muhtemelen.

***

Şimdi zorlu bir hukuki süreç başlayacak. Otonom otomobillerle ilgili yıllardır tartışılan hukuki konular bu kazayla somut olarak gündeme gelecek.  Kim suçlu? Arabayı yapan şirket mi? Sensörleri üretenler mi? Yapay zekâ yazılımını geliştirenler mi? Sürücü mü? Yapay zekânın kendisi mi? Peki sisteme bir hacker müdahalesi olduysa ne olacak? Sonra yapay zekâya ehliyet nasıl verilecek? Trafiğe çıkacak araçlar nasıl test edilecek? Hangi standartlara göre sınanacak?  Mahkemenin bu davada nasıl bir tutum sergileyeceği önemli. Ölen kişinin yakınlarına ne kadar tazminat verilecek?  Otomobillerdeki otopilot genellikle uçaklardaki otopilota benzetiliyor. Fakat uçaklarda bu tip kazaların neden kaynaklandığını anlayabilmek için kullanılan kara kutu nedense otopilotlu arabalarda kullanılmıyor. Bu olay otomobillerde de kara kutu benzeri bir teknolojinin kullanımına yol açar mı?  Yapay zekâ giderek daha çok yaşamımıza giriyor. Yapay zekâya sahip robotlar ameliyat bile yapmaya başladılar. Görünen o ki hayatlarımızı giderek daha çok yapay zekânın ellerine teslim edeceğiz. Bundan kaçış yok.  Teknoloji hızla gelişirken bir başıboşluğun yaşanmaması gerekiyor. Standartların belirlenmesi, kuralların oluşturulması gerekiyor.  Artık sıra robot hukukuna geldi.