"Yapay zeka yarın öbür gün nasıl davranacak bilemiyoruz"
İstanbul Bilgi Üniversitesi’nde öğretim görevlisi olan Kozan Demircan, "Artık yapay zekâ kendi kodunu kendi yazıyor. Hatta Datarobot örneğinde olduğu gibi analiz yazılımlarına işini yapmayı öğreten öğretmen yapay zekâ yazılımları var. Yine de bunlar büyük miktarda veriyi hızlı işleyerek öğrenmek zorunda. Kendi başına öğrenen sistemlere makine öğrenimi diyoruz. Nasıl ki refleksler bilinçli hareketlerimizden hızlı, makine öğreniminde de en hızlı refleks öğrenme çözümü, derin öğrenme" dedi. Cumhriyet'ten Zehra Özdilek'e konuşan Kozan Demircan, "Demem o ki derin öğrenme algoritmalarını sırf insanlara daha hedefli reklamlar gösterip para kazanmak için geliştirdik. Google ve Facebook’un işi bu, Facebook’un 2015 reklam geliri 27 milyar dolar. Ancak derin öğrenme yazılımları bir sonuca varırken, örneğin bir kişinin kanser olduğunu yüzde 95 oranında doğru bilirken bu sonuca nasıl vardığını hiç bilmiyor" diye konuştu. Demircan, "Bu algoritmalar kara kutu. Refleksle çalıştıkları için bilinçaltımız gibiler. Kısacası şirketler para kazansın diye geliştirdiğimiz yapay zekâ başına buyruk olarak bir şeyler öğreniyor. Yarın öbür gün öz farkındalık kazanınca nasıl davranacağını bilmiyoruz" görüşünü dile getirdi.
-Teknolojiye ilginiz nasıl başladı?
Teknolojiyle doğmuşum sanki. İlkokul üçüncü sınıftan itibaren eski Görsel Teknik, Walt Disney ve Dünya Atlasları ansiklopedilerini okumaya başlamıştım. Asimov romanları ve Flash Gordon çizgi romanlarından çok etkilendim. Eski Focus popüler bilim-kültür dergisinde editör olarak çalıştım. Popular Science Türkiye dergisinde üç yıl yazı yazdım.
-Yapay zekâ nedir? Ne amaçla üretilir?
Yapay zekâ, yapay olarak geliştirilen zekâdır. Bunun bizde karşılığı makine zekâsı. Android ve IoS işletim sisteminden, su şebekesini kontrol eden SCADA sistemlerine, yeniden hedefleme reklamlarından, e-ticaret’e, insansız hava araçlarından, otonom arabalar ve otopilotlara kadar her alanda yapay zekâ kullanılıyor. İki tür yapay zekâ var. Güçlü genel yapay zekâ. İnsan seviyesinde veya insandan zeki süper zekâ ki henüz geliştirilmedi. Ve zayıf özel yapay zekâ. Bu ikincisi her yerde. Belli bazı işleri, ama sadece o işleri insanlardan iyi yapıyor. Yapay zekâ bilgisayar, robot ve makineleri kontrol ediyor. Endüstri 4.0 ve dijital dönüşümde büyük önem taşıyor. Yorulmuyor, acıkmıyor, maaş, sigorta, zam ve refah talep etmiyor. Bu yüzden şirketler maliyet artışını telafi etmek için robotlar ve bilgisayarlara geçiyor. Yapay zekâ insanlar gibi yaratıcı değil, öz farkındalığı yok, duyguları da yok. Ancak basit işleri milyonlarca kez yorulmadan ve hata yapmadan tekrarlıyor. Çok büyük veriyi analiz ederek anlamlandırmakta ve satışlarla reklam gösterimlerini artıracak öngörülerde bulunmakta kullanılıyor. Otonom silahlardan bilimsel araştırmalar için yapılan bilgisayar simülasyonlarına kadar birçok açılımı var.
Dünyanın yeni hakimi mi olacak?
-Bazı bilim insanları yapay zekânın insanlıktan sonra dünyanın yeni hâkimi olacağını iddia ediyor...
Geçen gün çıkan haberlerde gördük ki Cambridge Üniversitesi’nden iki doktora öğrencisinin geliştirdiği bir kişilik testi var. Bu 5 parametrelik kişilik testi (MyPersonality) Facebook beğenilerinizden yola çıkarak sizin online alışveriş davranışlarınızdan, cinsel ve politik tercihlerinize kadar her şeyi yüzde 68 oranında tahmin edebiliyor. 150 beğeni ile sizi eşinizden iyi tanıyor. 300 beğeni ile sizi sizden iyi tanıyor. İşte Cambridge Analytica şirketi Trump’ın seçildiği seçimlerde 50 milyon Amerikalının Facebook verilerine ulaştı. Bu verileri kullanarak tek tek kişilere özel Facebook yayınlarını gösterdi. Böylece seçimlerin sonuçlarını etkiledi. Aynısı Brexit için de yapıldı.
-Bu durumda yapay zekâ, insanları ele geçirmeye çok önceden mi başlamış oluyor?
Artık yapay zekâ kendi kodunu kendi yazıyor. Hatta Datarobot örneğinde olduğu gibi analiz yazılımlarına işini yapmayı öğreten öğretmen yapay zekâ yazılımları var. Yine de bunlar büyük miktarda veriyi hızlı işleyerek öğrenmek zorunda. Kendi başına öğrenen sistemlere makine öğrenimi diyoruz. Nasıl ki refleksler bilinçli hareketlerimizden hızlı, makine öğreniminde de en hızlı refleks öğrenme çözümü, derin öğrenme. Demem o ki derin öğrenme algoritmalarını sırf insanlara daha hedefli reklamlar gösterip para kazanmak için geliştirdik. Google ve Facebook’un işi bu, Facebook’un 2015 reklam geliri 27 milyar dolar. Ancak derin öğrenme yazılımları bir sonuca varırken, örneğin bir kişinin kanser olduğunu yüzde 95 oranında doğru bilirken bu sonuca nasıl vardığını hiç bilmiyor. Bu algoritmalar kara kutu. Refleksle çalıştıkları için bilinçaltımız gibiler. Kısacası şirketler para kazansın diye geliştirdiğimiz yapay zekâ başına buyruk olarak bir şeyler öğreniyor. Yarın öbür gün öz farkındalık kazanınca nasıl davranacağını bilmiyoruz. Şu anda Facebook’un derin öğrenme yazılımlarının hukuki ve mali sorumluluğu yok. Hesap sorsalar şirket hesap veremez. Algoritmaların nasıl çalıştığını onlar da bilmiyor. Bu sebeple asıl endişe edilmesi gereken şey robotlar Terminator gibi insanları yok eder mi sorusu değil. Asıl sorun bu kara kutu yapay zekânın ileride ne yapacağı.
Robotlaşmanın sonuçları
Robotlaşma inşaat işçilerinin, fabrika işçilerinin yerini alarak işsizliğe yol açacak. Bankacılık sektöründeki ara eleman ve orta düzey beyaz yakalılar da işsiz kalacak. Yapay zekâ geliştiren veri bilimcilerin yerini bile robotlar alıyorsa, gerisini siz düşünün. Buna bir de dış iskelet, giyilebilir robotlarla, robotlaşan fabrika işçilerini ekleyelim. Kontrolsüz nüfus artışına ve toplumsal olaylar yaşanabilir. Firmalar ürün ve hizmetlerini satacak kitle bulamazlar. Seçim sonuçları da etkilenir.
-Çözümü var mı?
Facebook tarzı yapay zekâ destekli algı yönetimiyle insanları maniple etmek ve Çin’deki gibi sosyal karne yöntemi. Sosyal karne kredi notunun uslu yurttaş olmakla birleştirilmesidir. Yaramazlık ederseniz notunuzu kırıyorlar, tabii trafik cezanızı ödemezseniz de. Hatta sizi arkadaş olarak ekleyenlerin de notunu kırıyorlar. Öyle ki otelde lüks oda tutamıyor, araba kiralayamıyor, kredi çekemiyor, hatta yurtdışına çıkamıyorsunuz. Uslu yurttaşa ise indirimli tatil hakkı var. Zynga Credit ve Alipay sistemleri bu sosyal karnede kullanılıyor. Şimdi gelişmiş ülkeler bir de buna işsizlik maaşının bir tık üstü olan evrensel geliri ekleyecekler ve robotlaşma dünyasında işsiz kalanları dengeleyecekler. Elbette yapay zekâ ile yapay kıtlık ekonomisinden bolluk ekonomisine de geçebiliriz. Bunu yaparsak telepatik internet desteğiyle nüfusun yüzde 90’ı düşünür, filozof, sanatçı, edebiyatçı, bilim insanı, mühendis vb. olabilir. Harika olur.