Teknoloji sektöründen çağrı: Yapay zekâ araştırmalarına, güvenlik önlemleri alınana dek ara verilsin
Microsoft’un desteklediği OpenAI, yapay zekâ programı GPT’nin (Üretken Ön İşlemeli Dönüştürücü) dördüncü sürümünü piyasaya çıkarttı.
Yeni teknoloji kullanıcılara, insan benzeri sohbetten, şarkı bestelemeye ve uzun belgeleri özetlemeye, birçok alanda uygulama vadediyor.
Kâr amacı gütmeyen Future of Life Institute (Yaşamın Geleceği Enstitüsü) adlı kuruluş tarafından yayımlanan ve Elon Musk dahil 1000'den fazla kişinin imza attığı mektupta, bu tür tasarımlar için güvenlik protokolleri geliştirilene, uygulanana ve bağımsız uzmanlarca denetlenene dek, ileri yapay zekâ araştırmalarının durdurulması istendi.
Mektupta “Güçlü yapay zekâ teknolojileri, pozitif etkileri olacağı ve risklerinin yönetilebileceği konusunda emin olduktan sonra geliştirilmeli” denildi.
OpenAI, yorum taleplerine henüz yanıt vermedi.
Mektupta, rekabetle gelişebilecek yapay zekâ sistemlerinin ekonomik ve siyasi çalkantılarla topluma ve medeniyete karşı oluşturabileceği potansiyel riskler detaylarıyla anlatıldı. Yapay zekâsistemleri geliştirenlere, siyasi karar vericilerle ve düzenleyici kuruluşlarla birlikte çalışmaları çağrısı yapıldı.
Mektubun imzacıları arasında Stability CEO’su Emad Mostaque, Alhabet’in sahibi olduğu DeepMind’daki araştırmacılar, "Yapay zekânın babalarından biri" olarak tanımlanan Yoshua Bengio ve bu alandaki araştırmaların öncülerinden Stuart Russel da yer alıyor.
Avrupa Birliği’nin (AB) şeffaflık kayıtlarına göre Future of Life Enstitüsü, büyük ölçüde Musk Vakfı, Londra merkezli hayır kuruluşu Founders Pledge ve Silikon Vadisi Topluluğu Vakfı tarafından fonlanıyor.
AB’nin polis gücü Europol de, ChatGPT (sohbet robotu) gibi ileri yapay zekâ sistemlerine karşı etik ve yasal endişeleri gündeme getiren kuruluşlar arasına katıldı. Europol, sistemin oltalama (phishing) girişimleri, dezenformasyon ve siber suçlarda potansiyel olarak kötüye kullanılabileceği uyarısı yaptı.
Tesla araçlardaki otomatik sürücü sistemlerinde yapay zekâ kullanan Elon Musk, bu konudaki kaygılarını bir süredir dile getiriyor.
OpenAI’ın ChatGPT sistemi geçen yıl piyasaya çıkmasından bu yana, rakip firmalar da benzer sistemlerin geliştirilmesini ve şirketleri yapay zekâ modellerine enterge etmeyi hızlandırdı.
'Yapay zekâ reklamı yapılıyor'
OpenAI geçen hafta 10 kadar şirketle sistemin kullanılması için ortaklık yaptığını duyurmuş, ChatGP kullanıcılarının InstaCart’tan alışveriş yapabileceğini, ya da Expedia’dan uçak bileti ayırtabileceğini söylemişti.
Future of Life Enstitüsü’nün bir sözcüsü, OpenAI CEO’su Sam Altman’ın mektubu imzalamadığını söyledi.
Mektuba imza atan isimlerden New York Üniversitesi Profesörü Gary Marcus# Reuters haber ajansına yaptığı açıklamada, “Mektubun içeriği mükemmel değil ama ruhu doğru. Etkilerini daha iyi anlayana dek yavaşlamamız iyi olur. Sektördeki Büyük oyuncular ne yaptıkları konusunda giderek daha ketum bir tutum takınıyor ve bu da toplumun olası zararlara karşı kendisini savunmasını güçleştiriyor” dedi.
Karşıtları ise mektupta “Yapay zekâ reklamı yapıldığını ve teknolojinin şu andaki potansiyelinin aşırı derecede abartıldığını” söylüyor.
Umea Üniversitesi’nden yapay zekâ araştırmacısı Johanna Björklund, “Bu tür açıklamalar tantanayı büyütmek için, insanları kaygılandırmak için yapılıyor. Bence el frenini çekmeye gerek yok” dedi.
Björklund, araştırmalara ara vermek yerine, yapay zekâ araştırmacılarının daha sıkı şeffaflık önlemlerine tabi olması gerektiğini belirtti ve “Yapay zekâ araştırması yapıyorsanız, bunu nasıl yaptığınız konusunda daha şeffaf olmalısınız” diye konuştu.