Deepfake: "Yüzümü porno videosunda kullandılar"
Sarah McDermott ve Jess Davies, BBC News
İzniniz olmadan yüzünüzün dijital olarak bir porno videosuna eklendiğini ve bu videonun internette paylaşıldığını düşünebiliyor musunuz? Kate Isaacs tam olarak bunu yaşadı ve kendi deneyimini anlatıyor.
Kate, bir akşam Twitter hesabına bakarken bildirimlerinde rahatsız edici bir videoya denk geldi.
O anı ilk defa açık bir şekilde anlatan Kate, "Birden paniğe kapıldım. Biri yüzümü alıp bir porno videosuna yapıştırmıştı" diyor.
Kate, deepfake teknolojisinin mağduru olmuştu.
Biri yapay zeka teknolojisiyle onun yüzünü bir porno yıldızının yüzünün üstüne yapıştırmıştı.
Kate, videonun daha önce televizyonda gösterilen röportajlarından görseller alınarak yapıldığını düşünüyor.
İnsanların rızası olmadan yapılan porno videolarına karşı kampanyalar yürüten Kate, videoda seks yapıyormuş gibi gösteriliyordu.
"İnanamadım. Doğru dürüst düşünemez oldum" diyor Kate ve ekliyor:
"Çok korkunçtu. Videonun her yerde paylaşılacağını düşündüm."
Geçmişte deepfake videolarında ünlülerin ve siyasetçilerin yüzleri kullanılırdı.
Videolar her zaman porno videosu da olmuyordu, bazen komedi videoları yapılıyordu.
Ancak son yıllarda bu değişti. Sibergüvenlik şirketi Deeptrace'e göre deepfake videolarının yüzde 96'sı pornografik videolardan oluşuyor.
İntikam almak için yapılan pornografik videolarda da olduğu gibi deepfake teknolojisiyle yapılan filmler, görüntüye dayalı cinsel istismar olarak tanımlanıyor.
#SeninPornonDeğil
30 yaşındaki Kate, 2019 yılında #NotYourPorn (Senin Pornon Değil) kampanyasını başlattı.
Bir yıl sonra Kate'in kampanyaları sayesinde "yetişkin eğlence sitesi" Pornhub, doğrulanmamış kullanıcılar tarafından yüklenen tüm videolarını kaldırmak zorunda kaldı. Bu, sitedeki videoların neredeyse tümüydü.
Kate, kendisine karşı deepfake teknolojisini kullanan kişinin bu kampanyaya cevaben böyle bir şey yaptığını düşünüyor ama bu kişinin kim olduğuna dair hiçbir fikri yok.
Videonun çok inandırıcı bir şekilde yapıldığını söyleyen Kate, insanların sahte olduğunu anlamayacağından korktuğunu paylaşıyor.
Kate, bir süre sonra insanların videonun altına tehditkar yorumlar bırakmaya başladığını, bazısının Kate'i evine kadar takip edeceğini, ona tecavüz edeceğini, saldırı anını filme çekeceğini ve internette yayımlayacağını söylediğini anlatıyor.
Kate, ev ve iş adresinin bile videonun altına eklendiğini söylüyor.
"Paranoyak oldum. Kim benim adresimi biliyordu ki? Acaba tanıdığım birisi mi diye düşünmeye başladım" diyen Kate sözlerini şöyle sürdürüyor:
"Gerçekten tehlikede olduğumu düşündüm."
Kate'in bir iş arkadaşının videoyu Twitter yetkililerine bildirmesiyle video sosyal medya platformundan kaldırıldı.
Ancak bir deepfake videosu internette paylaşıldığında onu tamamen yok etmek çok zor.
Uzmanlar, deepfake olayına maruz kalanların kanıt toplayıp bunu bir an önce polise bildirmesini öneriyor.
Deepfake piyasası
Deepfake videoların yapımı için çevrim içi forumlarda ciddi bir talep var.
İnsanlar, eşlerinin, komşularının, meslektaşlarının ve ailelerinin bile deepfake videolarda kullanılmasını talep ediyor.
İngiltere'de yaşayan ve BBC'ye gerçek ismini vermeyen bir deepfake video yapımcısı, ilk başta ünlülerin videolarını yaparak başladığını anlatıyor.
Görkem ismini kullanan yapımcı, insanların bu videolar sayesinde "daha önce mümkün olmayan bir şekilde fantezilerini tatmin ettiğini" söylüyor. Daha sonra çekici bulduğu kadınların ve iş arkadaşlarının videolarını yapmaya başladığı anlatıyor:
"Biri evliydi diğerinin de ilişkisi vardı. Bu kadınların deepake videolarını yaptıktan sonra ofise gitmek tuhaf bir duyguydu ama hiçbir şey olmamış gibi davrandım ve sinirlerime hakim oldum."
Hobi olarak yaptığı bu işten para kazanabileceğini anlayan Görkem bir süre sonra internet üzerinden sipariş almaya başladığını anlatıyor.
Görkem, kadınların sosyal medya hesaplarından fotoğraflar toplamaya başladığını, bir defasında Zoom görüşmesinden aldığı görüntülerle bile video yaptığını söylüyor:
"Kadınların doğrudan kameraya baktığı görüntüler benim için çok faydalı. Algoritma böylece bu görüntüleri kullanarak onların yüzünü kullanabiliyor."
Görkem, "bazı kadınların" deepfake işleminden psikolojik olarak olumsuz etkilenebileceğini kabul etse de genel olarak kadınları nesnelleştirme eyleminin zararlarını çok umursamıyor.
Görkem, "Bu ben değilim, sahte bir video deyip hayatlarına devam edebilirler. Ahlaki açıdan beni durduracak hiçbir şey olduğunu düşünmüyorum" diyor ve devam ediyor:
“Bir komisyondan para kazanacaksam bunu yaparım, düşünmeme bile gerek yok."
Deepfake videolarının standardı yapımcının deneyimi ve teknolojiye göre değişebiliyor.
Ancak dünyanın en büyük deepfake porno sitelerinden birini işleten bir başka adam, artık videolarda görsellerin manipüle edilip edilmediğini anlamanın çok zor olduğunu söylüyor.
ABD'de yaşayan bu adam, yaklaşık 20 bin videonun yüklü olduğu internet sitesini ayda 13 milyon kişinin ziyaret ettiğini söylüyor.