Facebook'un sakıncalı içerik moderatörleri anlattı: Tüm bu nefret söylemi siyasi görüşlerimizi etkiliyor

Facebook'ta sakıncalı içerikleri denetlemekle sorumlu olan moderatörler, her gün karşılaştıkları yüzlerce nefret söylemi ve cinsel istismar vakası nedeniyle psikolojilerinin bozulduğunu anlattı. Sürekli olarak nefret söylemine maruz kalan bazı moderatörlerin siyasi görüşlerinin değiştiği, yabancılardan korkar hale geldikleri belirtiliyor.

Facebook’ta nefret söylemi, cinsel istismar ve ırkçılığa karşı içerik kontrolü yapan binlerce moderatörün yaşadığı psikolojik sorunlar tartışılıyor. Moderatörlerin bazılarının maruz kaldıkları nefret söylemi ve yalan haberler nedeniyle paranoyaklaştığı, faşist siyasi görüşlere kaydığı, müstehcen içeriklere bağımlı hale geldiği veya tüm bunlarla başa çıkamayarak alkol ve uyuşturucuya yöneldiği, birçoğunun psikolojik destek almak zorunda kaldığı belirtiliyor.

Söz konusu tartışma ilk olarak şubat ayında The Verge sitesi tarafından haberleştirilmiş, Facebook da gelen tepkiler üzerine moderatörlerin iş yükünü hafifletme kararı almıştı. Ancak yeni düzenlemeye rağmen, kota üzerinden çalışan moderatörlerden günde 400 ila 500 içeriği kontrol etmeleri bekleniyor. Bu durum günde sekiz saatlik mesai için dakikada yaklaşık bir içerik anlamına gelirken, moderatörlerin akıl sağlığı adeta bir sosyal deneye tabi tutulmaya devam ediyor.

"İnşa etmekte olduğumuz distopik toplum hakkında daha fazla şey öğreniyorsunuz"

Facebook’un Berlin’deki moderasyon merkezinde çalışan bir grup moderatör, yaşadıklarını The Guardian gazetesine anlattı. Gazete Duvar'ın The Guardian'dan aktardığına göre moderatörlerden biri, yetişkinlerle 18 yaşın altındaki kullanıcılar arasında Facebook’un algoritması tarafından olası cinsel istismar ihtimali saptanıp ‘sakıncalı’ olarak işaretlenen konuşmaların özellikle rahatsız edici olduğunu söyledi.

Algoritmanın önlerine getirdiği ikili özel sohbetlerin ‘yüzde 90 oranında’ cinsel içerikli olduğunu anlatan moderatör, “[Bu mesajları okuyunca] Her gün inşa etmekte olduğumuz distopik toplum hakkında daha fazla şey öğreniyorsunuz. Avrupa’dan ABD’den, Filipinler’deki çocuklara yazan zengin beyaz erkekler var… 10 veya 20 dolar karşılığında cinsel fotoğraflar almaya çalışıyorlar” dedi.

"Bu nefret söylemi, siyasi görüşlerimizi bir şekilde etkiliyor"

Bir diğer moderatör, paranoyaklaşan bir arkadaşının yaşadıklarını anlattı; her gün karşılaştıkları nefret söyleminin kendi siyasi görüşlerini değiştiriyor olabileceğini söyledi. “Bir gün bir iş arkadaşımın internetten şok tabancası almaya çalıştığını gördüm. Başkalarından korkmaya başlamıştı. Geceleri sokakta yürümekten veya etrafında yabancıların bulunmasından gerçekten endişe duyduğunu itiraf etti” diyen moderatör şöyle devam etti:

“Belki de her gün karşılaşmak zorunda olduğumuz tüm bu nefret söylemi, siyasi görüşlerimizi bir şekilde etkiliyor. Demek ki, normal ve liberal bir insan, hatta ilerlemeci bir insan muhafazakârlaşabiliyor, söz gelimi mülteciler gibi meseleler hakkında daha fazla endişe duyabiliyor.”

"Her şey esasında bir deney"

The Guardian’ın görüştüğü moderatörler, yaptıkları işin yeni bir alan olduğuna da dikkat çekti. Biri, “Biz bu alanda bir tür öncü birliğiz. Bu tamamen yeni bir iş kolu ve her şey esasında bir deney” derken, bir diğeri “İnternet denilen bu yeni şeyi ele almak için bazı kurallar bulmalıyız. Bir sosyal ağ içindeki kullanıcıları istismarcılardan, nefret söyleminden, ırkçı önyargıdan, pornografik yazılımlardan korumayı amaçlayan bir ekip yaratmak önemli. Fakat, bu iş kolu hakkında bir tartışma açılmasının önemli olduğunu düşünüyorum” ifadelerini kullandı.