Siber suç ve dijital şiddet, yapay zekânın 2020'lerin başında hayatımıza girmesiyle karmaşık bir hal aldı ve bu konu geçtiğimiz aylarda Elon Musk'ın YZ sohbet robotu Grok'un milyonlarca derin sahte (deepfake) üretmesiyle teknoloji gündemini sarstı. Fakat, bu durum şiddetin nasıl biçim değiştirdiğini de gösteriyor.
Derin sahteler, tamamen YZ tarafından üretilen veya değiştirilen bir sentetik medya kategorisidir. Grok dokuz gün içinde 4,4 milyon derin sahte üretti ve yaydı. Bunların yarısı kadınların ve kız çocuklarının sıradan fotoğraflarının algoritmalar aracılığıyla cinselleştirilmiş görüntüleriydi. Görüntülerin hiçbirinde kadınların ne rızaları vardı ne de bu fotoğrafların varlığından haberdarlardı. Tacize maruz kalan kadınlar kalıplaştırılmış ve sınırları ihlal edilmiş hissediyor çünkü görseller gerçek ve yapay arasındaki epistemolojik ayrımı ortadan kaldırıyor ve silinmeleri mümkün değil.
Araştırmacılar, rıza dışı özel derin sahteler (NCID) olarak adlandırılan görsel şiddet aletinin yeni ve büyüyen bir tehlike olduğunu belirtiyor. Bu tehlike orantısız bir şekilde kadınları etkiliyor ve BM Kadın Birimi, derin sahtelerin %98'inin rıza dışı cinsel içerik olduğunu belirtiyor. Özellikle "Clothoff" gibi YZ araçlarına kolay erişim bu tip görsellerin kadınlara karşı bir silah haline getirilmesini kolaylaştırıyor. Bu bağlamda NCID'ler hem psikolojik hem sosyoekonomik hem de siyasi boyutu olan bir suç türü olduğundan siber suç kavramına yeni ve araştırılması gereken bir alan kazandırıyor.
Araştırmacılar, halihazırdaki yasaların yetersiz olduğunu belirtiyor. Sussex Üniversitesi tarafından yapılan çalışmalar Birleşik Krallık Çevrimiçi Güvenlik Yasası'nın "sistemler ve süreçler" yaklaşımının cinsel içerikli derin sahtelere karşı koymak için yeterli caydırıcılık mekanizmalarına sahip olmadığını ortaya koyuyor. Ayrıca, anketler bu konudaki toplumsal farkındalığın düşüklüğünü gözler önüne seriyor: iProov'un 2022'de yaptığı ankete göre (n=16,000) katılımcıların %7'si derin sahtelerin ne olduğunu biliyor ve %57'si gerçek ile sahte görsel ayrımını yapabiliyor. UN Kadın Birimi ise derin sahtelerin belirli kültürel bağlamlarda sözde "namus suçları"nın çevrimiçi katalizörü işlevi görebileceğini ve kadına yönelik şiddetle hatta ölümle sonuçlanabileceğini belirtiyor.
Bu konuya yönelik ilk tepkiler kamuoyundan geldi ve bunun üzerine özellikle AB devletleri ve Birleşik Krallık tarafından resmi soruşturmalar açılmaya başlandı. AB Teknoloji Komiseri Henna Virkkunen; soruşturmanın internet devlerini denetlemek için tasarlanan AB Dijital Hizmetler Yasası (DSA) kapsamında, X'in yasal yükümlülüklerine uyup uymadığının inceleneceğini açıkladı. AB Komisyonu ise 2024 YZ Yasası'nı güncellemek için mart ayında müzakerelere başladı.
İlaveten komisyon derin sahteleri işaretleme ve etiketleme kolaylığı sağlayacak yumuşak hukuk aracı Uygulama Kurallarını Ağustos 2026'da yürürlüğe koyacağını açıkladı. Fakat belirttiğimiz yasalar ve kurallar daha çok teknik mekanizmayla ilgili, cezai işlemle değil. Ayrıca, AB'nin bu konuda kapsamlı tek bir yasaya sahip olmaması işleri zorlaştırıyor. Şu an DSA, AB'nin en etkili kaldırma ve yargı mekanizması niteliğinde ama hukukçular, bu yasanın YZ Yasası ve cezai işlem kapasitesine sahip olan diğer ulusal yasalarla birleştirilmesi gerektiğini belirtiyor. Buna VPN ve anonim hesap kullanımı nedeniyle ortaya çıkan failleri bulma zorluğu ve ülkelerin yargı yetkilerine ilişkin problemler eklenince mekanizma iyice zayıflıyor.
Fakat burada tek suçlu YZ değil. Her ne kadar AB yasaları platformlara kullanıcıları koruma sorumluluğu getirse de platformlar aracı olduklarını ileri sürerek sorumluluktan kaçıyor; erkek egemen düzen ve geleneksel suçlardaki cezasızlık kültürü derin sahtelerin yayılmasını hızlandırıyor.