Güney Kore’de Yapay Zeka ile Oluşturulan Cinsel İçerikli Görüntüler Tartışma Konusu
Güney Kore’de yapay zeka teknolojisi kullanılarak üretilen “sahte cinsel içerikli görüntüler”, son zamanlarda toplumda büyük bir infial yaratmış durumda. Bu durum, özellikle bu görüntülerin yayıldığı Telegram uygulamasının da mercek altına alınmasına neden oldu. Seul merkezli Yonhap ajansının verdiği habere göre, Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileri, Telegram temsilcileri ile geçen hafta yüz yüze bir toplantı gerçekleştirdi.
Toplantıda, “Koreli kadınların değiştirilmiş görüntülerinin” ülke genelinde yayılmasına dair ciddi endişelerin dile getirildiği belirtildi. Telegram, bu tür “sahte cinsel içerikli görüntüleri” de içeren yasa dışı materyalleri platformdan kaldırma taahhüdünde bulundu. Telegram yetkilileri, bu sorunun Kore’deki ciddiyetinin farkında olduklarını ve bu tür yasa dışı içerikler için “sıfır tolerans” politikası uygulayacaklarını bildirdi.
Önemli Bir Toplumsal Sorun
KCSC Başkanı Ryu Hee-lim, düzenlediği basın toplantısında, “Telegram, cinsel deepfake içeriklerin önemli bir toplumsal sorun haline geldiği Güney Kore’deki durumu anladı.” ifadesini kullandı. Ryu, kuruluşun bu sorunla mücadelede katı tedbirler alacağını vurguladı. Komisyonun talebi doğrultusunda, dijital cinsel suçları hedef alan yeni “sıfır tolerans” politikası kapsamında Telegram, fuhuş, uyuşturucu ve kumar gibi konularla ilgili içerikleri platformdan kaldıracak.
Telegram, Kore’deki güvenlik makamlarıyla yakın iş birliği yapacak ve KCSC ile düzenli toplantılar gerçekleştirecek. Ayrıca, içerik ihlallerine yönelik müdahaleleri hızlandırmak amacıyla Telegram ile KCSC arasında yeni bir iletişim hattı kurulması planlanıyor. Yonhap ajansının bildirdiğine göre, Telegram, KCSC’nin talebi üzerine 3-25 Eylül tarihleri arasında platformundan toplam 148 cinsel istismar materyalini kaldırdı.
Güney Kore’deki Deepfake Olayları
Güney Kore’de, okul ve üniversitelerle bağlantılı bazı sohbet gruplarında, çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun, “deepfake” adlı yöntemle manipüle edilen ses ve görüntüler aracılığıyla “cinsel içerikli” videoların yayıldığı tespit edilmiştir. Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu görüntülerin yayıldığı Telegram’a “suça yataklık etme” gerekçesiyle ön soruşturma açıldığını bildirmiştir.
