Çevrimiçi güvenliği takip eden Internet Watch Foundation (IWF), yapay zeka teknolojisindeki hızlı ilerlemelerin, pedofiller tarafından oluşturulan ve tüketilen çocuk cinsel istismarı görüntülerinin “önemli ölçüde daha gerçekçi” hale gelmesine yol açtığını duyurdu. Kuruluş, 2024 yılına ait yıllık raporunda bu endişe verici gelişmeye dikkat çekti.
AI Üretimi İstismar Görüntülerinde Keskin Artış
IWF’nin raporuna göre, 2024 yılında İngiltere yasalarını ihlal eden yapay zeka üretimi çocuk cinsel istismarı görüntülerine ilişkin 245 ihbar alındı. Bu rakam, 2023’te kaydedilen 51 vakaya kıyasla %380 gibi çarpıcı bir artış gösteriyor. Bu ihbarlar, toplamda 7 bin 644 görüntü ve az sayıda videoyu kapsıyor. Bir URL’nin birden fazla yasadışı materyal örneği içerebileceği göz önünde bulundurulduğunda, bu sayının vahameti daha da artıyor.
Raporda dikkat çeken bir diğer nokta ise, bu görüntülerin büyük bir bölümünün en ağır çocuk cinsel istismarı içeriği olarak tanımlanan “A kategorisi” materyal olması. Bu kategori, nüfuz edici cinsel aktivite veya sadizm içeren içerikleri kapsıyor ve IWF tarafından incelenen eyleme geçirilebilir AI materyalinin %39’unu oluşturuyor.
Yasal Boşluk Kapatıldı, Ancak Tehlike Sürüyor
İngiltere Hükümeti, Şubat ayında bu endişe verici gelişmelere karşı önemli bir adım atarak, çocuk cinsel istismarı materyali üretmek üzere tasarlanmış AI araçlarına sahip olmayı, bunları yaratmayı veya dağıtmayı yasa dışı ilan etti. Bu yasal düzenleme, polisi ve çevrimiçi güvenlik aktivistlerini alarma geçiren önemli bir boşluğu doldurdu. Ayrıca, insanlara AI araçlarını kötüye kullanım görüntüleri oluşturmak veya çocukları istismar etmelerine yardımcı olmak için nasıl kullanacaklarını öğreten kılavuzlara sahip olmak da artık yasa dışı kabul edilecek.
Ancak İngiltere merkezli olmasına rağmen küresel yetkiye sahip olan IWF, yapay zeka tarafından üretilen bu tür görüntülerin sadece “karanlık web”de değil, açık internette de giderek daha fazla görülmeye başlandığını belirtiyor. Kuruluş, en ikna edici yapay zeka ürünü materyalin, eğitimli IWF analistleri için bile gerçek görüntü ve videolardan ayırt edilemez hale gelebileceği uyarısında bulunuyor. Bu durum, yasadışı içeriğin tespiti ve engellenmesi konusunda ciddi zorluklar yaratıyor ve çocukların çevrimiçi ortamda korunması için daha kapsamlı ve etkili önlemlerin alınmasının aciliyetini gözler önüne seriyor.
