Çocuk güvenliği uzmanlarına göre çocuk avcıları, belirli kurbanlara odaklanarak çocukların cinsel içerikli resimlerini oluşturmak için yapay zeka kullanıyor. Karanlık ağda aktif olan bu yırtıcılar, mevcut çocuk cinsel istismarı materyallerine (CSAM) dayanarak yeni görseller üretmeyi içeren görüşmelere katılıyorlar.
Yapay zeka yeni CSAM oluşturuyor ve eski CSAM'i kurtarıyor.
CSAM'den muzdarip olan Megan gibi hayatta kalanlar, yapay zekanın kendi görüntülerinden daha fazla yararlanma potansiyeli konusunda artan endişelerini dile getirdiler. Megan, yapay zeka manipülasyonunun, istismarın neden olduğu acıyı azaltan, hatta istismara uğramanın sevincini çağrıştıran yanlış izlenimler yaratabileceğini vurguluyor.
Yapay zekanın kullanılması, bu suçluların belirli çocuk mağdurlara (yani "yıldızlara") takıntılı olmalarını ve onları içeren daha fazla içerik üretmelerini sağladı. Bu rahatsız edici eğilim, CSAM'den sağ kurtulanlar arasında, görüntülerinin yapay zeka tarafından manipüle edilip dağıtılabileceğinden ve potansiyel olarak kişisel ve profesyonel yaşamlarını tehdit edebileceğinden korkan endişeleri artırdı.
Savunucuları, avcıların CSAM yapmasını durdurmaya yönelik mevzuat çağrısında bulunuyor, ancak avcıların yapay zekanın şifreli mesajlaşma servislerini kullanması nedeniyle yeni CSAM oluşturma yasağını uygulamanın verimliliğinden şüphe ediyorlar.
İstismarın temel nedenlerini ele almak ve bu tür olayları ilk etapta önlemek için kültürel reform da gereklidir.
Yapay Zeka Tarafından Üretilen CSAM'de Teknolojinin Rolü
Dark web sohbet odası sohbetleri, yapay zeka tarafından oluşturulan CSAM'e olan yağmacı hayranlığı ortaya koyuyor. Suçlular, tanıdık kurbanlara dayalı yeni materyaller oluşturmak için yapay zekayı kullanma ihtimalinden duydukları heyecanı dile getirdi.
Bu tartışmalar, eski çocuk pornografisi yıldızlarının görsellerinin belirli ortamlarda yeniden yaratılmasından eski, düşük kaliteli istismar materyallerinin dijital olarak yeniden düzenlenmesine kadar uzanıyordu. Yapay zekadaki ilerlemeler, yırtıcılara giderek daha gerçekçi kötüye kullanım görüntüleri oluşturabilecek araçlara kolay erişim sağladı.
Avcılar, çevrimiçi topluluklarında "yıldız" kurbanlara özel bir önem veriyor. Hollywood ünlülerine benzer şekilde, bu kurbanlar sıralanıp kataloglanıyor ve görüntüleri farklı pozlar veya senaryolar oluşturmak için titizlikle işleniyor.
Kolluk Kuvvetlerinin Yanıtları ve Eylem Çağrıları
Başsavcıların ABD Kongresi'ne mektubu
ABD Kongresi'ne hitaben yazdığı bir mektupta başsavcı, üyeleri müdahale etmeye ve yapay zekanın (AI) çocuklara yönelik cinsel istismar materyalleri üzerindeki zararlı etkilerini incelemeye çağırdı.
Önleyici Tedbirlerin Aciliyeti
Haziran ayında FBI, "derin sahte"lerin (masum görsellerin veya videoların açık cinsel faaliyetleri gösterecek şekilde değiştirilerek yapılan sahte içeriklerin) yaygınlığını vurgulayan bir kamu uyarısı yayınladı. Yırtıcılar genellikle içerikleri sosyal medya platformlarından veya diğer çevrimiçi web sitelerinden alır ve bunları kurbanları hedef alacak şekilde değiştirir.
FBI, rıza göstermeyen küçüklerden ve yetişkinlerden, görüntülerinin değiştirildiğine ve taciz veya gasp amacıyla sosyal medyada veya pornografik web sitelerinde paylaşıldığına dair raporlar aldı.
Birleşik Krallık'taki Ulusal Suç Ajansı (NCA), çocuklar için cinsel risk oluşturan 830.000 kadar yetişkin tespit etti. NCA Genel Müdürü Graeme Biggar, ister gerçek ister yapay zeka tarafından üretilmiş olsun, bu görüntülerin izlenmesinin suçluların çocuklara cinsel tacizde bulunma riskini önemli ölçüde artırdığını vurguladı.
Teşkilat, istismarı daha da normalleştirirken, korunmaya ihtiyacı olan gerçek çocukların tespit edilmesinde zorluklar yaratan, yapay zeka tarafından oluşturulan hiper gerçekçi görüntü ve videoları zaten gözlemledi.