Predator anak menggunakan kecerdasan buatan untuk menciptakan gambar anak-anak yang eksplisit secara seksual, dengan fokus pada korban tertentu, menurut pakar keselamatan anak. Para predator ini, yang aktif di web gelap, terlibat dalam percakapan yang melibatkan pembuatan gambar baru berdasarkan materi pelecehan seksual terhadap anak (CSAM) yang ada.
AI membuat CSAM baru dan memulihkan CSAM lama.
Penyintas seperti Megan, yang menderita CSAM, telah mengungkapkan kekhawatiran mereka terhadap potensi AI untuk mengeksploitasi gambar mereka lebih lanjut. Megan menekankan bahwa manipulasi AI dapat menciptakan kesan palsu yang mengurangi rasa sakit akibat pelecehan atau bahkan menunjukkan kegembiraan karena dianiaya.
Penggunaan AI telah memberdayakan para pelaku untuk terobsesi terhadap anak-anak korban tertentu (yaitu '"bintang") dan memproduksi lebih banyak konten yang menampilkan mereka. Tren yang meresahkan ini telah menimbulkan kekhawatiran di kalangan penyintas CSAM, yang khawatir gambar mereka akan dimanipulasi oleh AI dan diedarkan, sehingga berpotensi mengancam kehidupan pribadi dan profesional mereka.
Para pendukung mendesak undang-undang untuk menghentikan predator membuat CSAM, namun mereka meragukan efisiensi penegakan larangan pembuatan CSAM baru karena predator menggunakan layanan pesan terenkripsi AI.
Reformasi budaya juga diperlukan untuk mengatasi akar penyebab pelecehan dan mencegah insiden serupa.
Peran Teknologi dalam CSAM yang Dihasilkan AI
Percakapan di ruang obrolan web gelap mengungkap daya tarik predator terhadap CSAM yang dihasilkan AI. Para pelaku mengungkapkan kegembiraannya atas prospek penggunaan AI untuk membuat materi baru berdasarkan korban yang sudah dikenal.
Diskusi ini berkisar dari pembuatan ulang gambar mantan bintang pornografi anak di lingkungan tertentu hingga pembuatan ulang materi pelecehan lama dan berkualitas rendah secara digital. Kemajuan AI telah memberikan predator akses mudah terhadap alat-alat yang dapat menghasilkan gambaran pelecehan yang semakin realistis.
Predator memberikan penekanan khusus pada korban “bintang” dalam komunitas online mereka. Mirip dengan selebriti Hollywood, para korban ini diberi peringkat dan dikatalogkan, dan gambar mereka dimanipulasi dengan cermat untuk menciptakan pose atau skenario yang berbeda.
Tanggapan Penegakan Hukum dan Ajakan Bertindak
Surat kepada Kongres AS oleh Jaksa Agung
Dalam surat yang ditujukan kepada Kongres AS, jaksa agung mendesak para anggotanya untuk melakukan intervensi dan mempelajari dampak berbahaya dari kecerdasan buatan (AI) pada materi pelecehan seksual terhadap anak.
Urgensi Tindakan Pencegahan
Pada bulan Juni, FBI mengeluarkan peringatan publik yang menekankan prevalensi "deepfakes" - konten palsu yang dibuat dengan mengubah gambar atau video yang tidak bersalah untuk menunjukkan aktivitas seksual eksplisit. Predator sering kali mengambil konten dari platform media sosial atau situs online lainnya, sehingga mengubah mereka untuk menargetkan korban.
FBI telah menerima laporan dari anak di bawah umur dan orang dewasa yang tidak setuju bahwa gambar mereka diubah dan dibagikan di media sosial atau situs pornografi untuk tujuan pelecehan atau pemerasan.
Badan Kejahatan Nasional (NCA) di Inggris telah mengidentifikasi hingga 830.000 orang dewasa yang mempunyai risiko seksual terhadap anak-anak. Direktur Jenderal NCA Graeme Biggar menekankan bahwa melihat gambar-gambar ini, baik asli atau yang dibuat oleh AI, secara signifikan meningkatkan risiko pelaku melakukan pelecehan seksual terhadap anak-anak.
Badan ini telah mengamati gambar dan video hiper-realistis yang dihasilkan oleh AI, yang menimbulkan tantangan dalam mengidentifikasi anak-anak yang sebenarnya membutuhkan perlindungan sekaligus menormalisasi pelecehan.