아동 안전 전문가에 따르면, 아동 성범죄자들은 인공지능을 사용해 특정 피해자에 초점을 맞춰 어린이의 성적으로 노골적인 이미지를 만들고 있다고 합니다. 다크웹에서 활동하는 이들 포식자는 기존 아동 성적 학대 자료(CSAM)를 기반으로 새로운 이미지를 생성하는 대화에 참여하고 있습니다.
AI가 새로운 CSAM을 생성하고 오래된 CSAM을 복구하고 있습니다.
CSAM을 앓은 Megan과 같은 생존자들은 AI가 자신의 이미지를 더욱 악용할 가능성에 대해 점점 더 불안해하고 있다고 표현했습니다. Megan은 AI 조작이 학대로 인한 고통을 감소시키거나 학대받는 기쁨을 암시하는 잘못된 인상을 줄 수 있다고 강조합니다.
AI의 사용으로 이러한 범죄자들은 특정 아동 피해자(즉, '스타')에 집착하고 이들이 등장하는 더 많은 콘텐츠를 제작할 수 있게 되었습니다. 이러한 충격적인 추세는 CSAM 생존자들 사이에서 우려를 불러일으켰습니다. 그들은 자신의 이미지가 AI로 조작되어 유포되어 잠재적으로 개인 및 직업 생활을 위협할 수 있다는 두려움을 갖고 있습니다.
옹호론자들은 성범죄자가 CSAM을 만드는 것을 막기 위한 법안을 촉구하고 있지만, 성범죄자가 AI의 암호화된 메시징 서비스를 활용하고 있는 지금, 새로운 CSAM 생성을 금지하는 시행의 효율성에 대해서는 의문을 제기하고 있습니다.
학대의 근본 원인을 해결하고 우선적으로 그러한 사건을 예방하기 위해서는 문화 개혁도 필요합니다.
AI 생성 CSAM에서 기술의 역할
다크웹 대화방 대화는 AI가 생성한 CSAM에 대한 약탈적 매력을 드러냅니다. 범죄자들은 친숙한 피해자를 기반으로 새로운 자료를 만들기 위해 AI를 사용할 가능성에 대해 기대감을 표명했습니다.
이러한 논의는 특정 환경에서 이전 아동 포르노 스타의 이미지를 재창조하는 것부터 오래되고 품질이 낮은 학대 자료를 디지털 방식으로 리마스터링하는 것까지 다양했습니다. AI의 발전으로 포식자는 점점 더 현실적인 학대 이미지를 생성할 수 있는 도구에 쉽게 접근할 수 있게 되었습니다.
포식자들은 온라인 커뮤니티 내에서 "스타" 피해자를 특히 강조합니다. 할리우드 유명인과 마찬가지로 이러한 피해자의 순위가 매겨지고 분류되며, 그들의 이미지는 꼼꼼하게 조작되어 다양한 포즈나 시나리오를 만들어냅니다.
법 집행 기관의 대응 및 조치 촉구
법무장관이 미국 의회에 보낸 서한
법무장관은 미국 의회에 보낸 서한에서 인공지능(AI)이 아동 성 학대 자료에 미치는 해로운 영향에 개입하고 연구할 것을 의원들에게 촉구했습니다.
예방조치의 시급성
지난 6월, FBI는 노골적인 성행위를 보여주기 위해 순진한 이미지나 비디오를 변경하여 만든 가짜 콘텐츠인 '딥페이크'의 만연을 강조하는 공개 경보를 발표했습니다. 범죄자는 소셜 미디어 플랫폼이나 기타 온라인 웹사이트에서 콘텐츠를 가져와 피해자를 표적으로 삼는 경우가 많습니다.
FBI는 괴롭힘이나 갈취를 위해 자신의 이미지가 변경되어 소셜 미디어나 포르노 웹사이트에 공유되었다는 사실에 동의하지 않은 미성년자와 성인으로부터 신고를 받았습니다.
영국 국립범죄수사국(NCA)은 아동에게 성적인 위험을 초래하는 성인을 최대 830,000명 까지 식별했습니다. NCA 사무총장 Graeme Biggar는 실제 이미지든 AI 생성이든 상관없이 이러한 이미지를 보면 범죄자가 아동을 성적으로 학대하는 것으로 발전할 위험이 크게 증가한다고 강조했습니다.
이 기관은 이미 초현실적인 AI 생성 이미지와 비디오를 관찰했는데, 이는 보호가 필요한 실제 아동을 식별하는 동시에 학대를 더욱 정상화하는 데 어려움을 겪고 있습니다.