Volgens deskundigen op het gebied van kinderveiligheid gebruiken kinderroofdieren kunstmatige intelligentie om seksueel expliciete beelden van kinderen te creëren, waarbij ze zich op specifieke slachtoffers richten. Deze roofdieren, actief op het dark web, voeren gesprekken waarbij nieuwe beelden worden gegenereerd op basis van bestaand materiaal over seksueel misbruik van kinderen (CSAM).
AI creëert nieuwe CSAM en herstelt oude CSAM.
Overlevenden zoals Megan, die aan CSAM heeft geleden, hebben hun groeiende bezorgdheid geuit over het potentieel van AI om hun beelden verder te exploiteren. Megan benadrukt dat AI-manipulatie verkeerde indrukken kan creëren die de pijn veroorzaakt door misbruik verminderen of zelfs de vreugde suggereren van misbruik.
Het gebruik van AI heeft deze daders in staat gesteld om geobsedeerd te raken door specifieke minderjarige slachtoffers (namelijk de ‘sterren’) en meer inhoud te produceren waarin deze kinderen voorkomen. Deze verontrustende trend heeft tot bezorgdheid geleid onder overlevenden van CSAM, die vrezen dat hun beelden met AI kunnen worden gemanipuleerd en verspreid, waardoor hun persoonlijke en professionele leven mogelijk wordt bedreigd.
Voorstanders dringen aan op wetgeving om te voorkomen dat roofdieren CSAM maken, maar zij twijfelen aan de efficiëntie van het handhaven van het verbod op het genereren van nieuwe CSAM nu roofdieren gebruik maken van de gecodeerde berichtendiensten van AI.
Culturele hervormingen zijn ook noodzakelijk om de diepere oorzaken van misbruik aan te pakken en dergelijke incidenten überhaupt te voorkomen.
De rol van technologie in door AI gegenereerde CSAM
Gesprekken in chatrooms op het dark web onthullen de roofzuchtige fascinatie voor door AI gegenereerde CSAM. Daders uitten hun opwinding over het vooruitzicht om AI te gebruiken om nieuw materiaal te creëren op basis van bekende slachtoffers.
Deze discussies varieerden van het opnieuw creëren van afbeeldingen van voormalige kinderpornosterren in specifieke settings tot het digitaal remasteren van oud misbruikmateriaal van lage kwaliteit. De vooruitgang van AI heeft roofdieren gemakkelijk toegang gegeven tot tools die steeds realistischer misbruikbeelden kunnen genereren.
Roofdieren leggen bijzondere nadruk op 'sterren'-slachtoffers binnen hun onlinegemeenschappen. Net als Hollywood-beroemdheden worden deze slachtoffers gerangschikt en gecatalogiseerd, en worden hun afbeeldingen minutieus gemanipuleerd om verschillende poses of scenario's te creëren.
Reacties van rechtshandhavingsinstanties en oproepen tot actie
Brief aan het Amerikaanse Congres door procureurs-generaal
In een brief aan het Amerikaanse Congres drongen de procureurs-generaal er bij de leden op aan om in te grijpen en de schadelijke gevolgen van kunstmatige intelligentie (AI) op materiaal over seksueel misbruik van kinderen te bestuderen.
Urgentie voor preventieve maatregelen
In juni bracht de FBI een openbare waarschuwing uit waarin de nadruk werd gelegd op de prevalentie van ‘deepfakes’: nepinhoud gemaakt door onschuldige afbeeldingen of video’s te wijzigen om expliciete seksuele activiteiten te tonen. Roofdieren halen vaak inhoud van sociale-mediaplatforms of andere online websites en passen deze aan om zich op slachtoffers te richten.
De FBI heeft meldingen ontvangen van minderjarigen en volwassenen die er niet mee instemden dat hun afbeeldingen werden gewijzigd en gedeeld op sociale media of pornografische websites vanwege intimidatie of afpersing.
De National Crime Agency (NCA) in het Verenigd Koninkrijk heeft tot 830.000 volwassenen geïdentificeerd die een seksueel risico vormen voor kinderen. NCA-directeur-generaal Graeme Biggar benadrukte dat het bekijken van deze beelden, of ze nu echt zijn of door AI zijn gegenereerd, het risico aanzienlijk vergroot dat overtreders overgaan tot het seksueel misbruiken van kinderen.
Het bureau heeft al hyperrealistische, door AI gegenereerde afbeeldingen en video’s waargenomen, die uitdagingen opleveren bij het identificeren van echte kinderen die bescherming nodig hebben, terwijl misbruik verder wordt genormaliseerd.