EU verstrekt £ 1.8 miljoen aan financiering voor het maken van een nieuwe app die bedoeld is om het kijken naar inhoud met seksueel misbruik van kinderen op internet te verminderen

Het zal op de proef worden gesteld bij vrijwilligers die hulp hebben ingeroepen vanwege hun aantrekkingskracht op ongeoorloofde beelden om er zeker van te zijn dat ze niet kunnen toegeven aan hun hunkering.

Wanneer het op een apparaat is geïnstalleerd, zoals een telefoon, zal het programma de weergave van aanstootgevende afbeeldingen en video's herkennen en voorkomen.

Er wordt aangenomen dat het zal helpen bij het verminderen van de "toenemende vraag" naar foto's van kindermisbruik.

Organisaties uit de EU en het VK hebben hun krachten gebundeld in het Protech-project.

De Salus-app van het project, die kunstmatige intelligentie gebruikt om potentieel pornografische informatie te identificeren en te voorkomen dat gebruikers deze zien, is ontworpen om in realtime te werken.

De Internet Watch Foundation, een organisatie die zich inzet voor het opsporen, markeren en verwijderen van kinderpornografie, gaat helpen bij het trainen van de AI-technologie die is ontwikkeld door het Britse bedrijf SafeToNet.

Tom Farrell van SafeToNet, die 19 jaar bij de politie werkte, vertelde de BBC dat de app niet bedoeld was als hulpmiddel om gebruikers aan te geven bij de politie: "Mensen die vrijwillig willen voorkomen dat ze materiaal over seksueel misbruik van kinderen zien, zouden gebruik zo'n oplossing niet als ze denken dat ze aangifte gaan doen bij de politie."

advertentie

'Praktische hulp'

Vrijwilligers die de app downloaden, worden geworven via organisaties die werken met personen die hulp zoeken, omdat ze worden aangetrokken door online afbeeldingen van kindermisbruik.

Een van die organisaties is de Britse liefdadigheidsinstelling Lucy Faithfull Foundation, die een hulplijn beheert voor mensen die bang zijn dat ze illegale afbeeldingen downloaden en daarmee willen stoppen. Dat omvat een aanzienlijk aantal mensen die toegeven pedofiel te zijn, van wie sommigen al zijn veroordeeld.

Donald Findlater van de stichting zei dat hulpmiddelen zoals de nieuwe app individuen kunnen helpen hun gedrag te beheersen, en voegde eraan toe: "het is een praktisch hulpmiddel voor mensen die een kwetsbaarheid in zichzelf herkennen".

Leden van het Protech-project hopen dat het de "groeiende vraag naar online materiaal met seksueel misbruik van kinderen" kan stoppen.

Volgens de NSPCC werd in het jaar 30,925/2021 een nieuw record van 2022 misdrijven gepleegd waarbij sprake was van het bezit en delen van onfatsoenlijke afbeeldingen van kinderen.

Vorig jaar een verslag De denktank van de Police Foundation zei dat het aantal misdrijven op het gebied van online seksueel misbruik van kinderen "het vermogen van wetshandhavingsinstanties, internationaal, om te reageren eenvoudigweg had overweldigd".

Projectleden die met de BBC spraken, suggereerden dat politiewerk alleen mensen er niet van zou weerhouden om afbeeldingen te downloaden.

De heer Farrell stelt dat het VK sinds 2014 meer personen heeft gearresteerd voor het bezit van materiaal met seksueel misbruik van kinderen dan enig ander land ter wereld en daarbij enkele zeer ernstige overtreders heeft geïdentificeerd.

Maar miljoenen mensen bekijken nog steeds afbeeldingen

"Dus arresteren zal niet de oplossing zijn. We denken dat we aan de preventiekant kunnen werken en de vraag kunnen verminderen en de toegankelijkheid kunnen verminderen."

'Pilot-podium'

Veel details over de werking van de app moeten nog worden uitgewerkt. Geen enkele AI is perfect en er zal een evenwicht moeten worden gevonden tussen overblokkering - wat legitiem gebruik van een apparaat moeilijk zou maken - en onderblokkering - waarbij veel misbruikafbeeldingen niet worden gedetecteerd.

De heer Farrell zegt dat de app zal worden getest in een "pilootfase" in vijf landen - Duitsland, Nederland, België, de Republiek Ierland en het VK met ten minste 180 gebruikers gedurende een periode van 11 maanden.

En experts die niet bij het project betrokken zijn, denken dat het idee veelbelovend is.

Professor Belinda Winder van de Nottingham Trent University zei dat het een welkome ontwikkeling was die mensen zou kunnen ondersteunen die "geholpen willen worden om hun ongezonde neigingen te weerstaan, en die baat zouden hebben bij dit vangnet".

Zoals met alle nieuwe technische hulpmiddelen, zou de duivel in de details zitten en Prof Winder had vragen over hoe het in de praktijk zou werken, maar zei: "Het is een positieve stap in de goede richting."

Deel dit artikel: