EU gir 1.8 millioner pund i finansiering for å lage en ny app som skal redusere nettvisningen av innhold med seksuelt misbruk av barn

Det vil bli satt på prøve på frivillige som har fått hjelp på grunn av deres tiltrekning til ulovlige bilder for å sikre at de ikke klarer å gi etter for suget.

Når det er installert på en enhet, for eksempel en telefon, vil programmet gjenkjenne og forhindre visning av støtende bilder og videoer.

Det antas at det vil bidra til å redusere den "økende etterspørselen" etter fotografier av barnemishandling.

Organisasjoner fra EU og Storbritannia har gått sammen om Protech-prosjektet.

Prosjektets Salus-app, som bruker kunstig intelligens for å identifisere potensielt pornografisk informasjon og hindre brukere i å se den, er designet for å fungere i sanntid.

Internet Watch Foundation, en organisasjon som jobber med å finne, flagge og fjerne materiale om overgrep mot barn, skal bidra til å trene opp AI-teknologien utviklet av det britiske selskapet SafeToNet.

Tom Farrell fra SafeToNet, som jobbet i 19 år i rettshåndhevelse, sa til BBC at appen ikke var ment å være et verktøy for å rapportere brukere til politiet: "Folk som frivillig ønsker å stoppe seg selv med å se materiale om seksuelle overgrep mot barn ville helt klart Ikke bruk en slik løsning hvis de tror at det kom til å rapportere dem til politiet."

Annonse

"Praktisk hjelp"

Frivillige som laster ned appen vil bli rekruttert via organisasjoner som jobber med enkeltpersoner som søker hjelp fordi de blir tiltrukket av bilder av overgrep mot barn.

En slik organisasjon er den britiske veldedighetsorganisasjonen Lucy Faithfull Foundation, som driver en hjelpelinje for de som frykter de kan laste ned ulovlige bilder og ønsker å slutte. Det inkluderer et betydelig antall mennesker som innrømmer å være pedofile, hvorav noen allerede er dømt.

Stiftelsens Donald Findlater sa at verktøy som den nye appen kan hjelpe enkeltpersoner med å kontrollere atferden sin, og la til: "det er et praktisk hjelpemiddel for mennesker som gjenkjenner en sårbarhet i seg selv".

Medlemmer av Protech-prosjektet håper det kan demme opp for den "økende etterspørselen etter materiale om seksuelle overgrep mot barn på nettet".

En ny topp på 30,925 2021 lovbrudd som involverte besittelse og deling av usømmelige bilder av barn ble begått i 2022/XNUMX, ifølge NSPCC.

I fjor a rapporterer av Police Foundation-tenketanken sa at volumet av seksuelle overgrep mot barn på nettet hadde "rett og slett overveldet evnen til rettshåndhevelsesbyråer internasjonalt til å svare".

Prosjektmedlemmer som snakket med BBC antydet at politiarbeid alene ikke kom til å stoppe folk fra å laste ned bilder.

Farrell argumenterer for at Storbritannia har arrestert flere personer for besittelse av materiale om seksuelle overgrep mot barn enn noe annet land i verden siden 2014, og har i prosessen identifisert noen svært alvorlige lovbrytere.

Men millioner av mennesker ser fortsatt på bilder

"Så arrestasjon kommer ikke til å være løsningen. Vi tror vi kan jobbe på forebyggingssiden og redusere etterspørselen og redusere tilgjengeligheten."

'Pilotstadiet'

Mange detaljer om driften av appen må fortsatt utarbeides. Ingen kunstig intelligens er perfekt, og det er nødvendig å finne en balanse mellom overblokkering – noe som vil gjøre legitim bruk av en enhet vanskelig – og underblokkering – som ikke klarer å oppdage mange misbruksbilder.

Farrell sier at appen vil bli testet i en "pilotfase" i fem land - Tyskland, Nederland, Belgia, Irland og Storbritannia med minst 180 brukere over en 11-måneders periode.

Og eksperter som ikke er involvert i prosjektet mener ideen har lovende.

Professor Belinda Winder ved Nottingham Trent University sa at det var en velkommen utvikling som kan støtte mennesker som "ønsker å bli hjulpet til å motstå sine usunne drifter, og som vil dra nytte av dette sikkerhetsnettet".

Som med alle nye tekniske verktøy, ville djevelen være i detaljene og Prof Winder hadde spørsmål om hvordan det ville fungere i praksis, men sa: "Det er et positivt skritt i riktig retning."

Del denne artikkelen: