Ny EU-finansiert sikkerhetsteknologi vil bidra til å redusere visning og etterspørsel etter bilder og videoer av seksuelle overgrep mot barn

• Utvikling av unikt verktøy på enheten som skal lanseres i mars 2023
• Et toårig, €2m-finansiert prosjekt er et samarbeid mellom EU og Storbritannias eksperter
• Teknikk vil frivillig bli installert på enheter til de som står i fare for å se materiale om seksuelle overgrep mot barn
• Brukersentrert design vil fungere i sanntid for å forhindre visning av materiale før det når skjermen

Et unikt sikkerhetsteknologisk verktøy som bruker maskinlæring i sanntid for å oppdage bilder og videoer av seksuelle overgrep mot barn, skal utvikles i samarbeid med eksperter fra EU og Storbritannia.

Det toårige Protech-prosjektet, som lanseres i mars, vil forske på, designe og lage en app som kan installeres på enhetene til personer som er i fare for å få tilgang til materiale om seksuelle overgrep mot barn.

Appen vil bli distribuert frivillig, og brukerne vil ha full kunnskap om formålet og effekten på enheten deres.

Sikkerhetsappen vil overvåke både nettverkstrafikk og bilder som vises på brukerens skjerm i sanntid. Etter å ha blitt installert, vil appen kjøre stille og vil ikke kreve brukerinteraksjon med mindre seksuelle bilder av barn oppdages og blokkeres.

Samarbeidspartnere bak prosjektet på 2 millioner euro (1.8 millioner pund), som er finansiert av EU-kommisjonen, tror verktøyet kan bidra til å demme opp for den økende etterspørselen etter materiale om seksuelle overgrep mot barn på nettet.

Det vil forhindre reviktimisering av overlevende av seksuelle overgrep mot barn som fortsetter å lide i visshet om at andre fortsatt kan se bilder og videoer av dem på nettet.

Det unike med appen ligger i den brukersentrerte designen som bruker svært nøyaktige maskinlæringsmodeller for å gi effektiv intervensjon til personer som frykter at de kan fornærme barn. Det vil fungere i sanntid for å oppdage og stoppe visningen av kriminelt innhold før det blir sett av brukeren.

Annonse

Det kan vise seg å være et viktig verktøy for bærekraftig, langsiktig forebygging av innhold av seksuelt misbruk av barn, sammen med gjeldende digitale aktiviteter som takler og fjerner bildene, for eksempel kriminelle etterforskninger og fjerning og hashing av bilder.

Prosjektet ledes av et av de største universitetssykehusene i Europa, Charité – Universitätsmedizin Berlin (CUB), i samarbeid med eksperter fra ulike og vidtrekkende felt, inkludert kriminologi, folkehelse, utviklings-, klinisk og rettsmedisinsk psykologi, programvareteknikk, barn beskyttelse og internettsikkerhet.

Direktør for Institutt for sexologi og seksuell medisin ved CUB, prof Dr Klaus M Beier sa: «Det økende forbruket og distribusjonen av materiale om seksuell utnyttelse av barn er et problem av internasjonal betydning og nødvendiggjør forskning på brukeratferd, spesielt i saker som ikke er kjent for de juridiske myndighetene, som er langt flere enn de som er under juridisk etterforskning eller etter domfellelse. Dette har i stor grad blitt neglisjert tidligere, til tross for at det er der potensialet for forebygging er størst.

"Derfor, med utviklingen av Salus, retter Protech seg også mot selvmotiverte og samarbeidende, potensielle eller reelle brukere av bilder av seksuelt misbruk av barn som ønsker å unngå å starte eller fortsette forbruk."

Appen, oppkalt Salus etter den romerske gudinnen for sikkerhet og velvære, skal lages av det britiske teknologiselskapet SafeToNet som spesialiserer seg på cybersikkerhet ved å bruke innovativ sanntidsovervåkingsteknologi.

SafeToNet Chief Operating Officer Tom Farrell QPM sa: "Vi er glade for å kunne tilby den tekniske ekspertisen på et så kritisk prosjekt. Vi tror at teknisk forebygging i øyeblikket har en stor rolle å spille for å takle forbruket og etterspørselen etter materiale om seksuelle overgrep mot barn.»

For å hjelpe til med å designe appen, vil prosjektteammedlemmer fra ledere innen effektfokusert forskning og kunnskapsutveksling, Policing Institute for the Eastern Region, basert ved Anglia Ruskin University i Storbritannia og Institutt for utviklingspsykologi ved Tilburg University i Nederland, undersøke hvorfor og hvordan lovbrytere begynner å se seksuelle bilder av barn og hva som kan hjelpe dem å slutte.

Deltakere i studien vil være frivillige, rekruttert av prosjektteampartnerne som tilbyr kritiske samfunnsforebyggingstjenester – CUB; Storbritannias Lucy Faithfull Foundation; Stop it Now Nederland som er en del av Senter for kompetanse om seksuelle overgrep mot barn på nett; og University Forensic Center ved Universitetssykehuset Antwerpen i Belgia. Det vil bli gjennomført intervjuer med personer med risiko for å se seksuelle bilder av barn, samt med fagpersoner på forebyggende støttenivå.

Internet Watch Foundation (IWF), Europas største hotline dedikert til å finne og fjerne bilder og videoer av seksuelle overgrep mot barn fra internett, vil gi et sikkert miljø for å trene og teste appens maskinlæringsprogramvare for å oppdage materiale om seksuelle overgrep mot barn.

IWFs teknologisjef Dan Sexton sa: «Dessverre er etterspørselen etter bilder og videoer av barn som blir seksuelt misbrukt uopphørlig. I 2022 fjernet IWF mer enn 255,000 XNUMX nettadresser fra internett som inneholdt bekreftet materiale om seksuelle overgrep mot barn.

"Men vi vet at det å finne og fjerne dette grufulle innholdet ikke er nok i den pågående, globale kampen for å stoppe seksuelle overgrep mot barn, og det er derfor vi er glade for å spille vår rolle i dette prosjektet for å trene og teste programvare som kan vise seg å være avgjørende. i å senke etterspørselen etter det kriminelle materialet i utgangspunktet.

"Ved å samarbeide med ekspertorganisasjoner i EU og Storbritannia sikrer vi at den tiltenkte effekten for dette prosjektet er så vidtrekkende som mulig for å hjelpe barn over hele verden."

Prof Dr Kris Goethals, direktør for University Forensic Center (UFC) ved Universitetssykehuset Antwerpen sa: «Siden COVID-pandemien har det vært en økning i overgrepsbilder på nettet, og en stor del av vår behandlingspopulasjon ved vårt polikliniske senter (UFC) består av personer som er dømt for slike handlinger eller som står i fare for å begå disse handlingene .

«Disse problemene er observert over hele verden og krever en internasjonal løsning. Dessverre gir en ren undertrykkende tilnærming til dette fenomenet ikke mye lettelse, derfor kan Protech-prosjektet være et første avgjørende skritt i en mer forebyggende tilnærming.

"Dette prosjektet gir dermed en tilleggsverdi i kampen mot seksuelle overgrep mot barn, men bringer også sammen de forskjellige verdenene innen rettshåndhevelse, samfunnsforebyggende leverandører og samfunnet generelt."

Direktør for politiinstituttet for region Øst, prof Sam Lundrigan sa: "Nettmisbruk av barn er en global utfordring som krever innovativ tenkning i vår kombinerte innsats for å svare. 

"Vi vet at akademiske funn gjennom forskning som vår kan gi dataene som trengs for å støtte prosjekter som dette, med informert innsikt og bevis. Dette er et spennende prosjekt som vi er glade for å støtte, og et vi håper vil ha en reell innvirkning, både på de som står i fare for å fornærme og de som allerede har vært utsatt for overgrep.»

Leder for Institutt for utviklingspsykologi ved Tilburg University, Prof Dr Stefan Bogaerts sa: «Seksuelle overgrep på nettet er et komplekst og flerdimensjonalt problem uten enkle løsninger. Digitale enheter kan spille en rolle i å redusere seksuelle overgrep på nettet ved å tilby visse funksjoner og tiltak som øker sikkerheten til brukere, for eksempel sikkerhets- og personverninnstillinger, rapporterings- og blokkeringsalternativer.

«I tillegg må det fortsatt investeres i bevisstgjøring av brukere om nettsikkerhet og hvordan man kan forhindre seksuelle overgrep. Å forhindre seksuelle overgrep på nettet er et felles ansvar for teknologiselskaper, vitenskap, myndigheter og samfunnet. Sammen kan vi jobbe mot en kulturell endring og skape et trygt nettmiljø for alle brukere."

Når den er utformet, vil sikkerhetsintervensjonen rulles ut i en pilotfase i fem land – Tyskland, Nederland, Belgia, Irland og Storbritannia – som involverer mer enn 50 fagfolk og minst 180 brukere over en 11-måneders periode.

SafeToNet vil samle tilbakemeldinger fra brukere og fagfolk mens piloten pågår og bruke den til å forbedre og tilpasse appens programvare ytterligere.

En del av prosjektet vil innebære å evaluere og vurdere den potensielle rekkevidden og virkningen av intervensjonen i Europa, og ta hensyn til anbefalinger fra eksperter om hvordan den effektivt kan implementeres som en del av folkehelseforebyggende programmer.

Gitt omfanget av seksuelle bilder av barn tilgjengelig på nettet og den økende etterspørselen etter innholdet, tror prosjektteamet at appen og intervensjonsprogrammet bak den også vil bidra til å redusere arbeidsmengden til rettshåndhevelse som forfølger de kriminelle som er ansvarlige for å lage, distribuere og, i noen tilfeller tjene på salget av innholdet.

Donald Findlater, direktør for Lucy Faithfull Foundations Stop It Now! Hjelpelinje for Storbritannia og Irland, sa: «I fjor kontaktet nesten 5,000 mennesker vår Stop It Now! Hjelpelinje i Storbritannia og Irland bekymret for sine egne seksuelle tanker eller oppførsel overfor barn. De ønsker hjelp til å håndtere dette slik at barn ikke blir skadet og de ikke begår en forbrytelse. I tillegg hadde våre online selvhjelpsressurser hundretusenvis av besøkende som lette etter hjelp til å håndtere sin egen eller en kjæres seksuelle atferd på nettet.

«Salus ville hjelpe mange som kontakter oss med å slutte å se seksuelle bilder av barn. Dette prosjektet lar oss støtte disse menneskene og lære hvordan vi bedre kan takle problemet med mennesker som ser på seksuelle bilder av barn på nettet. Salus har utsikter til å bli en viktig bidragsyter i den globale kampen mot seksuelle overgrep mot barn.»

Arda Gerkens, administrerende direktør i Senter for kompetanse om seksuelle overgrep mot barn på nett sa: "Stop it Now Nederland er veldig glade for å være en del av Protech-forskningsprosjektet. Vår hjelpelinje tilbyr støtte, veiledning og online selvhjelpsressurser for personer som bruker materiale om seksuell utnyttelse av barn (CSEM). Imidlertid er enkeltpersoner som kontakter vår hjelpelinje ofte på jakt etter tekniske intervensjoner som vil holde dem borte fra CSEM.

"I vårt oppdrag om å stoppe og forhindre seksuelle overgrep mot barn (på nettet) og jobbe mot et trygt nettmiljø for alle, føler vi at forskning og fortsatt forbedring av støtte- og forebyggingsverktøy er avgjørende."

Del denne artikkelen: