#ArtificialIntelligence - EU-lovgivning bør sette sikre grenser for høyrisikoapplikasjoner, sier #EESC

Biometrisk anerkjennelse for sporing, overvåking og oppdagelse av følelser skal ikke ha noen plass i Europas menneskesentriske tilnærming til kunstig intelligens (AI), sier European Economic and Social Committee (EESC) i sitt svar på EU-kommisjonens stortingsmelding om AI, vedtatt av EØS-plenum juli.

EU-kommisjonen har foreslått at en AI-applikasjon skal betraktes som høyrisiko hvis den involverer både en høyrisikosektor (helsehjelp, transport, energi og deler av offentlig sektor) og bruk av høyrisiko, med noen få unntak som er fremdeles å definere. Bare hvis disse to vilkårene er oppfylt, foreslår kommisjonen, skal vi snakke om høyrisiko-AI, som vil falle inn under spesifikke forskrifter og styringsstrukturer.

EØSU mener at denne definisjonen risikerer å skape potensielt farlige smutthull. Facebooks politiske annonsering er et godt eksempel, sier komiteen.

"Annonsering er en lavrisikosektor og Facebooks nyhetsaggregeringsfunksjon kan betraktes som en lavrisikobruk. Imidlertid," hevder meningsrapportør Catelijne Muller, "vi har sett under valgkampanjer at spredningen over Facebook av falske nyheter og deepfakes genererte ved hjelp av AI kan ha mange negative effekter og påvirke hvordan folk stemmer, med forstyrrelser selv fra utenfor Europa. "

Bør det være unntak fra dette, og hvor mange skal det være? I stedet for å lage en liste med unntak, mener EØSU at det ville være bedre å lage en liste over vanlige egenskaper som kan betraktes som høyrisiko, uansett sektor.

Mange applikasjoner har sterk innvirkning på grunnleggende rettigheter, understreker Muller, ikke bare på folks privatliv, men også på deres rett til å demonstrere eller bli med i en fagforening, for eksempel.

Den mørke siden av biometrisk gjenkjennelse

Annonse

Ansikts- og biometrisk anerkjennelse er et nøkkelområde der AI berører grunnleggende rettigheter. Bruken av den kan være tillatt for personlige identifikasjonsformål - og er faktisk regulert av den generelle databeskyttelsesforordningen.

Men den utbredte bruken av AI-drevet biometrisk anerkjennelse for overvåking eller for å spore, vurdere eller kategorisere menneskelig atferd eller følelser bør forbys. Desto mer siden det ikke er noe vitenskapelig bevis for at vi kan skille en persons følelser basert på deres biometri, understreker Muller.

COVID-19 spore og spore apper

EØSU advarer også mot at en ukontrollert bølge av sporing og sporingsteknologi finner veien inn i samfunnet vårt mye raskere og med mye mindre gransking enn tidligere, i et forsøk på å bekjempe koronavirusutbruddet.

"AI-teknikker og tilnærminger for å bekjempe pandemien bør være like robuste, effektive, gjennomsiktige og forklarbare som alle andre AI-teknikker i enhver annen situasjon," sier EØSUs ordfører. "De bør opprettholde menneskerettighetene, etiske prinsipper og lovgivning. De bør også være frivillige, for uansett om vi liker det eller ikke, vil mange teknikker introdusert under krisen bli permanente."

EØSU håper at kommisjonen vil ta med seg sine innspill, slik den har gjort med anbefalingene EESK har lagt frem siden den banebrytende mening om AI i 2017, som først kjempet for en "human in command" -tilnærming til AI i Europa.

Bakgrunn

De Hvitbok om AI, som er en del av en omfattende tiltakspakke mot AI kunngjort i EU-kommisjonens kommunikasjon Shaping Europas digitale fremtid, legger frem:

• Tiltak for å effektivisere forskning, fremme samarbeid mellom medlemsland og øke investeringene i AI, og;
• politiske alternativer for et fremtidig EU-regelverk for AI, med sterkt fokus på høyrisikosøknader.

I februar 2020 lanserte kommisjonen en offentlig høring om hvitboken som gikk til 14. juni og trakk over 1 200 svar på spørreskjemaene og rundt 700 skriftlige innleveringer. Kommisjonen behandler for tiden innspillene, og vil snart publisere en rapport.

Forming av Europas digitale fremtid skisserer handlingene EU-kommisjonen planlegger å ta for å sikre et Europa som er egnet for den digitale tidsalderen, en av Ursula von der Leyens viktigste prioriteringer for sin tid som president for Europas utøvende. Den er basert på tre viktige søyler:

• Teknologi som fungerer for folket;
• en rettferdig og konkurransedyktig digital økonomi, og;
• et åpent, demokratisk og bærekraftig samfunn.

EØSU har gitt sine råd om "Forme Europas digitale fremtid" i a, også vedtatt på EØSUs plenum i juli, med en nøkkelanbefaling:

"Den raske hastigheten til den digitale transformasjonen betyr at vi ikke vet hva som vil komme nye utviklingen neste måned. Vi må derfor være fleksible og tilpasningsdyktige. Dette krever konstant dialog mellom alle involverte parter. EØSU, som stemmen til organisert sivil samfunnet, bør være en del av det, og vi ber kommisjonen om å opprette en slik permanent dialog, "sa meningsrapporter Ulrich Samm.

Del denne artikkelen: