Ansiktsigenkänd i folkmassa

Ska polisen få använda ansiktsigenkänning för att identifiera oss i en folkmassa? “I princip nej, men…” lyder EUs förslag till hur artificiell intelligens ska regleras.

”AI levererar redan mycket gott,” förklarade EU-kommissionären Margrethe Vestager när hon i april 2021 la fram ett lagförslag för artificiell intelligens.

”Sjukdomsdiagnoser ställs med hjälp av AI, jordbrukare vet när de ska gödsla tack vare AI och den nerbrunna katedralen Notre Dame återställs tack vare AI.”

EU-kommissionen vet mycket väl att misstron samtidigt är stor mot den nya teknologin så när man nu föreslår världens första lagstiftningspaket för AI så sätter förslaget upp strikta gränser för vad som ska tillåtas.

AI-lagar ska vara ”människocentrerade” eftersom, säger Vestager själv, bara om medborgarna känner förtroende för AI kan Europa utveckla och bli världsbäst på teknologin som väntas ge många ännu oanade fördelar.

I praktiken har AI redan spritts ganska brett. 700 svenska större företag tar t ex fram produkter och tjänster med hjälp av den och i USA är siffran mycket högre.
Svensk polis har i pilotförsök fått testa AI men i sin entusiasm gått för långt. Noa, Nationella Operativa Avdelningen, körde ett amerikanskt verktyg för att leta sexbrottslingar och har fått böta en kvarts miljon kronor för det.

I Europa diskuterade tio EU-länder på tyskt initiativ under 2019 om deras poliskårer kunde samarbeta om ansiktsigenkänning på bred front, t ex på flygplatser, järnvägstationer, osv. Men metoden som används brett i bl a USA och Storbritannien har visat sig kunna slå helt fel och drabba oskyldiga människor.

EU-kommissionens förslag är tvärtom att i princip förbjuda det slags svepande ansiktsigenkänning i Europa.

Det skulle dock tillåtas för poliser för tre slags tillfällen:

  • Inför ett terroristhot,
  • när man söker efter potentiella brottsoffer som t ex ett försvunnet barn, eller
  • när man söker efter en viss person som begått grövre brott.

EU-kommissionen föreslår att klassa all AI i någon av fyra kategorier där lägsta risk skulle ge fritt fram för försäljning och användande. Högsta risk skulle helt enkelt tvärt vara förbjudet medan två kategorier däremellan vore underkastat villkor och mänsklig kontroll.

Övervakningen ska genomföras av nationella myndigheter som alltså måste skaffa sig kompetens för att klara uppgiften.

Med tydliga regler för tillverkare och användare av AI skapas en gemensam marknad i Europa öppen för företag att sälja sina produkter och tjänster för att därmed, hoppas EU-kommissionen, få medlemsländerna och näringslivet att vilja satsa på att utveckla en ökad användning av teknologin.

DET NYA FÖRSLAGET

Förslaget delar produkter som använder AI in i fyra kategorier:

  1. Låg risk för allmänheten är fullt tillåtet –  t ex AI som känner igen skräp i mailboxen eller identifierar rester i en fabriksproduktion.
  2. Begränsad risk är t ex datorer som bokar biljetter. Villkor här är att kunden alltid ska veta att det är en dator hen har att göra med.
  3. Hög risk anses AI vara när den gör urval av CVs eller jobbansökningar, avgör bostadslån eller sköter en självkörande bil. Dessa ska uppfylla fem villkor, bl a alltid göras med mänsklig insyn.
  4. Förbjudet blir att använda AI till något som kan skada människor, rättigheter eller samhället. Dit hör t ex en leksak som kan manipulera ett barn eller AI som rankar medborgare efter goda eller mindre goda på sånt sätt som sker i Kina.

SVERIGES INSTÄLLNING

Regering och riksdag har ännu inte hunnit ta ställning till det nya förslaget. Regeringen var dock positiv till den handlingsplan kring AI som EU-kommissionen la ett par år före lagförslaget.

FORMALIA KRING BESLUTET

Reglerna föreslås vara en förordning vilket innebär att det inte ska omformuleras i svensk lag utan gäller precis som det är skrivet i alla EU-länder så snart det har beslutats och publicerats i EUs officiella tidning.

Reglerna om artificiell intelligens tas på grund av artikel 114 i EU-fördraget, alltså den ordinarie proceduren och artikel 16. Det innebär att det krävs en kvalificerad majoritet av EUs regeringar i ministerrådet och en majoritet i Europaparlamentet.

EUs ekonomiska och sociala kommitté ska lämna ett yttrande.

VAD HÄNDER NU?

Förslaget går nu till riksdagen, till EU-parlamentet som utser en rapportör och till EU-ländernas regeringar för förhandlingar.

FLER FRÅGOR: