Ansiktsigenkänd i folkmassa

Ska polisen få använda ansiktsigenkänning för att identifiera oss i en folkmassa? ”I princip nej, men…” lyder EUs förslag till hur artificiell intelligens ska regleras.

”AI levererar redan mycket gott,” förklarade EU-kommissionären Margrethe Vestager när hon i april 2021 la fram ett lagförslag för artificiell intelligens.

”Sjukdomsdiagnoser ställs med hjälp av AI, jordbrukare vet när de ska gödsla tack vare AI och den nerbrunna katedralen Notre Dame återställs tack vare AI.”

EU-kommissionen vet mycket väl att misstron samtidigt är stor mot den nya teknologin så när man nu föreslår världens första lagstiftningspaket för AI så sätter förslaget upp strikta gränser för vad som ska tillåtas.

AI-lagar ska vara ”människocentrerade” eftersom, säger Vestager själv, bara om medborgarna känner förtroende för AI kan Europa utveckla och bli världsbäst på teknologin som väntas ge många ännu oanade fördelar.

I praktiken har AI redan spritts ganska brett. 700 svenska större företag tar t ex fram produkter och tjänster med hjälp av den och i USA är siffran mycket högre.
Svensk polis har i pilotförsök fått testa AI men i sin entusiasm gått för långt. Noa, Nationella Operativa Avdelningen, körde ett amerikanskt verktyg för att leta sexbrottslingar och har fått böta en kvarts miljon kronor för det.

I Europa diskuterade tio EU-länder på tyskt initiativ under 2019 om deras poliskårer kunde samarbeta om ansiktsigenkänning på bred front, t ex på flygplatser, järnvägstationer, osv. Men metoden som används brett i bl a USA och Storbritannien har visat sig kunna slå helt fel och drabba oskyldiga människor.

EU-kommissionens förslag är tvärtom att i princip förbjuda det slags svepande ansiktsigenkänning i Europa.

Det skulle dock tillåtas för poliser för tre slags tillfällen:

  • Inför ett terroristhot
  • När man söker efter potentiella brottsoffer som t ex ett försvunnet barn
  • När man söker efter en viss person som begått grövre brott

EU-kommissionen föreslår att klassa all AI i någon av fyra kategorier där lägsta risk skulle ge fritt fram för försäljning och användande. Högsta risk skulle helt enkelt tvärt vara förbjudet medan två kategorier däremellan vore underkastat villkor och mänsklig kontroll.

Övervakningen ska genomföras av nationella myndigheter som alltså måste skaffa sig kompetens för att klara uppgiften.

Med tydliga regler för tillverkare och användare av AI skapas en gemensam marknad i Europa öppen för företag att sälja sina produkter och tjänster för att därmed, hoppas EU-kommissionen, få medlemsländerna och näringslivet att vilja satsa på att utveckla en ökad användning av teknologin.

Det nya förslaget

Förslaget delar produkter som använder AI in i fyra kategorier:

  1. Låg risk för allmänheten är fullt tillåtet –  t ex AI som känner igen skräp i mailboxen eller identifierar rester i en fabriksproduktion.
  2. Begränsad risk är t ex datorer som bokar biljetter. Villkor här är att kunden alltid ska veta att det är en dator hen har att göra med.
  3. Hög risk anses AI vara när den gör urval av CVs eller jobbansökningar, avgör bostadslån eller sköter en självkörande bil. Dessa ska uppfylla fem villkor, bl a alltid göras med mänsklig insyn.
  4. Förbjudet blir att använda AI till något som kan skada människor, rättigheter eller samhället. Dit hör t ex en leksak som kan manipulera ett barn eller AI som rankar medborgare efter goda eller mindre goda på sånt sätt som sker i Kina.

Sveriges inställning

Regeringen var i stort sett positiv till förslaget. 

Formalia kring beslutet

Reglerna föreslås vara en förordning vilket innebär att det inte ska omformuleras i svensk lag utan gäller i alla EU-länder så snart det har beslutats och publicerats i EUs officiella tidning.

Reglerna tas på grundval av artikel 16 i fördraget som beviljar medborgaren rätt till skydd av personuppgifter samt artikel 114 om konkurrens. Det innebär den ordinarie proceduren för beslut med  en kvalificerad majoritet av EUs regeringar i ministerrådet och en enkel majoritet i Europaparlamentet.

EUs ekonomiska och sociala kommitté ska lämna ett yttrande.

Vad händer nu?

Förslaget gick i december 2021 till bägge lagstiftare.
Europaparlamentets ansvariga utskott tog sin version i april 2022 vilket fick 3 000 ändringsförslag.
Ministerrådet blev klart med sin version i december 2022 .
Först i juni 2023 kunde parlamentet klubba sin version och då hade ansiktsigenkänning varit stötestenen.

Under hösten 2023 förhandlade de två lagstiftarna om en gemensam, slutgiltig version.

Fler frågor

Läs mer…

Gonatt för fossilbilen

Efter 2035 får bilar på fossilbränsle inte säljas i EU. Biltillverkarna är redo och kanske rentav snabbare än lagstiftarna den här gången.

Zelenskyj utmanade EU och vann

”Bevisa att ni är med oss. Bevisa att ni är européer och då kan livet vinna över döden och ljuset över mörkret. Slava Ukraini!”

EU-beslutet följde inte strikt den europeiska processen. Men ibland trumfar politiken reglerna.

Vilda Västern på Europas vägar

En dansk lastbilschaufför åtalas för att ha spärrat in levande grisar i sin bil i över 40 timmar, under en färd ned mot Kroatien.
Det är bara en av många skandaler som avslöjats på senare år inom EUs vägtransporter och som nya regler nu ska försöka bromsa.