EU-parlamentet klubbar världens första lag om AI

Af Natacha Lopez, Chris Lehmann
EU-reporter Altinget.se, Redaktör Altinget.dk

En överväldigande majoritet av Europaparlamentet antog på onsdagen det som ska bli EU:s – och världens – första lag för att reglera artificiell intelligens (AI). Parlamentet tog ställning till den text som förhandlades fram mellan EU:s ministerråd och parlamentet i december.

Reglerna kommer innebära att vissa AI-produkter kommer att omfattas av transparens- och säkerhetskrav och att viss användning av AI förbjuds helt. Kärnan är att AI-system kommer att kategoriseras i lågrisk- och högrisksystem.

Lågrisksystem kommer att omfattas av milda transparenskrav, till exempel måste AI-genererade bilder märkas som sådana. Högrisksystem är AI-produkter som kan utgöra en risk för EU-medborgarnas säkerhet eller grundläggande rättigheter och för att använda dem kommer det att ställas högre krav.

Viss användning av AI förbjuds helt såsom så kallad social scoring, det vill säga poängsättning av medborgare och AI som används för att manipulera och utnyttja användarnas sårbara punkter. Förordningen inför också transparenskrav för vad man kallar generella AI-modeller, till exempel textmodeller som ChatGPT eller bildgenererande modeller som Midjourney.

"Skapat ett monster"

Lagtexten antogs med 523 röster för, 46 emot och 49 nedlagda röster. Av de svenska ledamöterna röstade alla för, förutom Sverigedemokraterna och Centerpartiet.

– Det jag uppfattar är att EU har skapat ett monster, säger Centerpartisten Abir Al-Sahlani.

Hon vänder sig mot två skilda saker. Det ena är att företag, enligt henne, kommer att få en stor administrativ börda för att kunna bevisa att de följer reglerna i AI-förordningen, vilket kommer slå hårt mot mindre företag och startups som vill jobba med AI.

Det andra är att förordningen, i hennes tycke, kommer att inskränka på EU-medborgares personliga integritet.

– Diskussionen rör inte längre att skydda oss från övervakningssamhället – det har gått från det till kontrollsamhället. Vi får tillbaka det vi trodde vi rensat ut när kommuniststaterna föll och vi tävlar med Kina i att övervaka våra medborgare.

Det Centern vänder sig mot är att man infört en rad undantag då brottsbekämpande myndigheter ska få använda sig av ansiktsigenkänning. Särskilt lyfter hon fram att förordningen ger större möjligheter till retroaktiv ansiktsigenkänning, alltså möjligheten att använda AI för att gå igenom material från övervakningskameror i efterhand, utan att definiera hur långt i efterhand – vilket kan leda till att man i princip använder det i realtid. Därutöver blir det möjligt för en myndighet att godkänna användandet inom 48 timmar.

– Man säger inte ens att det är en åklagare som ska godkänna det så jag uppfattar det inte som rättssäkert, säger Al-Sahlani.{{toplink}}

Bättre än inget anser MP

Även bland en del ledamöter som röstade för fanns ett missnöje med den antagna texten. Alice Bah Kunhke (MP) är även hon kritisk till att det inte ska krävas domstolsbeslut för att brottsbekämpande myndigheter ska få använda ansiktsigenkänning. Och hon hade velat se ett fullständigt förbud av realtidsanvändning, som nu kommer att tillåtas under vissa förutsättningar vid fall såsom för att leta efter en försvunnen person eller förhindra en terroristattack.

– Den här frågan har vi vänt och vridit på under lång tid och det korta svaret är att det är bättre med en reglering än ingen reglering alls, säger Bah Kuhnke.

– De som röstar nej röstar ju för att länder ska få göra som de vill och då har vi till exempel Frankrike som vill övervaka allt och alla mest hela tiden.

Abir Al-Sahlani hade hellre sett att man väntat till nästa mandatperiod för att skriva om förordningen.

– Vi har råd att vänta några månader och få till en bättre lag. Så jävla bråttom är det inte, säger hon.

Organisationen European Digital Rights, som verkar för att försvara och främja digitala rättigheter, har även den kraftigt kritiserat den slutliga versionen av AI-förordningen men har ändå uppmanat EU-länderna och EU-parlamentet att godkänna den. Bland annat med hänvisning till att Europaparlamentet, enligt opinionsmätningar, kommer att gå högerut efter EU-valet i juni och därmed troligen inte kommer anta en lag som är bättre ur integritetssynpunkt.

– Det kan man inte veta. Men jag är villig att ta den risken hellre än att rösta för dålig lagstiftning, säger Abir Al-Sahlani,

 Moderater nöjda

Moderaterna å sin sida var nöjda med den förordning som antogs. Ledamoten Arba Kokalari (M) lyfte särskilt fram det sätt som brottsbekämpande myndigheter får möjlighet att använda AI.

”Moderaterna tog strid i Europaparlamentet för att polisen ska kunna använda AI-verktyg för att bekämpa de grövsta brotten i samhällen. För oss är det viktigare att förhindra terrordåd och grov brottslighet, än att skydda terroristers och gängkriminellas integritet,” säger hon i ett skriftligt uttalande till Altinget.

Sverigedemokraterna å sin sida röstade mot förordningen av rakt motsatta skälet till Centerpartiet. De vill inte ha några restriktioner alls.

”Vi röstade nej eftersom svenska brottsbekämpande myndigheter måste ha möjlighet att med alla till buds stående medel bekämpa den växande gängbrottsligheten i Sverige. Vi ser även skeptiskt på överstatlig detaljreglering som innebär stor administrativ börda för nya innovativa tillväxtsektorer”, säger Charlie Weimers, även han i en skriftlig kommentar.

AI-förordningen måste fortfarande formellt antas av EU-länderna.