Ingen vet vad EU:s nya AI-beslut betyder
Det är bra att EU reglerar men det finns skäl till oro
EU:s alla högdjur log ikapp på sociala medier – ”världens första AI-lagstiftning” var i hamn. Efter nästa tre års saktmodigt övervägande tog det 38 timmars nonstop-förhandling att ena EU:s parlament och medlemsländerna kring “AI Act”. När lagen träder i kraft om sisådär två år, är den tänkt att reglera hur produkter och tjänster får använda artificiell intelligens.
Men förutom att Kina redan har en sådan lag, finns här en annan överdrift: Inget är i hamn. Varken parlament eller medlemsländer har godkänt de slutgiltiga skrivningarna, och parterna är långt ifrån eniga om vad man kommit överens om.
Det första stora frågetecknet handlar om stora, grundläggande AI-modeller. Dessa finns hos bland annat ledande AI-företaget Open AI:s populära chatbot ChatGPT. Kraften i stora modeller påverkar redan arbetsmarknad, ekonomi och samhälle, så för många EU-parlamentariker blev kaoset som pågått på OpenAI en ögonöppnare.
När Open AI:s styrelse ville försöka återta en ansvarsfull kontroll över vd:n Sam Altmans enmansshow, fick den kicken. Storägaren Microsoft visade vem som egentligen bestämmer hastigheten och riktningen i AI-kapplöpningen. EU-politiker i de flesta läger verkade vakna till: Är det de här företagen vi tror kommer ansvarsfullt självreglera en av mänsklighetens viktigaste frågor?
Men medlemsländerna tvingade fram en kompromiss. Den är högst teknisk, inte avgjord och framförallt öppen för tolkning. Det verkar dock klart att EU kommer kunna påverka och ha insyn i modeller som bär med sig risker för ekonomin och samhället i stort. Företagen tvingas också bli mer transparenta avseende hur deras modeller tränas och på vilken data. Det sistnämnda kan vara en seger för upphovspersoner i Europa.
Kameraövervakning som i realtid läser av ansikten, känslor, hudfärg med mera, verkar nu tillåtas
Den andra stora, olösta frågan handlar om mänskliga rättigheter. Amnesty International säger att lagen nu ger “grönt ljus för dystopisk digital övervakning”. Fanny Hidvegi, europeisk policychef på Access Now säger på Twitter/X att ”hoppet är borta” för att lagen ska kunna stärka mänskliga rättigheter i förhållande till AI-utvecklingen.
Går man igenom ändringar som läckt ut från förhandlingarna så finns visst fog för oro. Kameraövervakning som i realtid läser av ansikten, känslor, hudfärg med mera, verkar nu tillåtas. Polis och gränsvakter ska få använda så kallad ”Predictive policing” där AI ska förutse brott och identifiera presumtiva brottslingar med hjälp av den data man enligt andra lagar (läs: “Chat Control”) ska få samla in. Medlemsländerna kan peka på ”nationell säkerhet” för att få använda i princip vilken typ av övervakande AI som helst. Och: export av militära och övervakande AI-verktyg ska vara tillåten.
På 1930-talet levererade IBM villigt hålkort och stordatorer till myndigheter och koncentrationsläger i Nazityskland. De möjliggjorde datorstödda folkräkningar för att kartlägga etnicitet och religiös tillhörighet. Sedan användes den världsunika teknologin till logistiken – adresser, tågtransporter och avrättningar blev till datapunkter för ständig optimering av Förintelsen.
Hur hamnade datorerna i Nazityskland? Man litade på IBM:s moraliska vilja och förmåga att själv reglera vad tekniken användes till och av vem. Det gick sådär; IBM:s vd Thomas J Watson tog som första amerikan leende emot medalj av Adolf Hitler för sin ovärderliga hjälp.
IBM:s lobbyister har varit särskilt högröstade i den intensiva kampanjen mot AI-lagen
IBM är världsledande och lanserar snart sitt europeiska datacenter – kraftfulla kvantdatorer för kundernas komplexa databeräkningar. Kvantdatorn är nästa stora gamechanger i AI-utvecklingen. Den kommer möjliggöra en storskalig analys av vår data på en helt ny nivå. IBM:s lobbyister har varit särskilt högröstade i den intensiva kampanjen mot AI-lagen. De menar att de kan reglera sig själva, alternativt berätta för vänligt sinnade politiker vad lagen ska innehålla.
Det stundar EU-val, och på EU-politikernas hemmaplaner råder rädsla för terrorism, grova våldsbrott och Ryssland. Så man säger att säkerhetsläget kräver en mer tillåtande lagstiftning – ”innovation ger säkerhet”. Det behöver inte vara helt fel, men det ska ses i ljuset av den snabba utvecklingen. Det vi vet om AI idag, behöver inte gälla imorgon. Samma sak gäller företagsledare, presidenter och justitieministrar.
Den viktigaste delen av AI-Act är inte vad som står i lagen, utan att EU beslutar att de vill reglera utvecklingen. Såväl Sam Altman-debaclet som IBM:s 1930-tal visar tydligt att någon annan väg inte är möjlig.
