Massövervakningen är här och staten driver på
Forskare: AI-tekniken gör att vi kan bli ständigt iakttagna
Detta är en debattartikel. Det är skribenten som står för åsikterna som förs fram i texten, inte Aftonbladet.
Publicerad 2022-10-07
DEBATT. ”Panopticismen är ett av vårt samhälles mest utmärkande drag”, skrev Michel Foucault, med syfte på den automatiserade kontrollstruktur han såg växa fram i det moderna massamhället.
En ny uppsättning maktrelationer där vi själva delegeras att sköta samhällsordningens tillrättavisningar genom den lydnad som kommer av att vi tror att någon annan hela tiden har koll på oss.
Man kan beskriva panopticismen som ett samhällstillstånd där övervakningens blick internaliseras och smälter samman med medborgarens egen.
Där du betraktar dig själv och andra genom din väktares ögon.
Strukturer av det här slaget har funnits länge. Bentham skrev sin ”Panopticon” redan 1787, och liknande tankar återfinns redan i antiken.
Det hårt organiserade lönearbetet efter industrialiseringen är på många sätt ett förverkligande av Benthams modell, där arbetaren för sin livsuppehållande försörjning måste ge upp en del av självständigheten och leva ut en osedd övervakares mål och avsikter.
Men vad som håller på att utvecklas i våra dagar är någonting långt mer djupgående. Ett tillstånd där övervakningen normaliseras som en positiv förändringskraft.
Ett exempel är möjligheten att via nya biotekniker, i vad som allt oftare diskuteras i termer av Internet of People (IoP), övervaka och optimera sin kropps- och hjärnaktivitet.
Övervakning säljs in som ett löfte om ökad produktivitet.
I en alltmer uppkopplad värld blir erfarenheten av att ständigt vara iakttagen en självklar del av våra privata relationer och vardagsliv.
Det är nästan banalt att påpeka hur den digitala massövervakningen används i marknadsföringssyfte. Alla har sina historier att berätta om osannolika samband mellan privata direktmeddelanden och reklamen i sina flöden, och att våra trafikdata samlas in för att “skräddarsy våra upplevelser online” är en plattityd.
Men för de stora digitala aktörerna i dag är produktplacering rena stenåldern.
Som Shoshanna Zuboff skriver i boken ”Övervakningskapitalismen” (2021) är det nu förmågan att förutsäga och detaljstyra människors beteendemönster som ligger i fokus.
Målet är inte bara att inpränta regler och normer så att medborgarna med större sannolikhet håller sig inom önskvärda ramar. I stället handlar det om att samla in sådana datamängder att det blir praktiskt möjligt att förutsäga och i detalj påverka enskilda människors handlingar.
Att framkalla specifika beteenden med hjälp av riktade informationsinsatser på individnivå.
Med just det här syftet pratas det i det amerikanska försvaret alltmer om en pågående global neurobiologisk kapprustning.
Data om våra beteenden, om vår hjärna och vår kropp – om våra signalsubstanser, om våra hormonnivåer, om hur hjärnan påverkas av olika miljöer – tycks ha blivit säkerhetspolitikens nya heliga graal.
Massdatabehandling med hjälp av artificiell intelligens driver i explosionsartad takt en utveckling där utrymmet för vår privata och självständiga sfär blir alltmer undanträngt.
En utveckling som varken bromsas eller granskas av någon meningsfull samhällsdebatt, och aktivt påskyndas av våra makthavare och myndigheter.
I somras skickade Säkerhetspolisen in en förfrågan till Justitiedepartementet om att luckra upp regelverket som omgärdar behandling av persondata, eftersom man bland annat vill kunna övervaka personer utan brottsmisstanke.
Man menar att detta inte utgör ett integritetsintrång, eftersom det kommer att vara en AI som hanterar informationen, inte verkliga människor.
Just nu pågår även en uppmärksammad utredning om att ge polisen befogenheter att genomföra preventiva tvångsåtgärder utan brottsmisstanke, till exempel hemlig teleavlyssning eller hemlig husrannsakan i enbart förebyggande syfte.
Utan krav på en konkret brottsmisstanke mot en utpekad person, och utanför en normal förundersökningsprocess.
På ett liknande tema efterfrågar Sveriges sannolikt näste statsminister möjligheten att straffa människor med utvisning utan att de dömts för brott ifall de kan kopplas till oönskade gemenskaper som kriminella nätverk.
Den här normaliseringen av automatiserad digital massövervakning inom ramarna för både privat och offentlig sektor sker alltså i samband med en strävan mot en utökad modell av statlig repression, där påföljder kan komma av att vi bara uppvisar lagliga men icke önskvärda beteendemönster eller uttrycker åsikter som bedöms vara problematiska.
Normaliseringen inom det offentliga äger förstås också rum parallellt med utvecklingen på de kommersiella plattformarna, som i praktiken har gått mycket längre.
Den kommande EU-reglering (AI act) som bland annat. begränsar myndigheters utrymme att tillämpa AI, samt ställer ökade krav på öppenhet och transparens, är ett viktigt verktyg för att stämma i bäcken och begränsa riskerna.
Men frågan är om den kan nå de komplexa lager av algoritmer som i den privata sfären hanterar de enorma datamängder som varje sekund samlas in.
Som i praktiken kan bearbetas av internationella underleverantörer i tio steg, med allsköns möjligheter att kringgå lagstiftningen.
Staten hinner i praktiken inte med. Som polisens utvecklingschef Anders Hall säger, så tvingar utvecklingen i privat sektor våra myndigheter till en kapprustning vare sig de vill eller inte.
Och med både staten och kapitalet som aktivt pådrivande aktörer är det svårt att tänka sig någonting annat än att processen kommer att fortsätta.
I samband med den politiska tendensen mot påföljder för lagliga men icke önskvärda beteenden och kontakter, är allt detta mycket bekymmersamt.
Den allvarligaste risken är att det här leder till att vi blir självkorrigerande inte bara i fråga om våra synliga beteendemönster, utan också vad vi tänker, och vad vi tänker tillsammans.
Debatterna vid köksbordet har flyttat över till Facebook, Twitter och Tiktok. Våra kommunikationer, våra privata samtal, äger i allt större utsträckning rum i relation till de stora digitala plattformarna.
Och övervakningen tillsammans med det indirekta hotet om repression riskerar att bli så genomträngande fenomen att den självdisciplin medborgaren svarar med går ut över vad vi tillåter oss själva att tänka, säga och känna.
Vi ser här en utveckling mot ett digitalt panoptikon långt mer omfattande än de konkreta materiella strukturer Jeremy Bentham ursprungligen beskrev.
Det är svårt att inte ge Michel Foucault rätt. Det är svårt att inte tillstå att hans slutsatser var alltför försiktiga.
Johan Eddebo, Uppsala universitet, fil. dr, forskare i WASP-HS-projektet “Den artificielle tjänstemannen”.
Claes Tängh Wrangel, Uppsala universitet, fil. dr. i Vetenskapsrådsfinansierade projektet ”Drömmen om automatiserad neurobiologisk krigsföring: Den amerikanska militären och framtidens krig” samt föreståndare för Centrum för mångvetenskaplig forskning om rasism (CEMFOR).
Häng med i debatten och kommentera artikeln
– gilla Aftonbladet Debatt på Facebook.