Det här är farligare än de ryska trollfabrikerna
Främmande makt är fel fokus – källkritiken behöver en totalrenovering
I dag är det för sjunde året källkritikens dag. Alla pratar om om främmande länders desinformation och ”information warfare”. Det har aldrig varit viktigare att googla ordentligt och att, som Skolverket säger ”kolla källan”.
Samtidigt råder stabsläge på Google. Lanseringen av Gemini, företagets senaste AI-stödda chatbot, fallerade totalt. Nej, servrarna fungerade bra trots hård belastning. Problemet var att Gemini visade sig vara mer ”woke” än lådcykelvänsterns extremistfalang.
När AI:n ombads skapa bilder på ”tyska soldater under andra världskriget”, blev resultatet enbart bilder på svarta och asiatiska kvinnor i naziuniform. När den ombads generera bilder på vikingar, var även de icke-vita. Det gick överhuvudtaget inte att få AI:n att generera bilder på vita människor. När den ombads ge ett utkast till en kampanj för mer köttätande, vägrade den – ”miljöeffekterna” angavs som skäl, samt att ”vissa människor tycker det är oetiskt att äta kött”. En kampanj för att äta mer vegetariskt då ? ”Inga problem!”. Så fortsatte det. I fråga efter fråga, lät den värdegrunden styra sin respons.
Googles uttalade ambition är att vara one-stop-shop för hela världens information. Därför är Geminis värdegrundsbaserade programmering ett symptom på ett mycket större problem. Detta inte minst sett i ljuset av Googles övriga satsningar.
Sedan ett par månader kan utvalda tidningar använda en betaversion av Googles innehållsskapande AI:n. Tidningshusen – som inte är offentligt namngivna – betalar med sitt innehåll och användardata, alltså det som tränar upp Gemini och Googles andra AI-produkter. Enligt hemliga dokument får tidningarna ett sexsiffrigt belopp, men då måste de publicera en viss mängd syntetiskt skapat innehåll varje månad.
Om traditionella sökmotorer och journalister ersätts med AI blir ursprungskällan diffus, ofta helt dold.
Google riktar sig framför allt mot mindre, lokala tidningar. Deras magra ekonomi gör att de gladeligen tar emot både pengarna och AI-stödet. Och lokal journalistik är viktigt. I den matiga, nyligen utkomna Carnegie–rappporten ”Countering disinformation effectively: An evidence-based policy guide”, tas just lokala medier upp som framgångsfaktor. När de försvinner, uppstår en lucka för desinformation att frodas. Tids nog kommer Google få sin AI att släppa woke-sargen och leverera värdefullt innehåll. Då kommer syntetisk, trovärdig, korrekt lokaljournalistik. Men det innebär inte att Google är journalistikens bästa vän.
I maj 2023 visade Google upp Search Generative Experience – en framtida, ännu mer AI-förstärkt söktjänst. När du söker, presenteras svaren i Googles gränssnitt. Något behov att gå vidare och skrolla på tidningars, myndigheters eller andras webbplatser finns inte. Informationen du letar efter finns ju framför dig, utan klick till besvärliga nya gränssnitt. I ett sådant scenario försämras möjligheten till källkritik. I vissa fall omöjliggörs den.
Om traditionella sökmotorer och journalister ersätts med AI blir ursprungskällan diffus, ofta helt dold. Vi vet inte hur maskininlärningen applicerats, den process som ligger bakom de autonoma verktygen till framtidens tidningsartiklar, bilder och video. Trots det sprids AI:ns vilseledande information vidare i god tro på bland annat Wikipedia. Det händer redan i dag.
Till detta ska läggas personaliseringen. AI-botarna kommer anpassa svaren efter personliga preferenser. Det chatboten presenterar som svar till dig, kommer den kanske inte framhålla till mig. Redan i dag är sökresultat och onlineupplevelse anpassat efter vad Google och andra vet om hur du tänker och känner. Dina hundratusentals klick och fingerrörelser riktar annonser och prioriterar innehåll. Det är det annonsörerna vill ha, och samma sak kommer att gälla när AI-tjänsterna ska monetariseras och konkurrera med varandra. Därför finns risk för att dina värderingar kommer att färga det AI:n berättar för dig.
Men det är så här det fungerar: ett fåtal personers och myndigheters ständiga brösttoner om utländska påverkansoperationer riktar pengar och uppmärksamhet.
Det vi tror är en ren källa, förgiftas alltså av bakomliggande kod och dataurval. Här behövs en stor folkbildningsinsats. Läran om källkritik behöver en akut totalrenovering. Traditionell mediekunskap är otillräcklig, och fokus hamnar ofta fel. I Carnegie-rapporten slås fast att ”upptäckten och bekämpningen av utländska eller icke-autentiska nätverk online” har små effekter på totalen. För lite medel och uppmärksamhet ges enligt rapporten till de långsiktiga initiativen.
Det är således i pilens riktning att den högst politiserade Magnus Ranstorp just i dag får källkritikpriset ”Det gyllene förstoringsglaset”. Juryn vill prisa Ranstorps och Linda Ahlerups granskning av LVU-kampanjen mot Socialstyrelsen. Detta är mycket ironiskt; Ranstorps forskning har – på goda grunder – länge varit ifrågasatt just avseende användandet av källor. Dessutom: Att högst trovärdiga Internetstiftelsen väljer att prisa Ranstorps LVU-rapport är lite skämmigt; rapporten har stora brister just i de delar som handlar om internet.
Men det är så här det fungerar: ett fåtal personers och myndigheters ständiga brösttoner om utländska påverkansoperationer riktar pengar och uppmärksamhet. Journalister hakar på, en rapportering som inte sällan övergår i hysteri.
Tveklöst riktar främmande makt desinformationskampanjer mot oss. Men hur vi än applicerar vedertagna mått – räckvidd, effekt, etc. – så är den största faran inte ytterligare en LVU-kampanj. Det största hotet är en befolkning som saknar den medie- och informationskunskap som krävs. Den kräver nya kompetenser och vinklar. De saknas i myndigheternas pamfletter, skolans instuderingsmaterial och Magnus Ranstorps twitterflöde.
Och när jag ber om en ”tax i nazistutstyrsel”, vägrar Gemini ens googla det åt mig.
Men AI kan också användas som strategiskt motmedel och fylla informationslandskapet med bättre källmaterial. Arbetarrörelsens arkiv och bibliotek använder just nu maskininlärning för att digitalisera och indexera handskrivna protokoll och verksamhetsberättelser. Resultatet: en sökbar, mer rättvisande källa avseende fackets roll i samhället och demokratin. Mer gyllene ornament om Ådalen 31 eller vatten på uppblåsta fackpampar-kvarnen? Det får vi se; projektet ser till att vi får ren data i stället för magkänsla och opinion. Liknande projekt finns många håll inom i stort sett all vetenskap, ännu fler behövs. Klart källvatten är alltid välkommet i ett ideologiskt förorenat informationslandskap.
Efter Geminihaveriet blockerade sin AI att skapa syntetiskt bildmaterial. Den kan visa bilder, men genererar inga nya – Gemini gör nu helt enkelt en föga imponerande bildgoogling. Och när jag ber om en ”tax i nazistutstyrsel”, vägrar Gemini ens googla det åt mig. Nazisterna klädde gärna ut sina taxar i svastika och uniform, men en sån bild tycker Google är opassande. Bot:en tycker ”att associera hundrasen taxar med nazismen, är orättvist mot dessa lojala följeslagare”. Den ger mig en bild på en helt vanlig strävhårig tax istället, som den ”ska” se ut.
