Maskinerna för det blodiga kriget åt oss
Datorerna fattar beslut om storskaliga attacker – filmen ”War games” som visade vägen fyller 40 år i dag
För på dagen 40 år sedan hade filmen ”War games” premiär. En dator ersätter militärerna som ska skicka iväg kärnvapenmissilerna när ordern från presidenten kommer. Eller: ordern kommer i praktiken från datorn; presidenten är mest en mellanhand och systemet ska slå tillbaka om ryssarnas missiler är på väg.
Datorn analyserar snabbare och bättre än den mänskliga hjärnan och kan själv genomföra den smartaste motattacken. Men en ung hacker tar sig in i systemet, och hans klåfingrighet startar nästan ett fullskaligt nukleärt krig mot Sovjetunionen.
Datorprogrammet som ska ersätta generalerna kallas ”Joshua”. Med hjälp av schack, poker och mer avancerad spelteori har programmet – för att citera Matthew Brodericks hackerkaraktär – ”lärt sig att lära sig”. Militär maskinell inlärning är inte science fiction – självlärande atomkrig utspelar sig varje dag.
Jacquelyn Schneider är chef över Hoover wargaming and crisis simulation initiative – ett forskningsinstitut som är världsledande på datorbaserade krigsspel och simuleringar. I en omfattande studie 2018 såg hon att erfarna befälhavare ofta valde att låta datorn besluta om storskaliga attacker. Yrkesmilitärer tog medvetet bort sig själva ur ekvationen och pekade på datorn och siffrorna när mänsklighetens svåraste beslut skulle fattas. Ett intressant agerande, men på intet sätt nytt.
Institutet bär den 31:e presidenten Herbert Hoovers namn och är strategiskt placerat vid Stanfords universitet. Herbert Hoover var nära confidant och rådgivare till en annan, senare president – Harry S. Truman.
Så, när Truman skulle fatta sitt livs största beslut om att fälla atombomber över Japan, bad han Hoover och hans Stanford-datorer om hjälp. De fick räkna ut hur många amerikanska liv som skulle gå förlorade om man försökte tvinga japanerna på knä med hjälp av sjökrigföring och landstigning. Datorernas siffror blev de logiska argument Truman behövde. Hoovers och Trumans rationalitet var tydlig: atombomberna skulle ta hundratusentals japanska liv utan att amerikanskt blod skulle spillas.
Den gamla militärstrategiska sanningen att den som vill vinna krig måste vara beredd på att dö, har förlorat sin avskräckande effekt.
”War games” manusförfattare Walter F. Parkes and Lawrence Lasker stjäl friskt från en annan, mindre känd, film – ”Colossus – The Forbin project”. Men den lite underskattade rullen från 1970 går ännu längre – Joshuas motsvarighet kopplar ihop sig med ryssarnas krigsdator. De börjar kommunicera med ett språk ingen förstår och går samman mot sin gemensamma fiende – människan. Maskinerna är övertygade om att de är bättre lämpade att säkra fred i världen än presidenter och generaler. Ingen orimlig tanke.
Men maskiner är så klart ingen självklar väg till fred. Vid årsskiftet uppdaterade USA sin policy kring autonoma vapen. Man ser nu, precis som Ryssland och Kina, inga hinder för att vapensystem fattar egna beslut om att skjuta, spränga eller på andra sätt döda. Den gamla militärstrategiska sanningen att den som vill vinna krig måste vara beredd på att dö, har förlorat sin avskräckande effekt. Det går utmärkt att utplåna motståndaren utan att en enda gång se den i ögonen. Ingen vet var det slutar.
När David i sista sekund hackar programmets inlärningsalgoritm, lär det sig att storskaliga krig inte har någon egentlig vinnare. Joshuas talsyntes säger: ”Det enda vinnande draget är att inte spela alls.”
Man undrar: vad skulle Joshua säga om vårt försiktiga proxykrig mot Putins trupper i Ukraina? Nu när Ryssland flyttat fram sina missiler till Ukrainas gräns mot Belarus – är verkligen det vinnande draget att inte spela? Eller har Joshuas motsvarighet på Hoover-institutet redan rekommenderat Nato att sätta in F-35-plan och flytta fram sina kärnvapen så långt att stridsspetsarna petar Putin i bukfettet?
Kanske har maskinen räknat ut att en högteknologisk Nato-attack är att föredra framför en utdragen, blodig ukrainsk offensiv, men presidenter och premiärministrar ger inte ordern. Blod har, som alltid, olika värde.
