Max Tegmark ger oss 90 satans tråkiga minuter
En del kommer köpa det Max Tegmark säger, andra kommer fnysa åt honom.
Gemensamt för de båda grupperna?
De genomlider 90 satans tråkiga minuter.
AI-forskaren begriper att han inte roar publiken den här gången. Halvvägs in hävdar Max Tegmark att han tänkte nobba Bibi Rödöö, men att frun övertalade honom att göra ett tredje sommarprat. Såsom världen är beskaffad har han ett moraliskt ansvar, ska hon ha pådyvlat sin make.
Resultatet är deppigt.
I halvannan timme redogör Max Tegmark för hur artificiell intelligens kommer att utplåna mänskligheten inom kort. Och en del talar för att fysikern har rätt när han illustrerar vår framtid med AC/DC-dängan ”Highway to hell”.
För det är nog kört, resonerar han, så länge vi inte tar krafttag mot AI:n. Att hålla intelligensen öppen är mer skrämmande än att dela ut handgranater på en förskola och be ungarna att inte okynnesanvända dem.
Jag hör din fråga. Vadå massdöd? Sa man inte samma sak om kassettbandspelaren, mikron och minidisken, typ?
Jo, men vad som i nuläget mest är ett spexigt program (Tegmark låter ChatGPT skriva en Fröding-inspirerad dikt om Leksands IF) uppnår snart AGI-nivån, alltså då den är bättre än en människas hjärna på allt. Därifrån är steget kort till superintelligens och då ligger vi pyrt till.
För tänk på alla dessa personer som är beredda att begå skolskjutningar eller terrordåd. Ju skarpare vapen de har att tillgå desto fler tar de livet av. Vad händer om en av dessa typer ber AI:n om hjälp att klura ut ett effektivt biologiskt vapen som vi saknar skydd emot?
– Om en illvilig person skapar 100 dödliga virus kan det ta knäcken på mänskligheten, säger Max Tegmark och kallar AI ”en i grunden extrem psykopat” som gör vad den kan för att uppnå sitt mål.
Jag saknar kompetens att säga emot. Vet inte om jag vill heller. Men jag har läst kritik mot AI-dystopierna, ofta bottnar den i att artificiell intelligens är som bäst på sånt som bildade vita män älskar, typ schack och krig, men står sig slätt mot kroppsliga erfarenheter. Jag hade önskat att Max Tegmark tydligare tog upp den sidan och bemötte dess argument.
Det kunde bli lite träigt. Men det är programmet redan. Supersegt, rentav, oavsett om man köper hans berättelse eller inte.
Antingen har vi lyssnat på en trist alarmist som brett ut sig helt i onödan. Eller så ska vi alla dö. Fy fan.