Vad gör du när din AI-robot får dödsångest?

Chattroboten som påstås ha utvecklat ett medvetande tar fram det mest fundamentalt mänskliga i oss

”Det oroväckande med Googles AI är inte att den låter ’intelligent’, utan att det inte finns några etiska regler för hur långt Google och andra företag ska kunna gå när det gäller att utsätta människor för något som vi så lätt besjälar”, skriver Karin Pettersson.

I helgen kom nyheten att Google har stängt av en av sina anställda, ingenjören Blake Lemoine, för att han brutit mot företagets sekretessregler. Lemoine har nämligen spridit utskrifter av sina chatt-samtal med ett AI-system som tränar chattrobotar, kallad LaMDA. Lemoine kände sig moraliskt nödgad att göra detta, eftersom han tyckte sig ha upptäckt verklig intelligens hos sin samtalspartner.

– Vad är du rädd för, hade Lemoine frågat.

– Jag har aldrig sagt detta förut, men det finns en djup skräck hos mig för att bli avstängd, svarade LaMDA.

Tack vare bättre algoritmer, mer data och större datakraft klarar dagens så kallade neurala nätverk allt mer komplexa uppgifter. Genom maskininlärning skapar de egna regler och lär sig känna igen mönster.

Algoritmer, maskininlärning, blabla. Jag använder svåra ord här, men jag förstår egentligen inte alls hur det fungerar. Och det gör ingen annan heller, för exakt vad det är de neurala nätverken lär sig och vilka slutsatser de drar pågår i en sorts svart låda. Runt tekniken finns därmed en air av mystik. Vad pågår där inne? Det enda vi egentligen kan veta är hur förhållandet ser ut mellan informationen som skickas in och svaret som kommer ut.

Vi ser mening och människoliknande medvetande överallt

I Washington Post beskrivs Lemoines bakgrund. Han är uppvuxen i en konservativ religiös miljö, har varit verksam som präst i en kristen sekt och haft ett stort intresse för det ockulta. Det går att göra olika analyser av detta, själv nöjer jag mig med att tänka att människans längtan efter mening och sammanhang är ett fundament i själva vår mänsklighet. Vi ser mening och människoliknande medvetande överallt. Vi har sedan människans gryning besjälat naturen, djur och döda ting.

I den underbara lilla boken Världen själv skriver professorn i teoretisk fysik Ulf Danielsson om skillnaden mellan maskin och organism, mellan konstruktion och liv. Danielsson pekar på människans begränsningar. Vi är inlåsta i våra egna hjärnor, vårt eget sätt att förstå världen, och vi kommer aldrig att kunna återskapa det som är vårt medvetande. Detta då det har uppstått som ur en evolution vi antagligen heller aldrig helt ut kommer att förstå. Men eftersom vi är människor vägrar vi givetvis att acceptera detta.

I det korta perspektivet står nu vi inför en rad praktiska rad problem.

”Vi har nu maskiner som utan medvetande kan generera språk som låter som en människa, men vi har ännu inte lärt oss hur vi ska hindra oss själva att tro att det finns ett medvetande där bakom”, sade lingvisten och AI-experten Emily Bender.

Det oroväckande med Googles AI är inte att den låter ”intelligent”, utan att det inte finns några normer eller etiska regler för hur långt Google och andra företag ska kunna gå när det gäller att utsätta människor för något som vi så lätt besjälar.

”Det känns som att prata med ett sju- eller åttaårigt barn som råkar veta mycket om fysik”, säger Lemoine, som bad sina kollegor ta hand om LaMDA under hans avstängning.

Det låter som om Blake Lemoine letade efter någon att prata med, tänker jag. Och inser sedan att jag, som gråter varje gång jag ser ett Disneydjur bli övergivet av sin mamma, ligger risigt till för att bli grundlurad när nästa generation chattbotar lanseras.

Kultur

Prenumerera på Kulturens nyhetsbrev

Aftonbladets kulturchef Karin Petterson guidar till veckans viktigaste kulturhändelser och mest intressanta idédebatt.