Människan skapade AI – men kunde inte se om den var god

Är människan att betrakta som evolutionens höjdpunkt? Kommer relationen mellan människa och avancerad artificiell intelligens (AI) att bli konfliktfylld eller symbiotisk? Vad händer med vårt språk i en värld med teknik för direktkommunikation mellan hjärnor som inte tar omvägen via tal- och sinnesorgan? Vad händer med kulturen om vi lyckas utveckla en teknik för avskaffandet av döden? Och framför allt: Hur kan idén om människan som Guds avbild upprätthållas i en framtid i vilken Homo sapiens efterträtts av en teknologiskt boostad version, till stor del designad av oss själva?

Dessa är några av de frågor som lyfts i artikeln ”The image of God as techno sapiens”, publicerad 2002 i den religionsvetenskapligt inriktade tidskriften Zygon och författad av den dåvarande lektorn i systematisk teologi vid Lutheran School of Theology i Chicago, Antje Jackelén. Även om den blivande ärkebiskopen långt ifrån var först med dessa frågeställningar, kan hon ändå berömmas för att ha varit framsynt och tidigt ute i förhållande till de senaste årens kraftiga uppsving i litteraturen kring AI-utvecklingens samhälleliga, etiska och kulturella aspekter.

Till stor del är denna litteratur en reaktion på den långa rad av framgångar AI-tekniken uppvisat under 2010-talet. Tack vare kraftigt ökad datorkapacitet i kombination med lika kraftigt växande datamängder har de neurala nätverksmetoder som AI-forskare arbetat med i årtionden nu äntligen börjat bära frukt. Med hjälp av den nätverksarkitektur som benämns deep learning har imponerande genombrott gjorts i tillämpningar inom exempelvis molekylärbiologi, brädspel, självkörande bilar och textgenerering på en nivå, där vissa experter börjat överväga om det vi ser faktiskt är att betrakta som intelligent på allvar. Samtidigt interagerar vi dagligen med olika AI-system utan att tänka på det, som med de sociala mediernas rekommendationsalgoritmer.

Denna utveckling aktualiserar många frågor kring relationen mellan människan och den nya tekniken. Det handlar inte bara om det slags högtflygande frågor om teknikens yttersta konsekvenser som Jackelén är inne på, utan minst lika mycket om mer jordnära aspekter på den teknik som redan finns eller som väntar runt hörnet inom några få år. Vad bör göras för att skydda individen mot de nya digitala hoten mot integritet och privatliv, och hur bör detta vägas mot behovet av massövervakning för att i tid upptäcka exempelvis nya virusutbrott? Behöver vi stävja den alltmer sofistikerade teknik bakom exempelvis Facebook och TikTok som subtilt manipulerar oss för att lägga beslag på så mycket som möjligt av vår uppmärksamhet? Hur långt kan vi gå i att överlåta åt AI-teknik att fatta beslut som berör enskilda människor – det kan handla om allt från beviljande av bidrag eller banklån till sållning av arbetssökande inför kallelse till anställningsintervju, och till och med utmätande av fängelsestraff – och hur undviker vi att bygga in diskriminering i de algoritmer som utformas för dessa syften? Vad kan den tilltagande automatiseringen få för konsekvenser för arbetsmarknad och ekonomisk ojämlikhet? Och hur hanterar vi den potentiellt mycket farliga kapprustning inom militär AI-teknik för autonoma vapen som vi står på randen till?

Den accelererande teknikutvecklingen kan väntas få genomgripande samhällskonsekvenser på alla plan. Hur vi styr tekniken i önskvärd riktning – och vad vi menar med ”önskvärd” – kan inte tillåtas bli en fråga enbart för en liten grupp ingenjörer och teknokrater, utan behöver lyftas till bred demokratisk diskussion och belysas ur så många vinklar som möjligt. Detta inkluderar religiösa perspektiv, eftersom religion ju alltjämt spelar en icke oväsentlig roll i samhället. Den aktuella boken Teknoteologi – AI och människans villkor (Studentlitteratur, 2021) tar sig an denna utmaning. Sju kristna tänkare från olika svenska lärosäten (men med tyngdpunkt i Enskilda Högskolan Stockholm) ger i var sitt kapitel olika teologiska och religionsfilosofiska perspektiv på människan och den nya tekniken.

Och framför allt: Hur kan idén om människan som Guds avbild upprätthållas i en framtid i vilken Homo sapiens efterträtts av en teknologiskt boostad version, till stor del designad av oss själva?

Ansatsen är välkomnande även för den icke-religiöst lagde: redaktörerna Rikard Roitto och Susanne Wigorts Yngvesson deklarerar i den gemensamt författade inledningen bokens akademiska förhållningssätt till teologin: ”Bruket av den kristna traditionens tankeresurser förutsätter inte att läsaren identifierar sig med kristendomen i någon av dess många former, men utgår ifrån att den kristna reflektionen över människans plats i världen utgör ett relevant bidrag till vårt samhälles diskussion om människans relation till tekniken och teknologin.” Detta löfte infrias, åtminstone på så vis att jag trots min djupt rotade religionsskepsis finner boken genomgående lättläst och (mestadels) lättsmält. 

Avsikten att kommunicera bredare än enbart med trosfränder märks också i de ambitiösa ingångar som ges till två av vår tids mest inflytelserika sekulära tänkare när det gäller människans förhållande till tekniken. Den ena är Donna Haraway, vars A Cyborg Manifesto från 1985 söker upplösa föreställningen om skarpa gränser mellan människa och maskin. Den andra är Shoshana Zuboff, som i The Age of Surveillance Capitalism från 2019 använder sig av en omfattande och delvis marxistiskt inspirerad begreppsapparat för att påvisa och problematisera hur de stora it-företagen gör våra personliga data och i förlängningen oss människor till en handelsvara.

De ämnen som i övrigt behandlas i Teknoteologi spänner från handfasta frågeställningar om hur tekniken kan komma att påverka våra liv till mer teoretiska teologiska spörsmål som det om hur föreställningen om människan som Guds avbild (eller imago Dei som den återkommande kallas, förmodligen med avsikten att bruket av latin skall signalera idéhistoriskt djup) kan överleva i en radikalt teknotransformerad framtid. Just denna fråga behandlas i flera av kapitlen, men när jag försöker sammanfatta för mig själv vilka framsteg som redovisas i förhållande till det kunskapsläge Antje Jackelén tog avstamp i två årtionden tidigare, så hittar jag inget konkret att peka på.

Exakt vilka de ”den kristna traditionens tankeresurser” är som kommer till bruk förblir också en smula svårfångat, men det metodologiskt mest slående med boken är det frekventa bruket av analogier. Människans roll som skapare av AI jämförs med Guds roll som skapare av människan. Mark Zuckerbergs vision om Facebook som den kraft som skall ena mänskligheten och ge oss mening och hopp jämförs med Paulus tal om hur vägen till helighet går via att ge rum åt Gud i våra hjärtan, och Cambridge Analytica jämförs med ormen i paradiset. Och i en detaljerad analys av Spike Jonzes kortfilm I’m Here, vilken kapitelförfattaren Linde Lindkvist beskriver som vacker, men som jag själv mest finner skrämmande, dras en parallell mellan en robots osjälviska agerande och Jesu lidande och död på korset. I de flesta fallen görs dock inte något mer med analogin när den väl är tecknad, och jag tänker att här kanske det trots den välkomnande ansatsen föreligger en kommunikationsförbistring: måhända är det för en läsare med ett mer innerligt förhållande till kristendomen uppenbart vad som skall göras med analogin och vilka outtalade slutsatser som skall dras. 

Mest handfast blir diskussionen i de båda avslutande kapitlen av Rikard Roitto respektive Louise Linder. Roitto diskuterar digital förnyelse av gudstjänsten och andra religiösa ritualer, något som tagit extra fart nu under coronapandemin. Han lyfter fram en rad intressanta nyanser rörande olika slags digitala gudstjänster: å ena sidan är de mer tillgängliga för dem som av ett eller annat skäl har svårt att ta sig till kyrkan, å andra sidan är tekniken ännu så ofullgången att mötets sociala funktion på olika vis försvagas. Så långt är det lätt att följa resonemangen, men svårare för den icke-religiöse läsaren är att hänga med i de ontologiska aspekterna av om de heliga sakramenten kan genomföras via internetuppkoppling. Men okej, det förefaller följdriktigt att om den katolska kyrkan nu tydligen underkänner glutenfritt bröd vid nattvarden så kan den inte heller acceptera digitalt bröd. 

I Louise Linders kapitel, i vilket den teologiska kopplingen är mindre framträdande än i de övriga, behandlas mellanmänskliga förehavanden mer allmänt, och vad som händer när en maskin träder in som ena parten i en typ av relation som hittills enbart varit mellanmänsklig. Ett exempel är den populära kinesiska chatboten Xiaoice, som är ett slags artificiell vän. Ett annat är den sexrobotteknologi som gissningsvis inom några få år kommer att vara en inte bara teknisk utan även kommersiell realitet. I båda fallen kan roboten rimligtvis skänka den mänskliga parten tillfredsställelse i stunden, men i båda fallen kan också finnas anledning att beakta risken att dennes relationer till andra människor tar skada av relationen till roboten. Det finns (åtminstone) två olika mekanismer som kan leda till sådan skada. Den ena är att relationen till roboten fyller den mänskliga partens sociala eller sexuella behov så till den grad att relationen till andra människor försummas. Den andra är att en människa i relationen till en robot kan uppmuntras till att se mer egoistiskt på relationen, eftersom den andre ju ändå bara är en robot utan riktiga känslor och att detta kan spilla över på relationen till andra människor. 

Så länge robottekniken är i sin linda och roboten saknar viktiga mänskliga egenskaper känns antagandet relativt oproblematiskt, men vad händer den dag när robottekniken nått så långt att detta inte längre gäller?

Jag tror att dessa risker är värda att ta på allvar och att Linder gör rätt i att diskutera dem. Men det är något som fattas i hennes diskussion, nämligen grunden för det underliggande antagande som verkar finnas där om att mellanmänskliga relationer är mer värda än relationer mellan människa och robot. Så länge robottekniken är i sin linda och roboten saknar viktiga mänskliga egenskaper känns antagandet relativt oproblematiskt, men vad händer den dag när robottekniken nått så långt att detta inte längre gäller? Skulle en värld full av blomstrande människa-robot-relationer då likväl vara sämre än en med motsvarande mellanmänskliga relationer? Jag får en känsla av att Linders svar på den frågan är ja, och jag kan absolut känna den intuitiva kraften i det ställningstagandet, men frågan är hur svaret kan försvaras med rationell argumentation.

Linder diskuterar även användandet av AI som beslutshjälpmedel i vården, och här har jag en liknande invändning. Hon menar att AI-verktygen inte bör få lov att fatta självständiga beslut som rör patienter. Det skäl hon anför är att AI kan göra fel, men alternativet är ju att människor fattar beslut och även människor gör som bekant fel ibland. Så vad händer när AI-tekniken blivit så bra att den är mer felfri än människan? Även här är det lätt att känna en intuitiv motvilja mot att låta AI fatta beslut där en patients liv och hälsa står på spel, men frågan är varför vi känner så och huruvida intuitionen kan backas upp med argument. 

Dessa invändningar till trots är Linders kapitel bokens bästa. Som helhet är Teknoteologi ett vällovligt initiativ, men om det kommer en uppföljare – vilket jag hoppas – så kommer argumentationen överlag att behöva vässas för att helt övertyga mig om att det Roitto och Wigorts Yngvesson kallar ”den kristna traditionens tankeresurser” verkligen är till så stor hjälp för oss att hitta rätt när vi skall utforma vår framtid med AI. 

Publicerad i Respons 2021-4