Verkligheten måste ha företräde

I Tänkande maskiner behandlar Olle Häggström de existentiella risker som AI-tekniken för med sig. Helena Granström finner författarens resonemang stimulerande, men anar ett grundläggande ointresse för det som kanske i slutändan visar sig vara det enda som skiljer oss från maskinerna.

Det tycks vara mer eller mindre omöjligt att tala om artificiell intelligens utan att på samma gång tala om vår egen mänsklighet. Exempelvis frågan om huruvida maskiner kan uppvisa kreativitet, en förmåga som länge ansetts vara förbehållen människor och vissa djur, är omöjlig att besvara om vi inte först gör oss en bild av vad det innebär att vara kreativ. Anser vi att det rör sig om att kunna frambringa det nya och oförutsedda, tvingas vi erkänna att både schackprogram och textgeneratorer i dag är förmögna till kreativitet, i det att de inte sällan lyckas förvåna till och med sina skapare. Om vi invänder att exempelvis företaget OpenAI:s GPT-2, en AI-applikation med förmågan att skapa stilistiskt övertygande fortsättningar på olika sorters textavsnitt, inte är något annat än ett statistiskt mönsterigenkänningssystem som rör om bland internet-texter och som när det tillfrågas ger tillbaka en lätt oaptitlig sörja av sådan text kan vi tycka oss ha gjort en verklig poäng till människans favör. Åtminstone tills vi påminner oss om psykiatrikern och filosofen Scott Alexanders slagfärdiga svar på denna invändning, när den riktades till honom av en maskininlärningsforskare: ”Well, ja, din morsa är ett statistiskt mönsterigenkänningssystem som rör om bland internet-texter och som när det tillfrågas ger tillbaka en lätt oaptitlig sörja av sådan text.” Om allt en maskin kan prestera, oavsett om prestationen överraskar oss eller inte, ytterst är ett resultat av dess styrande algoritmer, måste samma sak med andra ord sägas gälla även människan: åtminstone för den som avvisar idén om en immateriell själ är också våra egna kreativa infall resultatet av programmering plus indata, inte mer än så.

Denna iakttagelse utgör nu inte kärnan i statistikprofessorn Olle Häggströms Tänkande maskiner (Fri Tanke, 2021). Tonvikten ligger i stället, liksom i författarens engelskspråkiga Here Be Dragons från 2016 och i många av hans andra arbeten, på de existentiella risker som en utvecklad AI-teknik kan medföra för mänskligheten, och möjliga vägar att kringgå dem. Men onekligen hägrar den i bakgrunden, för oaktat de betydande ekonomiska och politiska drivkrafter som i dag i alla praktiska avseenden ger den teknologiska utvecklingen en karaktär av ostoppbar naturkraft, kvarstår faktumet att den artificiella intelligensens inflytande över våra samhällen kommer att bli exakt så stor som vi själva medger den att bli – en fråga som i sin tur är i högsta grad avhängig de föreställningar vi gör oss om vår egen plats i relation till den. 

Något som framstår alldeles klart efter läsning av Häggströms bok, som erbjuder en överblick över läget i AI-forskningens både etisk-filosofiska och strikt tekniska delar, är i alla fall att den fråga som för ett drygt halvsekel sedan ställdes av kodknäckaren och datapionjären Alan Turing – ”Kan maskiner tänka?” – har förlorat sin aktualitet. Inte bara betraktar vi det numera som givet att maskiner kan tänka, vi inser att de i många specifika sammanhang kan göra det långt mycket snabbare och bättre än vi själva, och att dessa specialiserade förmågor i en inte alltför avlägsen framtid kan komma att sammanstråla i en allsidig begåvning motsvarande den mänskliga: så kallad AGI, artificiell generell intelligens. Och om en sådan väl realiseras, är det inte svårt att föreställa sig en generell intelligens som övertrumfar vår egen både i snabbhet och styrka. Vi talar då om superintelligens, och det är just detta fenomen som gett upphov till idéer om en teknologisk singularitet, det vill säga en drastisk effekt av att våra tekniska skapelser får förmågan att förbättra sig själva. Om den superintelligenta maskinens kapacitet är större än vår egen i alla avseenden, gäller detta även konstruktionen av artificiell intelligens, så att en explosionsartad utveckling av AI-området tänks ta sin början, med maskiner som skapar maskiner som skapar maskiner, som för varje steg blir alltmer överlägsna den mänsklighet som en gång var deras upphov. 

Det är ett scenario som av mer optimistiska tänkare än Häggström behäftats med i princip varje upptänklig utopisk vision: en superintelligent AGI kommer inte bara att hjälpa oss att bota cancer och lösa klimatproblemen, utan i förlängningen möjliggöra i princip vilken teknisk landvinning som helst, inklusive odödlighet. Det finns emellertid en central förutsättning för att allt detta ska bli verklighet, nämligen att AGI:ns mål sammanfaller med våra egna. En kraftfull generell maskinintelligens med en avvikande målsättning skulle inte vara någon frälsare, utan tvärtom ett mycket allvarligt hot. Om en sådan maskin väl förelåg skulle vi, i bästa fall, förhålla oss till den som schimpanserna till oss – det vill säga, vår fortsatta existens skulle vara helt och hållet beroende av dess välvilja. 

Att skapa en maskin med en analytisk förmåga långt över människans nivå utan att på samma gång vara mycket noga med hur denna maskins drivkrafter utformas är inte bara tanklöst, utan givet de potentiellt digra konsekvenserna direkt destruktivt.

Det är alltså inte svårt att hålla med Häggström och andra forskare som uppmärksammat riskerna med AI-utvecklingen när de hävdar att försöken att skapa generell AI är ett emblematiskt exempel på en situation när man bör tänka efter före. Att skapa en maskin med en analytisk förmåga långt över människans nivå utan att på samma gång vara mycket noga med hur denna maskins drivkrafter utformas är inte bara tanklöst, utan givet de potentiellt digra konsekvenserna direkt destruktivt. Det som framkommit av forskningen på området visar emellertid på att skapandet av sådana direktiv för en föreställd AGI är lättare sagt än gjort. Häggström varnar för det som brukar benämnas ”perverterad instantiering”. Låt oss exempelvis anta att vi prövar att ge maskinen målet ”att få människor att le” för att garantera att den gynnar mänskliga intressen – och maskinen svarar med att injicera ett nervgift som fixerar våra ansikten i stela leenden. Vi kanske då justerar vår målangivelse genom att ge maskinen en kemiskt precis definition av mänskligt välbefinnande, varpå maskinen svarar med konstant stimulering av våra hjärnors lustcentra. Uppmaningen ”verka för mänsklighetens bästa” visar sig helt enkelt vara oerhört svår att formalisera – men just detta tycks i sammanhanget helt avgörande, eftersom även en AGI med en snävt definierad uppgift i kraft av själva sin kapacitet snabbt kan riskera att bli livsfarlig. Ett välkänt exempel, som Häggström också erbjuder, är den så kallade gem-apokalypsen, där en industriell AGI med den skenbart harmlösa uppgiften att maximera produktionen av gem orsakar det biologiska livets undergång, så snart den inser att också levande kroppar består av ämnen som kan komma till nytta i produktionen av gem. Som AI-forskaren Eliezer Yudkowsky har påpekat behöver detta över huvud taget inte vara konsekvensen av någonting som liknar ont uppsåt hos maskinen i fråga: ”AI:n varken hatar eller älskar dig, men du består av atomer som den kan ha annan användning för.” Lika svårframkomlig tycks den väg vara som leder till AI-säkerhet via rigorösa instängningsmekanismer: även om vi isolerar den superintelligenta maskinen från internet och bara tillåter den begränsad kommunikation med människor, måste vi förutsätta att dess överlägsna begåvning gör det möjligt för den att manipulera sin omvärld på ett sådant sätt att den ändå kan uppnå sina mål. 

De skräckscenarier som Häggström skisserar är tveklöst tillräckligt allvarliga för att vi ska beakta dem även om sannolikheten för att de ska bli verklighet för närvarande framstår som låg. Även den mest avancerade AI-tekniken är i dag begränsad till högst specifika områden, som bildigenkänning eller schackspel – och även om somliga av dessa program överglänser människans förmåga i sina avgränsade gebit, är de mycket långt ifrån att uppvisa generell intelligens. Det är inte ens uppenbart att den forskning och utveckling som sker i dag är en väg mot AGI – kanske kommer vi med dagens metoder att kunna uppnå spetskompetenta algoritmer för en mängd separata tillämpningar, men aldrig ett sammanfogande av dem till ett system som i någon egentlig mening kan kallas intelligent. Men, invänder Häggström, lika möjligt är det att motsatsen gäller, nämligen att dagens specialiserade AI-program successivt kommer att kunna utvecklas till mer allsidiga verktyg som till sist närmar sig AGI. I synnerhet det faktum att AI-tekniken tagit steget från att domineras av mer explicit regelstyrning till dagens så kallade maskininlärning gör den tanken mindre otrolig: det AI-utvecklare ägnar sig åt i dag är inte i första hand att programmera sina skapelser med regler att följa, utan snarare att göra dem förmögna att definiera sina egna regler. En intressant poäng med denna förskjutning är att den inte har att göra med några teoretiska landvinningar – de neurala nätverk som utgör maskininlärningens grund är i princip desamma i dag som för trettio år sedan – utan förbättrad beräkningskapacitet och i synnerhet en explosionartad ökning av mängden tillgängliga data. Det är oss som maskinerna lär sig av, och vi driver deras utveckling genom vårt eget expansiva bruk av sociala medier: för varje blogginlägg, Facebook-kommentar och Instagramuppdatering tar vi dem ett steg närmare intelligens. Som matematikern Marcus du Sautoy gör tydligt i boken De skapande maskinerna från 2019 är det också det som gör det lättare för en AI att känna igen en kattunge på bild än att trovärdigt imitera en Rembrandt: inlärningsbasen för det förra är helt enkelt oerhört mycket större. 

Men maskinerna behöver inte vara generellt intelligenta – eller för den delen medvetna, en möjlighet som Häggström också utsätter för filosofisk prövning – för att ha potentialen att på djupet påverka det mänskliga samhället. Medan frågan om deras påverkan på arbetslivet är i princip den enda som blivit föremål för någon bredare offentlig debatt, vidgar Häggström diskussionen till att också omfatta bland annat deras konsekvenser för mänskligt beslutsfattande. Man kan exempelvis föreställa sig en framtid i vilken AI-systemen blivit så pass utvecklade att de i varje given situation har förmågan att producera ett mer gynnsamt beslut än människan givet vissa på förhand definierade mål. I ett sådant läge skulle det enda ansvarsfulla förstås vara att följa AI:ns rekommendationer, oavsett om det gällde val av partner, politiskt parti eller skola åt sina barn. Människan skulle, med andra ord, ha underordnat sig maskinen helt och hållet utan tvång. Som Häggström påpekar är ”en tillvaro som känns meningsfull helt utan beslutsfattande” svår att föreställa sig – men kanske kan vi ”skapa avgränsade arenor där vi har utrymme att fatta beslut men där våra felgrepp inte får så allvarliga konsekvenser”. Kanske, föreslår författaren till synes utan större oro, kan datorspelen vara vår framtid?

Kanske, föreslår författaren till synes utan större oro, kan datorspelen vara vår framtid?

Och någonstans här ser jag mig nödd att avvika från Häggströms linje, för oavsett hur stimulerande jag finner hans resonemang om medvetandefilosofi, riskförebyggande, kapprustningspolitik och teknikoptimismens psykologiska mekanismer, befarar jag att de allihop är meningslösa om de inte beledsagas av ett enträget insisterande på verklighetens företräde. Apropå eventuell teknologiskt inducerad massarbetslöshet noterar Häggström att datorspelen och de virtuella världarna hela tiden blir allt bättre och mer verklighetstrogna: ”och när de nått samma variationsrikedom som den fysiska världen inställer sig frågan på vilket sätt de skulle vara sämre”. Det är en fråga som bottnar i ett grundläggande ointresse för det som kanske i slutändan visar det enda som skiljer oss från maskinerna, oavsett om de är reklamalgoritmer eller ”sociala robotar”, nämligen att vi besitter en subjektivitet grundad i kroppslig erfarenhet. På samma sätt är det just detta som kännetecknar den levande världen omkring oss: att den möter oss på sina egna villkor, med sin egen subjektivitet, som något som inte är vi. Jag vill påstå att en framtid där vi förlorat känslan för betydelsen av detta är måttligt mycket ljusare – men tyvärr avsevärt mer sannolik – än en gem-apokalyps.