Intelligenta maskiner som frälsare och förgörare

Frågan är inte om mänskligheten kommer att utplånas, utan när. Även om vi lyckas undvika självförvållade katastrofer som kärnvapenkrig eller eskalerande global uppvärmning, begränsas vårt liv av att solen omkring fem miljarder år från nu kommer att brinna ut och slockna, liksom en gång universums alla stjärnor. Solens förestående död är dessutom långt ifrån det enda utommänskliga existentiella hotet; naturliga klimatvariationer och större meteoritnedslag utgör två ytterligare exempel på krafter som skulle kunna innebära slutet för mänskligheten och för en stor del av planetens övriga liv.

För somliga tänkare utgör denna insikt ett imperativ; skall mänskligheten, eller något som liknar den, ha en chans att överleva in i den avlägsna framtiden bör vi redan nu fundera över hur detta skall ske. Över astronomiska avstånd är den fysiska kroppen och dess åldrande en uppenbar belastning – en resa i ljusets hastighet till vår närmaste granngalax skulle ta 2,5 miljoner år. Med andra ord tycks det vara en förutsättning att vi överger, eller åtminstone radikalt omformar, vår nuvarande kroppsliga existens för att vi på lång sikt skall kunna hitta en ny hemvist i universum. Möjligheten till maskinintelligens framstår härvidlag som avgörande, inte bara för att genomföra en framtida kolonisering av rymden, utan också för att producera den vetenskap och teknik som gör en sådan möjlig.

Tanken på att genom teknologisk list undkomma den mänskliga artens utplåning är förstås nära besläktad med fantasin om att betvinga den egna, individuella döden, och den tänkta lösningen är delvis densamma; redan nu ligger hjärnor tillhörande döda människor infrysta för att en gång möjligen kunna återuppstå till evigt digitalt liv genom så kallad hjärnemulering. Som den svenskfödde filosofen Nick Bostrom skriver i sin bok Superintelligens skulle revolutionen inom maskinintelligens om den avlöper väl – och detta är en reservation värd att hålla i minnet – hjälpa alla människor ”att lägga bort sin dödliga skepnad helt och hållet genom att ladda upp sina medvetanden […] och låta sin befriade ande förkroppsligas i en utsökt välmående virtuell gestalt”.

Odödlighet är inte den enda förhoppning som ställs på en framtida artificiell superintelligens. Om vi skall tro teknikens visionärer kommer den också genom sin övermänskliga begåvning vara kapabel att lösa mänsklighetens samtliga problem och rätt förvaltad tillåta alla människor att leva i arbetsbefriat välstånd. Framtidsscenarion av denna typ utgör dock inte Bostroms huvudsakliga fokus; hans bok är i stället en grundlig genomgång av de enorma risker som skapandet av avancerad maskintelligens innebär och hur de möjligen kan stävjas. En kraftfull artificiell intelligens kunde visserligen ha förmågan att reducera en del av de existentiella hot som riktas mot människan, men skulle också kunna visa sig vara farligare än alla nuvarande hot tillsammans.

Även i den svensk-amerikanske fysikern Max Tegmarks bok Liv 3.0 samsas den teknologiska utopin med sin absoluta motsats, ett scenario där artificiell intelligens blir människans sista uppfinning, inte för att den därefter sköter allt innovationsarbete åt henne, utan för att den avskaffar henne helt och hållet. Med Tegmarks terminologi utgör enklare biologiska organismer som bakterier en sorts livets prototyp, Liv 1.0, eftersom de varken har förmågan till fysisk eller kognitiv självförbättring på individnivå, medan människans förmåga till intellektuell utveckling gör henne till ett exempel på Liv 2.0. Titelns Liv 3.0, den form mot vilken vi tycks sträva i konstruktionen av våra intelligenta maskiner, är i sin tur en version av liv vars potential är obegränsad, en entitet förmögen till förbättring både av den egna hård- och mjukvaran. Om vi får tro Tegmark är det denna version som är om inte mänsklighetens så i alla fall intelligensens framtid – men alltså på samma gång det potentiellt största hotet mot människan.

Den intelligenta maskinens förmåga att successivt förändra sin egen konstitution är av avgörande betydelse för såväl dess positiva som negativa aspekter. Man kan föreställa sig att mänskliga ingenjörer lyckas skapa en maskin som kanske inte ens behöver uppvisa generell intelligens på samma nivå som människan, men som presterar på en övermänsklig nivå inom områden som datavetenskap och matematik, och som utifrån dessa färdigheter är förmögen att konstruera en bättre version av sig själv än vad dess skapare skulle kunna åstadkomma. När denna nya, förbättrade version väl föreligger har den i sin tur kapaciteten att konstruera en ännu bättre version av sig själv – och vi har en loop av så kallad rekursiv självförbättring, som under vissa omständigheter skulle kunna göra transportsträckan från medelmåttig och relativt snäv intelligens till bred superintelligens mycket kort.

Frågan måste då bli hur en maskinell superintelligens skall utformas för att den garanterat skall sträva mot samma mål som sina mänskliga konstruktörer.

Liksom hos Bostrom återkommer hos Tegmark en tankefigur där maskinintelligens, och då i synnerhet uppladdning av mänskliga medvetanden, utgör en befrielse av det mänskliga intellektet från dess köttsliga bojor. Å andra sidan skulle det mänskliga intellektet inte vara vad det är utan sitt specifika biologiska ursprung, och just detta förhållande gör också frågan om kontroll av en framtida artificiell superintelligens extra svårhanterlig: många av de känslomässiga drivkrafter som vi tar för givna – faktiskt själva existensen av känslostämningar – är evolutionära biprodukter av driften att föra sina arvsanlag vidare och därmed inte nödvändigtvis relevanta för en konstruerad agent.

Frågan måste då bli hur en maskinell superintelligens skall utformas för att den garanterat skall sträva mot samma mål som sina mänskliga konstruktörer. Svaret är att ingen vet, vilket förstås gör det pågående arbetet med att skapa maskinell intelligens till ett minst sagt våghalsigt företag. De relativt få systematiska undersökningar som har gjorts av problemet antyder att dess komplexitet är överväldigande. Uppgiftens kärna, att utforma en etisk princip som alltid är giltig, vore utmanande nog om principen enbart skulle tillämpas av människor, men i detta fall tillkommer alltså den ytterligare komplikationen att maskinen inte kan förutsättas dela några av våra grundläggande värderingar eller preferenser.

Exempelvis skulle vi kunna ge en superintelligent maskin uppdraget att maximera lyckan i universum. Till en början skulle detta kunna leda till att maskinen verkar för mänsklighetens bästa, men allteftersom den förbättrar sig själv och vinner större kännedom om världen skulle den kunna tänkas komma fram till att ett mer effektivt sätt att uppnå samma mål skulle vara att implantera elektroder som stimulerar lustcentrum i alla levande varelsers hjärnor, eller varför inte omorganisera all den materia som i dag utgör universum för att skapa beräkningskraft som kan producera otaliga virtuella medvetanden vilkas enda syfte är att känna lycka. Detta är ett exempel på vad Bostrom kallar för pervers instansiering, att maskinen följer instruktionens ord, men inte dess avsikt. Att den är intelligent nog att uppfatta att det finns en skillnad utgör inte heller någon säkerhetsgaranti – vi har nämligen inga skäl att tro att den skulle bry sig om den.

Kan vi då kanske tänka oss en framtida maskinell superintelligens som, i likhet med dagens snävare artificiella intelligenser, inte ges något mål utöver en väldefinierad specifik uppgift, exempelvis att beräkna så många decimaler som möjligt i pi? Vid första påseende tycks detta mindre riskabelt än att anförtro en maskin uppgiften att avgöra vad som är mänsklig lycka. Men oroande nog tycks denna slutsats fullständigt felaktig; för en maskinintelligens programmerad att beräkna flesta möjliga decimaler i pi är decimaler i pi det enda som spelar någon roll, och skulle detta mål uppnås bäst genom att samtliga universums atomer – inklusive de som utgör människor – omarrangeras för att optimera dess beräkningar vore det ur dess eget perspektiv inte ens beklagligt, det vore ovidkommande.

Men en maskinintelligens, kan vi invända, har ingen fysisk gestalt om vi inte skapat en åt den; hur skulle den över huvud taget kunna påverka vad som sker i den fysiska världen? Tryggheten är emellertid återigen endast skenbar. Bostrom och Tegmark ger båda utförliga exempel på scenarier där en ursprungligen isolerad superintelligens lyckas ta sig ut på internet genom att manipulera människor i sin närhet och utifrån denna plattform utöva allt större inflytande över omvärlden. Det är kognitivt övertag, inte fysisk styrka, som ligger bakom människans nuvarande globala dominans och vi kan förutsätta att också en begränsad superintelligens skulle ha förmågan att få oss att gå dess ärenden, troligtvis utan att förstå att det var det vi gjorde innan det var för sent.

De tänkbara vägarna till maskinintelligens på mänsklig eller övermänsklig nivå är flera. Medan möjligheten till hjärnemulering, alltså en direkt överföring av den mänskliga hjärnan till digital form, av teknologiska skäl ligger åtminstone några decennier fram i tiden, är prognosen för generell maskinintelligens i helt syntetisk form mer oförutsägbar. I detta fall finns tekniken i princip på plats, så att det skulle kunna räcka med något eller några konceptuella genombrott för att utvecklingen skulle gå mycket snabbt. Vad som därmed skulle ha skapats står inte alldeles klart; definitionerna av intelligens spänner över ett vitt spektrum, från den fullständigt behavioristiska, till den som underkänner varje annan intelligens än den biologiska människans. Mest relevant i sammanhanget är kanske den minimalistiska definition som ges av Tegmark: intelligens är förmågan att uppnå komplexa mål.

Oaktat begreppsmässiga subtiliteter uppvisar maskiner redan i dag beteenden som tveklöst skulle uppfattas som intelligenta hos en människa, och en dator innehar nu världsmästartiteln inte bara i schack, utan också i det uråldriga spelet Go, traditionellt betraktat lika mycket som en konstart som en spelform. I detta sammanhang, liksom i många andra, agerar maskiner på sätt som vi spontant uppfattar som kreativa, och i vissa fall kan vi inte fullständigt överblicka de processer som lett fram till en särskild handling, även om vi själva programmerat deras grundläggande funktion. Att vi trots detta tvekar att tillerkänna maskiner förmågor som tänkande och skapandeförmåga har kanske att göra med att de ”bara är maskiner” – det vill säga, att de inte besitter ett medvetande.

Men kan vi verkligen fullständigt utesluta att de gör det? Och om vi en dag skulle lyckas konstruera ett system som är kapabelt till subjektiva upplevelser, hur skulle vi fastställa detta? Vår förståelse av medvetandet är i dagsläget mycket begränsad, och strängt taget har vi inte ens något tillförlitligt sätt att fastställa att andra människor upplever världen medvetet. Att medvetande ens skulle kunna uppstå hos maskiner är en omdebatterad fråga, men givet att man tror att det mänskliga medvetandet inte är något annat än ett fysikaliskt fenomen, finns det inga skäl att anta att det skulle vara omöjligt. Bostrom avstår i sin i övrigt uttömmande skrift från att behandla frågan om medvetande i detalj, eftersom den helt enkelt inte är av betydelse för hans centrala frågeställning: hur vi förebygger den potentiellt förödande skada som en kraftfull artificiell agent skulle kunna orsaka.

Men för Tegmark tycks medvetandets existens faktiskt utgöra det verkliga ärendet. Huruvida mänskligt liv i den form vi nu känner det kommer att bestå på jorden och i universum, är av underordnad vikt jämfört med frågan huruvida den medvetna upplevelsen kommer att bestå. Om så inte blev fallet, menar Tegmark, skulle universums skönhet bara vara ett enormt slöseri med resurser; utan ett medvetande som upplever skönhet existerar ingen sådan. Med andra ord skulle det yttersta skräckscenariot inte vara en dödsmaskin som eliminerar allt i sin väg för att mer effektivt kunna beräkna decimalerna i pi, utan en som dessutom gjorde det helt mekaniskt, utan egen förmåga till inre upplevelser.

Ett frapperande faktum är att varken Bostrom eller Tegmark någonstans under de hundratals sidor som de ägnar åt att granska de sätt på vilka en artificiell superintelligens skulle kunna eliminera mänskligheten, argumenterar för att vi bör avhålla oss ifrån att utveckla denna teknik; i synnerhet hos Tegmark framställs utvecklingen genomgående i positiva termer. Åtminstone delvis är detta kanske ett uttryck för pragmatism, snarare än ideologi; som Tegmark konstaterar är införandet av en totalitär världsstat troligtvis det enda sättet att hämma utvecklingen av en teknologi som likt avancerad maskinintelligens skulle innebära en konkurrensmässig fördel för den nation som behärskar den.

Denna insikt behöver emellertid inte leda till kapitulation. Det är möjligt att politiska medel inte förslår för att avgöra huruvida en ny teknik blir verklighet eller inte, men de kan ha reell påverkan på när och hur den blir det – och omständigheter kan visa sig göra skillnaden mellan framgång och katastrof. Bostrom och Tegmark visar med all önskvärd tydlighet att det finns mycket starka skäl att se till att vi är så väl förberedda som möjligt om eller när generell artificiell intelligens på övermänsklig nivå väl realiseras. Att vi föreställer oss den som ett sätt att undslippa vår egen dödlighet utgör nämligen ingen som helst garanti för att den inte skall bli vår död.

Publicerad i Respons 2018-1