Memen att teknisk utveckling liknar evolutionen är på väg att dö ut

Daniel Dennett är en av de fyra ateister som skrev varsin bok och fick smeknamnet ”the four horsemen of the apocalypse”, men han hamnade nog i skymundan bakom de mer kända personligheterna Richard Dawkins, Sam Harris och Christopher Hitchens. Dennett är professor i filosofi vid Tufts University i Massachusetts. 

Han ser ut som en jultomte av den amerikanska sorten, med ett stort vitt skägg, men det finns nog en och annan som tycker att han inte är lika snäll. Dennett är uppenbart förtjust i att formulera sin materialistiska världsåskådning med provocerande tydlighet. Att lära sig ett nytt språk, säger han, är lika med att ladda ner en ny app till sin ”necktop computer”. Dennet studerade filosofi på 1960-talet, när det ännu gick en Berlinmur mellan filosofernas teorier om medvetandet och det som pågick hos neurobiologerna och dataingenjörerna, som hoppades utveckla artificiell intelligens. Dennett började hälsa på i labben på andra sidan muren. ”En filosof som ställde bra frågor om vad de höll på med (i stället för att tala om för dem varför deras projekt i princip var omöjliga) var tydligen en så uppfriskande nyhet att de välkomnade mig”, skriver han i Från bakterier till Bach och tillbaka.

I boken beskriver Dennett hur han ser på livets uppkomst, människans medvetande och den teknologiska utveckling som antas leda fram till intelligenta maskiner. När man läser böcker av detta slag framträder något som jag skulle kunna kalla standardmodellen (en term som jag lånar från partikelfysiken och kosmologin). Med det avser jag en uppsättning insikter, idéer, värderingar och antaganden som återkommer i så många texter om biologi och informationsteknologi att de bildar en gemensam ideologi. Teknovisionären Ray Kurzweils The Singularity is Near (2005) och Yuval Noah Hararis Homo Deus (2015) är två exempel på böcker i samma genre. Här skisserar jag fyra saker som är karaktäristiska för standardmodellen.

1) Den teknologiska utvecklingen beskrivs i samma termer som den biologiska evolutionen. När encelliga organismer inkorporerar andra organismer (mitokondrierna, det organ i människans celler som sköter energiförsörjningen, anses ha sitt ursprung i en sådan symbios) kallar Dennett det för ”tekniköverföring” och jämför det med när Amazon och Google köper upp mindre företag för att komma över åtråvärd teknologi. En konsekvens av den sortens resonemang är att den tekniska utveckling som vissa personer och företag önskar sig framstår som naturlig och ödesbestämd. Några alternativ finns inte. Det blir lika absurt att protestera mot Googles framtidsplaner som om en bakterie för 500 miljoner år sedan skulle protestera mot evolutionen.

Generna i en levande cell och programvaran i en dator liknas vid varandra tills det blir omöjligt att skilja dem åt. Detta har inget med fakta att göra, det är inte ens en användbar metafor, det är ideologi. Ju mer vi lär oss om genernas komplicerade samspel med varandra, med organismen som helhet och med den miljö som organismen lever i, desto mer skiljer de sig från relationen mellan hårdvara och operativsystem i en dator.

2) Uppfattningen att allt kan växlas in i ”information”, som om information var ett slags universella pengar, och att informationen förblir exakt likadan, oavsett vilket material som används för att lagra den. ”Information är mediumneutralt”, skriver Dennett. Därav följer att en medveten maskin kan konstrueras av vilket material som helst, datachip av kisel är bara ett av ett oändligt antal alternativ. Hela den populära förhoppningen om att ett mänskligt medvetande kan simuleras av en dator är beroende av detta antagande – men är det sant? Vad kommer framtidens forskare att säga om detta? Jaron Lanier, en virtual reality-pionjär som har blivit en sorts digital dissident, beskrev i ett tankeexperiment en dator byggd av regndroppar för att visa på idéns absurditet. Jag misstänker att ett medvetande som aldrig har gjort de erfarenheter som en mänsklig kropp gör under sitt liv – växande, hunger, smärta, gående och springande, taktila intryck – kommer att verka mycket främmande för oss, även om det lär sig kommunicera på något mänskligt språk.

3) Idén om memer. Med samma lätthet som standardmodellen förvandlar biologin till ett dataprogram förvandlar den kultur till biologi. Memer är ett begrepp som myntades av Richard Dawkins. Det går ut på att betrakta ord, idéer och kulturella fenomen på samma sätt som gener: vissa är mer framgångsrika än andra i kampen för tillvaron. Ett ord, en konspirationsteori, modet att bära kepsen med skärmen bak och en populär melodi är exempel på memer. Memerna beskrivs som aktörer, människorna är deras passiva bärare. Att tänka i memer är som att fälla en osynlighetsbomb över en stad: människorna försvinner och deras idéer går omkring av sig själva och konkurrerar med varandra på darwinistiskt vis. Som tankeexperiment – ja, varför inte? Men när den inledande kicken har gått över, vilken praktisk nytta har vi av att studera idéer frikopplade från mänskliga aktörer, som om historiska och sociala sammanhang inte existerade? Metaforen håller inte, eftersom det är svårt att se någon likhet mellan ord och gener. Människor använder sina ord och idéer medvetet, medan evolutionen inte använder gener medvetet, vilket Dennett ägnar så mycket tid åt att förklara för oss. Biologiska metaforer ”måste rensas från tvivelaktiga implikationer” om de ska göra någon nytta, inskärper han. Ändå frestas han av idén om memer bara några sidor senare. ”Ett ord, i likhet med ett virus, är en agent av ett minimalt slag: det vill bli sagt”, skriver han. Och: ”ett ord är själviskt på exakt samma sätt som en gen är självisk.”

Människan är alltid på jakt efter den intellektuella berusning som en ny metafor ger, och när berusningen är uttömd är det dags att leta vidare.

Denna standardmodell är sannolikt något som nästa generations tänkare kommer att bryta sönder. Det har skett många gånger förut, och när det sker beror det inte alltid på att den tidigare modellen skulle vara fullständigt fel; det är nödvändigt att överge tidigare modeller för att förbli intellektuellt kreativ, för att hitta nya metaforer för människan och världen. Vi vill ordna samma iakttagelser och pusselbitar i nya mönster. Människan är alltid på jakt efter den intellektuella berusning som en ny metafor ger, och när berusningen är uttömd är det dags att leta vidare. 

Att hjärnan är en dator och att allt egentligen är information är bara de senaste i en lång rad sådana metaforer. Innan hjärnan var en dator var den en fonograf och innan universum var information var det ett urverk. Den teknologi som för tillfället är ny och spännande genererar ständigt nya metaforer för hur världen och människan fungerar (mer om det kan man läsa i James Gleicks The Information, 2011).

Den viktigaste idén i boken formulerar Dennett med tre ord: förmåga utan förståelse. Med det menar han ”att all briljans och förståelse i världen ytterst uppkommer ur oförstående förmågor som över tid har fogats samman till alltmer kapabla – och därmed förstående – system”. Förmåga utan förståelse är ”genuint oroande för ett mänskligt medvetande”, men det är det normala i naturen. På detta sätt arbetar evolutionen. Den har fått högst komplicerade levande celler att uppstå utan någon plan. Är växter medvetna om vad de gör när de utsöndrar doftämnen som varnar andra växter för ett insektsangrepp, så att de kan starta sitt kemiska försvar? Hur mycket förstår en enskild myra av vad den gör när den släpar ett tallbarr till en perfekt byggd myrstack? Någonstans på skalan mellan bakterie och människa övergår förmåga utan förståelse gradvis till medvetande, planering och intelligens. Hur det går till är den fråga Dennett vill undersöka i Från bakterier till Bach och tillbaka.

Vad är det förresten med Bach som gör att författare av det här slaget ständigt återkommer till honom och betraktar honom som det högsta av det högsta? (Se till exempel Douglas Hofstadters Gödel, Escher, Bach, 1979.) Vad har de emot Beethoven, Chopin och Schubert? Eller är det mig det är fel på – för jag måste erkänna att Bachs musik inte säger mig någonting.

Var drar vi gränsen för medvetandet, frågar Dennett, och det är naturligtvis meningen att vi ska inse att en skarp gräns är omöjlig att dra. Vill vi dra gränsen vid varelser som kan lida? I så fall har han en anekdot redo. ”I Storbritannien säger lagen sedan 1986 att den åttaarmade bläckfisken (men bara Octopus vulgaris – inga andra cefalopoder) är berättigad till juridiskt skydd.” Det är okej att slänga en hummer i kokande vatten, men inte en bläckfisk.

Förmåga utan förståelse beskriver också hur den mänskliga hjärnan är uppbyggd, menar Dennett. Ur enskilda nervceller uppstår gradvis medvetande och intelligens. Vill vi förstå naturliga processer börjar vi i fel ände om vi letar efter syften och avsikter. Vi ska inte tänka som en människa, vi ska lära oss tänka som evolutionen. Vi ska tänka nerifrån och upp, inte uppifrån och ner. 

Just nu är vi på väg in i en tredje våg av förmåga utan förståelse. Den första generationen som ville konstruera artificiell intelligens hade fel, skriver Dennett. Att försöka konstruera maskiner som förstår mänskligt språk var en återvändsgränd. Google translate använder sig enbart av statistik (den här japanska frasen motsvaras oftast av den här engelska frasen) och det fungerar tillräckligt bra för att ge oss en användbar tjänst. Hela det fält som kallas big data bygger på förmåga utan förståelse. När maskinerna hjälper oss att hitta mönster i oöverskådliga datamängder behöver vi inte längre förstå orsakssamband, vi behöver bara identifiera pålitliga korrelationer. Om glutenallergiker oftare har motorcykelolyckor är det rätt att höja deras försäkringspremier. Det finns en liten bok som driver med den sortens statistiska samband: Tyler Vigens Spurious Correlations (2015). Kurvorna för antalet självmord och det federala forskningsstödet i USA korrelerar till 99,2 procent, skriver Vigen. Hans bok är mer än en kuriositet, den undergräver läsarens förtroende för big data, vilket sannolikt är nyttigt för oss.

Visst, men vi ska komma ihåg att evolutionen är sträng: use it or lose it.

Hur mycket materialist Dennett än är vill han rädda den fria viljan och det personliga ansvaret. Han lyckas få dem att passa in i sitt system, men jag måste erkänna att jag inte förstår hur. Och fastän han älskar att reta lättsårade humanister med att hjärnan bara är en ”necktop computer” är han intressant nog kritisk till idén att en dator kan bli en hjärna. Han tvivlar på att artificiell intelligens är möjlig. När Nick Bostrom med flera varnar för riskerna med AI (Elon Musk: ”Vi måste vara jätteförsiktiga med AI. Potentiellt farligare än kärnvapen”; se också Bostroms bok Superintelligens, recenserad i Respons 1/2018) föredrar Dennett att varna för något som enligt honom är mer sannolikt: att vi lämnar ifrån oss makt och ansvar till automatiska system som är långt ifrån så intelligenta som vi tror att de är. Dennetts kommentarer om detta på sajten Edge.org (”The singularity – an urban legend?”, 2015) är mycket läsvärda. Ett samhälle på autopilot kan fungera bra tills det råkar ut för en oförutsedd kris. Då visar sig dess bräcklighet.

Självlärande system kan snart ställa diagnos med större träffsäkerhet än mänskliga läkare. Borde vi inte avlasta vår hjärna och förlita oss på dem i stället? Visst, men vi ska komma ihåg att evolutionen är sträng: use it or lose it. Salamandrar som lever i mörker har förlorat sina ögon.

När vi omges av allt fler avancerade system, avslutar Dennett, är det viktigt att systemen inte lurar oss att vi talar med ett annat medvetande. De ska konstrueras så att vi alltid vet att vi interagerar med en maskin. Vi bör ”avslöja och förlöjliga alla godtyckliga antropomorfa drag i systemen, till exempel de gulliga, alltmer mänskliga rösterna och deras käcka (men förinspelade) kommentarer.” Där har vi en uppgift för framtidens konstnärer, komiker och journalister.

Publicerad i Respons 2018-2