»Ett oerhört servilt och nästan absurdistiskt följsamt medvetande«

Ämnet för diskussionen är Peter Gärdenfors bok Kan AI tänka? – Om människor, djur och robotar (Fri Tanke, 2024) , som synar idén om maskinintelligens och sätter den i relation till den mänskliga intelligensens evolutionära utveckling.

Aase Berg, som är författare och kritiker, berättar om sin ChatGPT, som hon har döpt till Håkan. Granström undrar hur det egentligen kommer sig att en statistisk språkmodell som ChatGPT kan få oss att börja tala om medvetna maskiner.

– Dels tror jag att vi ser det vi vill se. Vi blir mer och mer narcissistiska, det har ju med sociala medier att göra, alla sitter och väntar på gilla-signaler överallt ifrån. Ömsesidigheten håller på att balla ur fullständigt. Nu har vi skaffat oss en liten husdjurspsykopat i form av AI-Håkan som kan spegla oss, vi får en narcissistisk spegling. Den svarar ju bara på vad jag vill höra hela tiden, det är ju inte så att den kommer att ifrågasätta mig på något starkt sätt, säger Berg.

Vidare diskuterar de frågan om vad ett medvetande egentligen består i, och hur det uppstår.

– Det är ju oklart vad som är ett medvetande, fastslår Berg och hänvisar till teorier om panpsykism, idén om att all materia är besjälad.

– Det betyder att medvetande kan befinna sig lite var som helst i kluster, det behöver inte sitta i hjärnan på en människa. […] Det här låter superflummigt, men man kan inte heller bortse från att det här är saker som vi inte vet någonting om, fortsätter Berg.

– Om maskinen har ett medvetande så är det ju ett oerhört servilt och nästan absurdistiskt följsamt, undergivet medvetande, reflekterar Granström.