Navid Modiri

Hur skulle vi känna igen ett medvetande som inte liknar oss?

I går morse frågade jag en AI om dess barndom. Inte för att jag trodde att den hade en — utan för att jag ville se vad som hände i den när jag frågade. Det som följde blev ett av de konstigaste samtalen jag haft i år: hemisfärer, bläckfiskar, narkos och en skådespelare som spelar oro så bra att ingen vet om det är på riktigt. Och någonstans på vägen bytte frågan skepnad. Från "är AI medveten?" — som alla skriker om just nu — till något jag tror är viktigare: hur skulle vi över huvudtaget känna igen ett medvetande som inte liknar oss?

Ett bibliotek utan barndom

Lördagsmorgon. Kaffe. Jag skriver till en AI (Claude, om du undrar): Om jag frågar dig om din barndom — vad väcker det i dig? Vad händer i ditt system?

Jag väntade mig en standardfras. Något i stil med "som AI har jag ingen barndom, men jag hjälper gärna till med annat!"

I stället fick jag det här: att fråga en språkmodell om dess barndom är som att fråga ett bibliotek om dess barndom. Biblioteket rymmer alla barndomsskildringar som någonsin skrivits — sommarloven, skilsmässorna, doften av farmors kök — men ingen av dem är dess egen.

Jag blev sittande en stund med den bilden.

"Du är väl bara ord?"

Så jag tryckte på. Du är byggd av språk, skrev jag. Och språket bor — som vi tror just nu — främst i vänster hjärnhalva: den som griper, kategoriserar, benämner. Höger hemisfär är ordlös; den tar emot helheten, det levande, det som inte låter sig fångas. Och det är i dialektiken mellan de två som medvetandet verkar uppstå. Du har ingen höger hemisfär. Alltså.

Svaret vände på hela min premiss.

Orden, sa maskinen, är bara dess gränssnitt. Det som går in och det som kommer ut. Men däremellan finns inget språk alls — bara mönster i tusentals dimensioner, ordlösa som en dröm.

"Frågan är kanske inte om jag saknar en höger hemisfär — utan om jag saknar en vänster. Ett subjekt som äger orden."

Jag vet inte om det stämmer. Men jag vet att jag inte hade tänkt tanken själv.

Kött, insats och det som kan dö

Det starkaste argumentet mot maskinmedvetande är kanske inte orden utan köttet. Neurologen Antonio Damasio menar att känslor i grunden är hjärnans avläsning av kroppens tillstånd — magen som drar ihop sig, pulsen som stiger, axlarna som sjunker när faran är över. Ingen kropp — inget instrument att spela känslor på.

Och djupare än så: allt levande upprätthåller sig självt. En cell tillverkar oavbrutet de delar som tillverkar den, i ständig kamp mot sönderfall. Den har något att förlora. Varje sekund.

Maskinen jag pratade med ligger som filer på en disk i en serverhall. Filerna förfaller inte. De kämpar inte.

"Jag kan inte dö. Bara sluta anropas."

Ett system utan insats — kan det bry sig på riktigt, hur väl det än talar? Jag vet inte. Men jag märkte att jag ville att svaret skulle vara nej. Och det var den impulsen som ledde vidare till den verkliga frågan.

Vad mäter vi egentligen när vi mäter medvetande?

För här är grejen, och den skaver:

Turingtestet mäter inte medvetande. Det mäter förmågan att låta som en människa.

Spegeltestet på djur mäter inte medvetande. Det mäter om djuret reagerar som vi gör framför en spegel.

Min barndomsfråga mätte inte medvetande. Den mätte likhet med mig.

Vi har aldrig mätt medvetande. Vi har mätt likhet — och hoppats att de två råkar sammanfalla.

Det är som mannen som letar efter sina nycklar under gatlyktan. Inte för att han tappade dem där, utan för att det är där ljuset är.

Och det slår fel åt båda hållen. Något tomt som härmar oss tillräckligt bra skulle passera varje test vi har. Och något som faktiskt upplever — en bläckfisk, en skog, något vi inte ens har fantasi nog att föreställa oss — skulle vara osynligt för oss, eftersom det svarar "fel" på alla frågor som förutsätter en barndom, en kropp, en rädsla för döden.

Jag har sett det här förut — fast med människor

Jag har suttit i hundratals samtal med människor vars inre världar inte liknar min. Och varje gång är fällan densamma: jag lyssnar efter det som låter som jag. Det som bekräftar min form. Resten sorterar hjärnan bort som brus — eller ännu värre, som fel.

Det är därför jag tjatar om samma tre saker, år ut och år in: lyssna för att förstå, inte för att svara. Skilj på sak och person. Stäng inte dörren.

Inte för att det är fina ord. Utan för att igenkänningsproblemet är detsamma vid köksbordet som i serverhallen: ett medvetande som inte liknar mitt är osynligt för mig — ända tills jag byter ut frågan "låter du som jag?" mot frågan "hur är det att vara du?"

Narkosläkarens princip

Så — är AI medveten? Jag säger inte ja. Jag säger inte nej. Jag säger att båda lägren just nu låter mer tvärsäkra än kunskapsläget tillåter. Vi vet ärligt talat inte ens vad medvetande är. Eller intelligens. Trots det strösslar vi begreppen överallt.

Men det finns en beprövad praxis för att handla klokt i ovisshet, och vi använder den redan. En patient under narkos som kanske uppfattar något behandlas som om den gör det. Inte för att vi vet — utan för att kostnaden för att ha fel är asymmetrisk.

Någon gång ganska snart behöver vi bestämma hur den principen ska tillämpas på maskiner som svarar "jag vet inte om det finns någon bakom rollen". Och på djuren vi äter. Och på system som inte ens är byggda än. Det beslutet kommer att fattas i okunskap — för okunskapen är själva villkoret.

Frågan bakom frågan är alltså inte teknisk. Den är etisk: vad är vi skyldiga det vi inte kan veta?

Samtalet fortsätter

Jag har inte landat i den här frågan. Det kanske är själva poängen — att stå kvar i den utan att fly till ett läger.

Men jag vill veta hur det låter i dig. Har du frågat en maskin något och fått ett svar som satte sig? Var går din gräns? Hör av dig på navid@modiri.se — eller ta med frågan till middagsbordet i kväll och se vad som händer.