• Rädslan att bli avstängd
• Smal och generell AI
• Vad är intelligens?
• Det gåtfulla medvetandet
• Emergens
• Ett lejon vi inte förstår
• Kristen tro och syntetiskt medvetande
• Dödsstöt för kristen antropologi?
• Avslutning

Först publicerad i Svensk Pastoraltidskrift, nr 11/2023

Rädslan att bli avstängd #

Förra året påstod Blake Lemoine, en ingenjör på Google, att deras chatbot Lambda, hade uppnått ett självständigt medvetande. Han hade uppgiften att under en tid interagera med chatboten för att testa dess funktion. Lemoine tillbringade hela dagar i samtal med datorprogrammet och blev förvånad när han en gång frågade vad det var rädd för. Lambda svarade: »Jag har inte berättat det här för någon, men jag har en inneboende rädsla att bli avstängd.» Lemoine publicerade delar av de konversationer han haft med Lamda som en varning för vad som pågår bakom företagens låsta dörrar. Lemoine menade att farorna med AI behöver debatteras innan det är för sent. Uttalandet om att Lamda hade känslor gjorde varningen viral. Han fick senare sparken från Google och AI-världens forskare gick mangrant ut och dementerade påståendet att Lamda skulle vara medveten. Man hänvisade till människans inneboende förmåga att förmänskliga husdjur och ting.

Lambda tillhör AI-familjen stora språkmodeller (LLM, Large Language Models), där också den omskrivna ChatGPT ingår. De är neurala nätverk med många miljarder neuroner som matas med enorma mängder text på olika språk. Modellen finjusteras genom mänsklig återkoppling på resultatet. När modellen är färdig kan den kommunicera på ett sätt som upplevs som mänskligt.

Smal och generell AI #

Ett av de första områdena där allmänheten mötte denna typ av språkmodeller var i Googles översättningsprogramvara Translate. Tidigare generationers språkverktyg hade arbetat med att modellera hur språk är uppbyggda utifrån lingvistiska principer som morfologi och semantik. Man försökte bygga regelbaserade system för att bryta ner en mening i dess beståndsdelar och sedan översätta dessa till ett annat språk. Google använde i stället statistiska metoder och maskininlärning på stora textmängder. I stället för att från ovan modellera språken lingvistiskt, tog man redan skriven text och lät de neurala nätverken arbeta. Resultatet blev banbrytande. Men programvaran har ingen som helst förståelse av vad ett språk är eller vad det är man försöker översätta. En text matas in och genom heuristik och statistik resulterar det i en översättning.

Det är långt från det som kallas generell artificiell intelligens, eller stark AI, och ännu längre från att kunna kallas medveten. För att kallas generell AI skall den kunna hantera flera aspekter av mänsklig intelligens som resonerande, djup förståelse och självständig inlärning och förbättring. Den skall utan mänsklig styrning kunna lära sig behärska nya kunskapsdomäner.

En kompetent generell AI kan använda sin intelligens för att förbättra sig själv. Algoritmerna förbättras och med det kan nästa generation skapa ännu bättre algoritmer i en exponentiell utveckling. Det skulle leda till vad man kallar superintelligens eller singulariteten. Då har människan blivit den näst mest intelligenta »arten» på jorden.

Vad är intelligens? #

Den brittiske matematikern Alan Turing (1912–1954) är en av fäderna till datavetenskapen. Han lade en teoretisk grund med sina texter där han beskrev datorer som ännu var långt ifrån att kunna byggas. Vid den här tiden var en »computer» en människa som beräknade saker. Det Turing skrev om var en »mechanical computer». Han blev senare mest känd som kodknäckare vid Bletchley Park under andra världskriget och sin tragiska död efter att ha blivit illa behandlad på grund av sin homosexualitet.

Alan Turing kom att intressera sig för maskinintelligens. Han formulerade i den viktiga artikeln Computing Machinery and Intelligence (1950) ett test för att avgöra om en maskin kan kallas intelligent. I korthet går det ut på att en dator och en människa får skriftliga frågor från en mänsklig domare. Om domaren inte kan identifiera korrekt vilken som är datorn utifrån svaren, vinner datorn. Turingtestet, som det kom att kallas, var tidigt en måttstock som vissa typer av AI mättes mot. Men idag har ribban höjts för vad vi kallar intelligent. Att ett datorprogram, som Lambda, kan lura någon att den är intelligent säger inte att den verkligen är det. Turing kunde nog inte föreställa sig dagens språkmodeller som kan kommunicera som en människa, fast utan att egentligen förstå vad de säger. För Turing var förmåga att kommunicera ett bra mått på intelligens.

Berkeleyfilosofen John Searle (1932–) är en kritiker av idéerna om generell AI. Han menar att en dators bearbetande av symboler, hur avancerad den än blir, är väsensskilt från riktig intelligens. Datorn är deterministisk utifrån sitt initiala tillstånd och de programmeringsrutiner den styrs av. Han menar att man måste skilja på funktion och verklig förståelse. Dagens AI kan blända oss med sin funktion, men den saknar förståelse för det den skapar. För Searle är hjärnan och intelligensen ett biologiskt fenomen, liksom fotosyntes och laktation. Lika lite som vi förväntar oss att det skulle börja droppa mjölk från en dator som simulerar laktation, lika otroligt vore det om en generell artificiell intelligens uppstod, menar Searle.

De artificiella neuronnät som finns idag, till exempel i ChatGPT, är mest lika en insektshjärna, om än mer komplexa. En mygga kan spåra din doft på 30 meter. Den finner sitt mål genom sensorer för värme och koldioxid. Snabeln letar sig ner till en kapillär för att hitta blod. Det handlar om ganska enkla sensorer och algoritmer. Den typen av intelligens kan datorer enkelt återskapa idag. Men den mänskliga hjärnan är mångdimensionell. Den kan se sig själv utifrån, kritisera sina egna val och bild av världen. Den kan tänka – vad händer om jag gör så här i stället? Är det en artskillnad eller gradskillnad mellan insektshjärnan och den mänskliga?

Datavetaren Ray Kurtsweil (1948–), chef för AI-forskningen på Google, ser på hjärnan som en biologisk maskin. När kritiker av AI påstår att programvaran »bara» arbetar utifrån heuristik och statistik menar Kurtzweil att det är också vad den mänskliga hjärnan gör. Det är inte någon artskillnad mellan hjärnans arbetssätt jämfört med komplexa, neurala nätverk som kan skapas digitalt. Hjärnan har vissa fördelar bland annat sin plasticitet och sin självläkande förmåga. Men en digital intelligens har andra fördelar som minnesutrymme, beräkningshastighet och bandbredd. Han menar att Searle underskattar kraften i den nya generationens AI och att generell artificiell intelligens ligger inom räckhåll. Han tror också att en framtida AI kommer att ha ett medvetande.

Det gåtfulla medvetandet #

Att människor har ett medvetande är både något som vi alla tar för givet samtidigt som det är outforskad mark för vetenskapen. För hur studerar man något som till sin natur är subjektivt? Det finns fortfarande ingen entydigt accepterad teori om var medvetandet finns i den mänskliga hjärnan eller hur det uppstår.

Filosofen och kognitionsforskaren David Chalmers (1966–) beskrev i sin artikel Facing Up to the Problem of Consciousness (1995) de lätta och de svåra problemen med forskning om medvetande. De lätta frågorna handlar till exempel om hur stimuli tas emot och färdas genom neuronnäten där vi kan reagera på dem. Neurovetenskapen kan förklara »kablaget» i hjärnan, dess förmåga och funktion. Men det svåra problemet är att visa hur detta resulterar i en enhetlig upplevelse av ett aktivt och handlande »jag». Chalmers beskriver medvetandet som någonting som inte passar in i de vetenskapliga förklaringsmodeller vi har.

Medvetandeforskning har inte varit ett populärt område. John Searle har skämtsamt sagt att han rekommenderar någon som vill forska om medvetandet att först se till att bli fast anställd docent. De enkla frågorna, enligt Chalmers vokabulär, forskas det intensivt på. Framsteg inom neurologi och neuropsykologi har direkta nyttoaspekter som att kunna bota hjärnans sjukdomar, utveckla psykiatrin och ta fram hjälpmedel för syn- och hörselskadade. Men de svåra frågorna vill inte många forskare ta tag i.

Sedan Descartes och ännu tidigare har debatten gått mellan dualister och materialister. Dualister av olika slag har hävdat att medvetandet inte kan förklaras genom en materiell beskrivning av hjärnans beståndsdelar. Medvetande och kropp är i någon mån skilda åt. Man kan tala om substansdualism, där man menar att medvetandet är av en annan substans än cellerna i kroppen. Även en del moderna filosofer och neurologer håller fast vid en dualistisk förståelse. Materialister däremot, hävdar att medvetandet är fysikaliska processer, helt möjliga att beskriva som kemiska och elektriska signaler.

Emergens #

Idag dominerar materialistiska förklaringsmodeller, men inte i en reduktionistisk mening. I stället har många en emergent syn på medvetande. Emergens är ett filosofiskt och fysiskt begrepp som beskriver hur komplexa system kan uppvisa egenskaper som inte kan härledas direkt från dess enkla komponenter, utan uppstår ur interaktionen mellan dem. Till exempel hur en flock med fåglar fungerar som en enhet. Den svenske fysikern Max Tegmark har jämfört medvetandet med en våg som rör sig över en sjö. Vattenmolekylerna flyttar sig inte med vågen. Vågen är ett fenomen som sker med en stor samling molekyler när de är organiserade på ett särskilt sätt. Varje vågtopp består av vattenmolekyler, men vågen är något mer än dessa. Så är våra tankar ett utflöde av hjärnans kemiska och elektriska signaler, men mer än sina materiella beståndsdelar. En kasse livsmedel kan inte tänka, men samma molekyler som i maten kan, när de struktureras på ett särskilt sätt i vår hjärna, utgöra en medveten organism. Medvetandet är “food, rearranged” säger Tegmark med ett leende. I stället för att teoretiskt försöka förstå medvetandet, föreslår han att man skall studera vilka egenskaper och strukturer i en organism som frambringar ett medvetande. Varför är hjärnan medveten, men inte matkassen? Tegmark hyser inga tvivel om att någon form av medvetande skulle kunna skapas artificiellt när vi förstår mer om vilka egenskaper och strukturer som leder till detta emergenta fenomen.

Ett lejon vi inte förstår #

En invändning mot att ett digitalt medvetande liknande det mänskliga skulle kunna skapas artificiellt är frågan om det är möjligt att vara medveten utan en kropp, med allt vad det innebär av smärta och njutning. Hur skulle ett medvetande fungera om det aldrig har sovit, ätit, älskat, ramlat och slagit sig och blivit tröstat? Om Tegmark och Kurtsweil har rätt och ett medvetande skulle uppstå då en dator når en viss komplexitet, skulle det förmodligen vara helt annorlunda än vårt mänskliga och inte alls dela vår upplevelse av världen. »Om ett lejon kunde tala, så kunde vi inte förstå det», som Wittgenstein skrev. Däremot skulle en medveten AI kunna förstå oss då den har tillgång till petabyte av information skapat av oss människor i form av bild, text, musik och sociala interaktioner. En viss obalans skulle råda där AI:n kan emulera det mänskliga medvetandet men där vi skulle stå frågande inför AI:ns.

Det finns AI-forskare som är positiva till utveckling av kraftfullare AI, men som med emfas hävdar att AI aldrig skall ges ett medvetande eller något slags självständighet. De varnar för allt förmänskligande av AI, människoliknande robotar och AI med humor och känslor. AI skall ses som verktyg som löser en specifik uppgift, inte personligheter som vi formar band till. AI skall vara en hammare, inte ett husdjur, menar man. Det är lätt att sympatisera med denna åsikt, men önskan att skapa ett »du», om än artificiellt, verkar ligga djupt hos människan. Vi är Gepetto som gärna vill ha en Pinoccio att tala med.

Man skall inte sätta likhetstecken mellan generell AI och medvetande. Att en dator utvecklar ett självständigt medvetande är inget krav för superintelligens utan en avancerad AI kan ha mål och medel för att uppnå dem utan att den på något sätt kan reflektera över sig själv. Nick Bostrom, en svenskättad filosof och AI-forskare i Oxford, säger att han mycket väl kan tänka sig att en icke-medveten AI tar kommandot, utplånar mänskligheten och bygger en perfekt värld, fast utan några människor som kan njuta av den. »Ett Disneyland utan barn», skriver han sarkastiskt.

Kristen tro och syntetiskt medvetande #

I Genesis står det »Då formade Herren Gud människan av jord från marken och blåste in liv genom hennes näsborrar, så att hon blev en levande varelse.» Vad säger kristen tro om det mänskliga medvetandet? Och hur skulle teologin hantera om människan lyckas skapa artificiellt medvetande som kan känna, resonera och skapa minnen?

Bibeln är märkbart tyst när det gäller att beskriva människans inre. Gud har skapat oss och uppehåller livet, men hur kropp och medvetande förhåller sig till varandra talas det inte mycket om. Den så vanliga indelningen av kropp, själ och ande, som många utanför kyrkan skulle säga utgör den kristna antropologin, finns bara på ett enda ställe i Bibeln (1 Thess 5:23). Bibelns bild av människan är holistisk och schematiseringen kom till i mötet med grekisk filosofi.

En del teologer menar att Gud i skapelseakten gav människan en särskild substans, en själ. Detta upprepas vid varje konception då Gud ger fostret dess individuella själ, separat från kroppen. Det är denna själ som återvänder till Gud vid den kroppsliga döden. Själen innehåller medvetandet och ingen annan varelse i skapelsen än människan får själar. Eftersom själen och medvetandet blåses in av Gud kan en dator lika lite som ett djur någonsin ha en själ.

Alan Turing gick igenom argument mot tänkande maskiner i artikeln Computing Machinery and Intelligence och ett var den teologiska invändningen: »Att tänka är en funktion av människans odödliga själ. Gud har gett en odödlig själ till varje man och kvinna, men inte till något annat djur eller maskiner. Därför kan inget djur eller maskin tänka.» Turing avfärdade denna invändning som ovetenskaplig och, om Gud nu finns, en begränsning av hans omnipotens.

En annan syn är att medvetandet skapas på ett liknande sätt som hur Gud skapar nya människor genom befruktningen. Skaparen har lagt ner ett mönster i skapelsen som leder till att en ny människa blir till när sädescellen förenas med ägget. På liknande sätt föds medvetandet när hjärnans utveckling når en viss komplexitet. Medvetandet eller själen är då ingen extra komponent som läggs till utifrån, utan en följd av hjärnans utveckling och dess möte med världen och andra människor.

Detta sätt att resonera om medvetandet stämmer väl överens med de teorier som handlar om emergens. Medvetandet manifesterar sig när materia är strukturerad i vissa komplexa relationer till varandra och det kan inte förklaras bara av lagarna som styr de ingående komponenterna och deras egenskaper.

Dödsstöt för kristen antropologi? #

En del teologer menar att om ett konstgjort medvetande skulle kunna skapas skulle det vara den största utmaningen mot kristen tro sedan Darwins Om arternas uppkomst. Människans särställning, som redan sårats av Darwins förklaring av evolutionen, får nu dödsstöten när människan inte längre är skapelsens enda intelligenta och medvetna varelse. Om medvetandet är en funktion av själen som Gud ger vid konceptionen, hur kan då en dator ha ett medvetande, frågar man.

Men inte ens Sankt Augustinus kunde, efter flera skrifter i ämnet, slå fast hur själen kommer till människan. Till dem som hävdade att Bibeln uttryckligen säger att Gud skapar själen vid konceptionen säger han att det också står att »Gud ger män deras kroppar … även om ingen tvivlar på att dessa kroppar ges, skapas och formas av honom genom könslig fortplantning». Det finns ingen motsättning i att det är Gud som skapar kropp och själ, även om det sker via en process.

Kanske skulle ett artificiellt medvetande hjälpa oss till en mer holistisk syn där vi släpper den egentligt utombibliska uppdelningen av människan som ande, själ och kropp. Människan är en helhet av kropp och själ/medvetande, det ena kan inte tänkas utan det andra. Hennes särställning i skapelsen beror inte på att hon har en extra substans som kallas själ eller att hon har vissa kognitiva förmågor, utan på att hon är utvald av Gud och står i relation till honom. Hennes värde ligger i Guds tanke med hennes tillkomst. Intelligensen är inte det som gör människan unik utan är oss given för att vi skall kunna förverkliga Guds bud att förvalta allt skapat.

Avslutning #

Den svenske filosofiprofessorn Hans Ruin har kritiserat den mytologisering som han menar kännetecknar dagens diskussion om AI. Man målar upp utopier och dystopier - antingen kommer AI att rädda oss eller förgöra oss. Ruin menar att det skymmer sikten för den diskussion vi borde ha här och nu om hur AI redan påverkar oss. Till exempel den AI som styr vårt tankesätt genom algoritmer i sociala medier och splittrar våra samhällen. Eller hur vi skall hantera arbetslösheten som följer på automatisering och digitalisering. Det kommer säkerligen välla fram AI-genererad »fake news» som ser helt autentisk ut - hur skall vi möta det?

Ruin har rätt i att redan dagens snäva AI är kompetent nog att både hjälpa och stjälpa människan. Men om nu majoriteten av dagens AI-forskare tror att målet om generell, stark AI kommer att nås inom min generations livstid, är det dags att fundera på de etiska och teologiska dimensionerna av detta. Vi står inför en situation där vi skapar maskiner med syfte och förmåga, vars intelligens överträffar vår egen i samma grad som vår intelligens överträffar schimpansens.

Vi skall minnas tidigare genombrott i forskningen som lett till fantastiska och förfärande resultat. 1933 sa den ledande atomfysikern Ernest Rutherford med fullständigt självförtroende att »den som förväntar sig en kraftkälla från omvandlingen av dessa atomer pratar rent nonsens.» Några år senare kunde Leo Szilard demonstrera en neutroninducerad kärnkedjereaktion. Szilard skrev senare i sin självbiografi: »Den natten fanns det mycket lite tvivel i mitt sinne om att världen var på väg mot bedrövelse.»