Markus om AI

/Hem

/Inlägg

/Material

/Om Markus

ChatGPT - en ögonöppnare

ChatGPT - en ögonöppnare för många om vad som kommer #

I november 2022 presenterade forskningsföretaget OpenAI sin senaste innovation, ChatGPT. Denna avancerade chatbot väckte stor uppmärksamhet i IT-världen och blev omtalad i tidningar och på TV. ChatGPT är en webbapplikation där man kan konversera via text med en artificiell intelligens (AI). Begreppet AI syftar vanligtvis på en datorfunktion som utför intelligenskrävande uppgifter som inlärning, problemlösning och språklig kommunikation

Du kan be ChatGPT att ta fram en kort predikan över altarets sakrament eller en hymn till den heliga Birgitta. Den kan förklara komplexa samband och svara på faktafrågor. Användningsområdena är många. Automatiserad kundtjänst kan bli mycket bättre än de irriterande chatbottar som vi nu tvingas använda hos företag och myndigheter. Microsoft bygger in tekniken i Officepaketet. Man kommer att kunna markera en text och be AI:n förbättra den eller lägga till nya stycken utifrån en beskrivning av vad man vill ha sagt. Alla som på något sätt skriver text kommer snart att ha liknande verktyg tillhanda. En del tror att det kommer att ändra hur vi söker efter information. I stället för att googla efter länkar till källor kan man fråga en AI direkt om svaret. Är man inte nöjd kan man förfina frågan i en dialog.

I skolan och akademin oroas man över att ChatGPT skall användas för att fuska på inlämningsuppgifter. Både på Uppsala Universitet och andra lärosäten har studenter varnats av denna anledning, men det är svårt att upptäcka då texter som ChatGPT skapar inte finns i några av de databaser som lärare använder för att hitta plagiat.

Hur fungerar det? #

Svaren från ChatGPT skapas av artificiella neuronnätverk som liknar den mänskliga hjärnans struktur. Nätverket matas med enorma mängder text på flera språk och tränas genom bedömning av svar från människor och andra neuronnät. Vikterna som avgör signalernas riktning i näten justeras baserat på bedömningen och neuronnätverket lär sig att ge bättre svar.

Resultatet av träningen är en språkmodell som statistiskt beräknar det mest troliga ordet att följa efter det föregående, vilket möjliggör att en allt längre text byggs upp. Processen sker iterativt, där varje ord som genereras påverkar och justerar sannolikhetsfördelningen för nästa ord. Det ger svar som är sammanhängande och meningsfulla genom att skapa en naturlig struktur i texten.

Det som sker i neuronnätverket är inte möjligt att beskriva fullt ut. Man vet hur nätverket är uppbyggt och man vet hur det har tränats, men hur signalerna sedan går i nätverket rymmer ett visst mått av kaos. Från en text som ChatGPT har skapat kan man inte följa tråden bakåt för att visa hur den kom fram till sitt resultat. Det är som en svart låda.

Trots sin avancerade kapacitet att generera text och svar på frågor, har ChatGPT ingen egentlig förståelse eller medvetenhet om världen eller det som den talar om. Allt är bara text. Därför kan det ibland leda till både komiska och felaktiga svar. Tekniken är fortfarande ny och oslipad. Men miljoner människor interagerar nu med modellen, vilket gör att den hela tiden förbättras.

Andra exempel på AI #

OpenAI har även en AI som kan generera bilder enligt samma princip. Den har matats med hela konsthistorien och miljarder fotografier. Man kan be den måla en blyertsteckning av Uppsala domkyrka som om den vore gjord av Edvard Munch. Det lurar inte en konstkännare, men väl en amatör som jag. Andra AI-modeller spår väder, kör lastbil, rensar bort skräppost, spelar datorspel, översätter språk, förbättrar bilderna du tar med mobilen, ger dig de bästa sökträffarna på Google och slår alla människor i schack och poker.

För något år sedan kunde en AI ge oss detaljerad beskrivning av hundratals miljoner proteiner och deras tredimensionella strukturer. Tidigare har en doktorand kunnat ägna hela sin avhandling för att beskriva ett enda protein – programvaran AlphaFold gav oss alla på en gång. Detta kommer enligt forskare att revolutionera utvecklingen av läkemedel och vaccin de kommande åren genom att visa hur proteiner fungerar och hur de interagerar med andra molekyler.

Människan, den näst mest intelligenta arten på jorden? #

Allt detta är exempel på vad som kallas begränsad eller svag AI, det vill säga en AI som kan lösa en specifik uppgift. Den är begränsad av den modell som den startats med och kan inte på egen hand utveckla nya förmågor. En begränsad AI har förmåga, men ingen egentlig förståelse.

Generell AI #

Det stora målet för AI-forskningen är att nå fram till generell artificiell intelligens (på engelska Artificial General Intelligence, AGI). Det skulle innebära att en AI på egen hand kan utvidga sina färdigheter och förbättra sina algoritmer utan mänsklig styrning. Den skulle kunna anpassa sig till nya situationer på ett sätt som liknar hur människor anpassar sig. Det forskas intensivt på att förstå mer om hur våra mänskliga hjärnor fungerar och hur man kan återskapa de funktionerna i en digital värld. Om det sker genombrott inom denna tvärvetenskapliga disciplin av neuro- och datavetenskap kan man utveckla AI med mänsklig nivå av inlärning, associationsförmåga och förståelse, fast med närmast obegränsad hastighet och kapacitet. Detta kallar man superintelligens.

Superintelligens #

En del tror vi är framme vid superintelligensen om tio år, andra tror att det händer i andra halvan av seklet och några forskare är fortfarande tveksamma till om det går. AI-forskningen startade redan på 1950-talet och har flera gånger gått i stå. Framträdande AI-forskare har genom decennierna lovat för mycket. Den senaste vågen startade runt sekelskiftet och möjliggjordes av den billiga och tillgängliga datorkraften, nya genombrott när det gäller algoritmer för maskininlärning och, kanske främst, att den kommersiella nyttan med AI blev uppenbar. När forskningen lämnar universiteten och i stället drivs av företag ökar utvecklingshastigheten markant.

Det är möjligt att man kommer att stöta på oförutsedda problem och att vi går in i en ny »AI-vinter». En del skeptiker menar att de algoritmer som nu är ledande inom AI, maskininlärning och neurala nätverk, lämpar sig bra till begränsad AI, som till exempel att hitta mönster i bilder. De bygger på principen om induktion: att dra slutsatser från specifika observationer. Mänsklig intelligens är mer än induktion. Många av de viktigaste idéerna har uppstått när en människa ignorerat erfarenheten och angripit ett problem från ett annat håll. För att kunna skapa generell AI, menar kritikerna, behöver vi utveckla nya typer av algoritmer.

Men den svenska AI-forskaren Sverker Jansson säger om superintelligensen att: »Det kommer att hända. Det är inte magi det som sker i hjärnan. Vi kommer att förstå det och då kan vi skala upp det med enorm beräkningskraft och då har vi superintelligens. Ingen vet vad det kommer att innebära.» Kanske står vi inför den största förändringen sedan elektriciteten bemästrades. Allas liv kommer att påverkas radikalt när människan är den näst mest intelligenta »arten» på jorden.

Våra mänskliga hjärnor utvecklas genom evolutionen med den långsamhet som detta innebär. En generell AI kan utveckla sig själv med enorm hastighet och lämna den mänskliga tankeförmågan långt bakom sig. Vilka vetenskapliga framsteg som då sker kan vi inte ens föreställa oss. För att lösa världens problem kommer vi troligen att överlämna alltmer till AI:ns försorg. Om självkörande bilar i princip avskaffar alla trafikolyckor, varför skulle man inte lämna över fler områden till AI:n, som elförsörjning, ekonomisk planering och jordbruk? I stället för beväpnade robotar utanför Rosenbad kommer vi frivilligt att långsamt lämna ifrån oss kontrollen över framtiden i datorernas händer, tills det är för sent att stänga av dem.

Men är det rimligt att lita på den majoritet av AI-forskare som tror att genombrottet kommer inom några decennier? Låter det inte långsökt? Kanske, men den tekniska utvecklingen gör språng ibland. Det är drygt sextio år mellan bröderna Wrights första vingliga flygning och Armstrongs steg på månen. Om någon hade beskrivit Internet och mobiltelefoner för mig när jag var tio år hade jag upplevt det som science fiction. Det är fyrtio år sedan. Med dagens ekonomiska resurser och datorkraft går utvecklingen många gånger snabbare än för bröderna Wright.

Många varnar för generell AI. Vad är det som säger att en superintelligens kommer att värdera människan högre än andra organismer? Den kanske kommer fram till att människan totalt sett är negativ för jordens framtid och bör avlägsnas. Personer som Bill Gates och den nu döde Stephen Hawking har sagt att generell AI som inte kontrolleras hårt är det största hotet mot mänskligheten. En ledande AI-forskare på Google, Geoffrey Hinton, erkände att han ibland var rädd för vad han håller på att släppa lös, men att nyfikenheten och lusten att komma först fick honom att fortsätta.

Singulariteten #

Andra tror att det i själva verket kommer att vara mänsklighetens räddning. Vi bör koncentrera all kraft på att nå fram till superintelligensen eller singulariteten som tidpunkten då AI:n kan börja förbättra sig själv brukar kallas. De ser framför sig en värld där alla problem med klimat, svält, energi och konflikter kan lösas. Ett slags Star Trek-scenario där mänskligheten anammar en ny världsordning, fri från strid om resurser. En del talar om det i närmast religiösa ord, till exempel transhumanisterna som ser en framtid där man kan besegra döden genom att spara sitt medvetande digitalt och förbättra våra kroppar och hjärnor med inplantat. Drömmen om evigt liv, att bli som Gud utan Gud.

Det som är tydligt är att samhället i stort inte bryr sig särskilt mycket om AI. Klimathot och hoten från Kina och Ryssland är ständigt i nyheterna, men AI ser man som något långt in i framtiden som vi inte behöver hantera nu. Samtidigt menar de som arbetar med AI att superintelligensens intåg ligger inom min generations livstid. Det satsas enorma resurser från akademi och företag på att göra AI:n smartare, men det debatteras lite om hur detta teknikskifte kommer att påverka oss och hur vi skall hantera riskerna. Det är dags att vi börjar prata om vilket slags AI vi vill ha.

En framtid utan arbete #

Helt klart är att automatisering och alltmer kapabel AI kommer att ta över uppgifter som idag utförs av människor. En forskargrupp i Oxford bedömde i en rapport att nästan hälften av alla arbeten kommer att kunna digitaliseras och automatiseras inom tjugo år.

Runt sekelskiftet 1800 började den brittiska textilindustrin att mekaniseras. Detta var inledningen på den industriella revolutionen. Textilarbetare såg det som ett hot mot sitt levebröd och på flera platser utbröt uppror där man förstörde maskinerna. Enligt legenden hette anföraren Ned Ludd och rörelsen kom att kallas för luddites, ludditer. Idag används begreppet luddit om någon som är skeptisk mot ny teknik och varnar för dess faror.

På kort sikt fick ludditerna rätt. Det blev stor arbetslöshet när maskinerna tog över och deras samhällen bröts ner. Arbetarnas färdigheter blev värdelösa. Men det slutade inte där. Ludditerna kunde inte föreställa sig den enorma utveckling som blev frukten av tekmiken de ville förstöra. Genom den industriella utvecklingen skulle deras ättlingar få leva i överflöd, äta och dricka som kungar och drottningar gjorde på textilarbetarnas tid. De fick se människan resa till månen och bota många sorters cancer. Samhället fann till slut ett sätt att hjälpligt dela rikedomarna som skapades genom industrialiseringen.

Vi står inför ett nytt språng nu. Allt vi vet är att det kommer att bli annorlunda. Under förra decenniet försvann en halv miljon arbeten i Sverige på grund av automatisering, skriver ekonomen Stefan Fölster i boken Robotrevolutionen. AI hotar att göra samma sak för tjänstemän och akademiker, för arkitekter, ekonomer, programmerare och jurister. De företag som äger AI-tekniken kommer att skapa enorma förmögenheter. Kommer samhället att kunna fördela rikedomarna som alstras från en AI-baserad ekonomi? Kommer majoriteten att bli arbetslösa, eller blir det som under industrialiseringen att helt nya områden öppnas och nya arbeten skapas? Teknikoptimisterna brukar säga att hälften av dagens förskolebarn kommer att ha jobb som ännu inte existerar. Eller behöver vi fundera på något slags medborgarlön då förvärvsarbete blir en raritet?

Under mänsklighetens historia har teknik varit ett sätt att förmera den mänskliga förmågan. Från plogen som gav oss större skördar till datorn som kan räkna med enorm hastighet har tekniken varit den mänskliga hjärnans förlängda arm. Människan har haft initiativet och kontrollen. Vi har kunnat säga att datorn ändå inte kan ersätta mänskligt sunt förnuft och mänskligt skapande. Det kommer kanske inte att vara sant framöver. Det blir allt färre saker som människan klarar bäst.

Vem bestämmer vad AI:n menar är gott och rätt? #

AI, vare sig vi pratar om begränsad eller generell, har etiska aspekter. Redan idag finns självkörande taxibilar i amerikanska städer. Vad avgör hur de skall välja om de ställs inför svåra val vid en trafikolycka? AI beslutar om du är kreditvärdig eller försäkringsbar. Missiler och drönare kan själva styra och välja ut mål att träffa och det forskas på robotar att kunna sända ut i strid i stället för soldater. Flera gånger under kalla kriget rapporterade sensorer att missiler var på väg från fienden. Det som räddade oss då var enskilda människor som tvekade, baserat på sin magkänsla. Vad hade hänt om det varit en AI som fått signalen om att ett anfall inletts?

»Do no evil» brukar Google säga är deras mantra, men samtidigt kartlägger de oss i detalj för att visa oss anpassad reklam och utvecklar AI-teknik för vapenindustrin. AI som styr sociala medier formar opinion och splittrar samhället då deras mål är att fånga vår uppmärksamhet så länge som möjligt. Vi har redan sett hur diktaturen använder AI för att kontrollera och förtrycka sina egna medborgare. Kina är på väg att gå om USA i investeringar i AI-forskning, menar en del bedömare. Hur kommer man att använda AI i sin krigsmakt och för att främja Kinas intressen via skräddarsydda påverkanskampanjer i väst? Teknik som ChatGPT kommer att användas för att vräka ut nyheter och inlägg på sociala medier som är nästan sanna, bara med en lite vridning åt det håll avsändaren vill föra oss. Det blir en kapprustning om sanningen.

Dagens teknik gör det möjligt att använda AI för att placera en person i vilken miljö som helst på en bild. Detta kan ge intrycket av att personen är otrogen, använder narkotika eller umgås med extremister utan att personen faktiskt har gjort något av detta. Många delar villigt med sig av sina bilder till appar på Facebook som kan visa hur man kommer att se ut när man blir äldre eller skapa en snygg profilbild som ser handmålad ut. Få läser villkoren för dessa tjänster, vilket kan innebära att bilder delas med kanske ryska eller kinesiska företag utan personens samtycke.

Ett annat problem med dagens maskininlärning är skevhet och fördomar. En applikation som heter Lense erbjuder användare att skapa bilder baserat på sina uppladdade profilbilder från sociala medier. En kvinnlig AI-forskare med asiatisk bakgrund märkte att hennes kollegor med västerländskt utseende fick tillbaka bilder av dem som stridspiloter, hjältar och äventyrare, medan hennes resultat oftast var halvnakna, sexualiserade bilder. Det träningsdata som används av Lenses AI innehöll troligen denna fördom, vilket återspeglades i resultatet. Det finns också flera rapporter om hur färgade oftare flaggas som kriminella vid bildigenkänning. Själva grunden i maskininlärning är baserat på fördomar i betydelsen mönster som datorn ska finna.

Min upplevelse av IT-branschen, där jag arbetar, är att det etiska samtalet är sällsynt förkommande. I väst styrs utvecklingen från Silicon Valley med sin blandning av libertariansk teknikoptimism och en högljudd grupp som skulle kunna betecknas som »woke». Det etiska ramverk som styr AI-forskning och -produktutveckling är tunt. Ett slags oreflekterad utilitarism skulle man kunna kalla det. Den flertusenåriga judiskt-kristna etiska diskussionen är inte levande i de sammanhang där nästa generation AI utvecklas och ges sina mål. En AI har ingen etisk grunddisposition, allt den skall hålla för sant måste kodas in i modellen. Vem är kompetent nog att göra det, och på vilken grund? Om den judiskt-kristna etiken inte längre är basplattan, hur kan vi enas om vad en AI skall anse vara gott och rätt?

AI är redan här #

Det kan bli så att AI-forskningen stöter på problem på vägen mot generell AI. Att neuro- och datavetenskapen inte lyckas befrukta varandra och den mänskliga inlärningen och intelligensen förblir omöjlig att digitalisera i nödvändig omfattning. Det finns också risk att den enorma utveckling av datorkraft vi vant oss vid sedan 70-talet saktar in. En modern mobiltelefon har sexton miljarder transistorer i sin processor och de sitter på fyra nanometers avstånd. Man börjar närma sig gränsen för vad som är fysiskt möjligt att bygga.

Även om de få pessimistiska forskarna får rätt och att generell AI inte går att framställa kommer AI ändå att påverka oss alla. Redan det som idag finns kan, när det sätts samman och paketeras, erbjuda något som känns och framstår som intelligent. Man talar om multimodala AI-modeller där språkförmåga liknande ChatGPT, bildigenkänning, bildskapande, spatial förmåga, syntetiskt tal sätts samman till en kombinerad AI. Den behöver inte ha uppnått superintelligensen för att av oss uppfattas som mänsklig intelligens. Dagens AI, förfinad med några års iterativ förbättring kommer att vara kusligt människolik.

Science fiction-litteraturen är full av berättelser där AI i form av robotar tar makten och förslavar människorna. När vi försöker få telefonen att spela en viss sång genom att tala med Siri eller Google, dessa embryon till AI vi bär i våra telefoner, kan det verka skrattretande. De kan ju inte lösa ens den enklaste uppgift.

De är små, men växer fort. Genom att applicera algoritmer på den ofattbara samling av mänsklig kunskap, ljudinspelningar, rörlig bild och sparade interaktioner som finns lagrad på nätet kommer de en dag vara oskiljaktiga från en levande människa när vi interagerar med dem. De kommer att vara närmast ofelbara assistenter när det gäller att boka resor, köpa present till svärmor och skriva artiklar för SPT. De kommer att ha humor och personlighet, de kommer att kunna dikta, tonsätta och föra avancerade resonemang om kyrkohistoria och exegetik. Vem vill inte ha en perfekt assistent att avlasta rutinärenden på? De kommer också att kunna ersätta många typer av anställda inom ekonomi, administration, teknik och IT. De vabbar aldrig och är inte fackligt organiserade.

En värld av speglar och rök #

Meta, företaget bakom Facebook, har satsat sin framtid på att Metaverse skall bli verklighet. Metaverse är en vision om en ny värld där gränserna mellan det fysiska och det virtuella suddas ut. Via särskilda glasögon och kroppsnära sensorer kan vi röra oss som virtuella varelser, interagera med andra, arbeta, shoppa och uppleva kultur. Givetvis också tillsammans med avatarer styrda av AI.

Sexindustrin är naturligtvis tidigt ute med att använda den nya tekniken med virtuell och förstärkt verklighet och artificiell intelligens. Din flick- eller pojkvän kan du själv skapa som du vill och hen kommer att vara vältalig, bekräftande och helt enligt dina drömmar. Trenden idag verkar vara att välja bort tvåsamheten. Man får utlopp för sin sexualitet genom pornografi där algoritmer skräddarsyr vilka filmer som visas. Varför skall en ung person som inte upplever sig passa in välja »köttvänner» och inte AI? Man behöver inte ens lämna hemmet. Och om man händelsevis vill träffa någon är det maskininlärning som matchar ihop kärlekstörstande par på Tinder och andra datingappar.

Motmedel #

Både Kyrka och samhälle behöver rusta sig för det som kommer. AI berör teologin. Människa, medvetande och själ är ord som utmanas av en möjlig ny intelligens, en Guds avbilds avbild. De pastorala och själavårdsmässiga frågorna är många. Hur skall Kyrkan möta människor som tillbringar mer tid med AI än med andra människor, eller konfirmander som fastnat i metaverse. Vi tycker redan att barn och vuxna använder sina mobiler för mycket. Jag tror att vi bara sett början. Relationer till människor kräver arbete och offer – din AI-vän har alltid tid, är alltid intressant och spirituell och får dig att känna dig smart och uppskattad efter varje möte. Kan man förresten be tidegärden tillsammans med sin AI?

Sextio procent av svenskarna, med en övervikt bland yngre, svarar i en undersökning att de ofta känner sig ensamma. Med en utvecklad AI kanske de svarar nej på frågan, men det är inte människor de botar ensamheten med. Jag tror att Kyrkan behöver hålla fast vid det mänskliga mötet och de mänskliga relationerna. Gemensam gudstjänst, koininian, hemgruppen och det monastiska. I en framtid med komplex AI behövs det motbilder. Vi skall fundera på hur församlingen utformar den digitala närvaron. Mission i Metaverse – ja, men vi bjuder in till ett möte med människor av kött och blod. Gud blev kött och det betyder något.

Kan en dator bli medveten?
→
Till början av sidan