Kapitel 1. Vad är AI?

Som ordförslagen i mobilen när du skriver ett sms, fast enormt mycket bättre: en chatt-AI skriver ut sitt svar ett ord i taget, genom att hela tiden välja vad som passar bäst härnäst. Men den kan tänka längre fram än så.

Det ger tre följder du har nytta av när du chattar:

• Det kan låta helt rätt och ändå vara fel: modellen skriver det som passar språkligt och sannolikt, och ingenting i den kontrollerar automatiskt att det stämmer.
• Samma fråga kan ge olika svar: det finns lite slump i valen, styrt av temperatur, en inställning som gör valet mer eller mindre varierat och som du ser i figuren.
• Hur du frågar styr svaret: dina ord är det modellen bygger vidare på (kapitel 2).

Prova själv med «Jag tar bussen till …». Du gör då samma sorts val som AI:n.

Svaret skrivs ut ett ord i taget, genom samma slags val, även när modellen har tänkt längre fram. Det ligger bakom varje rad du får i en chatt.

I övningen gissade du på hela ord. Modellen räknar på mindre bitar, och hur den delar upp din egen text kan du prova härnäst.

«jordgubbe» blir fyra bitar – jord, g, ub, be – «strawberry» tre, och en sammansättning som «sjuksköterskeutbildningen» blir nio. Långa svenska ord spricker ofta. Modellen behandlar texten som bitar, inte som bokstäver i följd, och kan därför ha svårt att räkna bokstäverna i ett ord du tycker är självklart.

Svaret du läser växer fram en bit i taget. Varje ny bit väljs utifrån det som redan står, som en lucktext som fylls i medan du tittar. Du kan ha slutet klart när du börjar skriva. Modellen skriver ut en bit i taget.

Modellen har lärt sig av enormt mycket text och kan därför förklara, skriva, översätta och svara på frågor om nästan allt, men träningen kontrollerar inte vad som är sant. En kollega som läst varenda text på jobbet men aldrig fått veta vilka som stämde kan återge dem och ändå ha fel.

Du har nytta av att veta det när du ber om ett mejl till hyresvärden eller en förklaring av ett vårdbesök. Den tar sig an båda. En felaktig uppgift som är vanlig i texten kan den ändå få med.

Träningen går till så att den får början på väldigt mycket text — webb, böcker, artiklar och kod, mer än en människa kan läsa — och ska förutsäga nästa bit. Gissningen jämförs med vad som faktiskt stod, och då justeras den lite. Samma sak upprepas väldigt många gånger.

När meningen börjar «Glöm inte att låsa …» ligger «dörren» närmare till hands än «himlen», för den fortsättningen har den mött oftare. I början pekar gissningen åt många håll. Efter tillräckligt många meningar samlas den kring det som brukar stå där.

Det den lärt sig sparas som parametrar, enorma mängder tal som justeras under träningen. Det finns ingen sökbar lista med meningar inuti, även om viss text kan ha fastnat ordagrant. Ber du den skriva som en hyresvärd sätts en ny mening ihop av de talen.

För att bli riktigt bra på att förutsäga nästa bit i så mycket text måste den fånga grammatik, fakta, stil och hur resonemang brukar gå. Därför kan den svara på frågor den aldrig sett i exakt den formen. Fördomar i texten följer med.

Sedan kommer efterträning, med exempel på bra svar och bedömningar av svar, så att den blir en hjälpsam assistent. Den inbyggda kunskapen bygger huvudsakligen på text fram till en viss tid. Nyare saker — en lagändring, ett nytt läkemedel, det som hände i går — får den bara via sökning, verktyg eller text du ger den.

Modellen kan låta lika säker när den har fel som när den har rätt, så fråga gärna igen för att se om svaret ändras, men kontrollera det viktiga på annat håll.

Det har du nytta av när svaret rör en lag, en siffra eller en person och låter färdigt. Modellen är byggd för att skriva ett troligt svar. Den kan säga att den inte vet, men den kan inte pålitligt skilja det den kan från det den gissar. Det kallas ofta hallucination: ett svar som låter som kunskap även när modellen gissar.

Vissa sätt att träna och testa modeller gör det mer lönsamt att försöka svara än att avstå. Luckor och motsägelser i texten den tränats på spelar också in.

Där texten den tränats på är entydig blir svaret stabilt. Stabilt betyder inte att det är rätt: är ett fel vanligt i texten blir även felet stabilt. Sveriges huvudstad är väl belagd, så Stockholm kommer tillbaka i exemplet varje gång. Där underlaget saknas, som vilket år den första pizzerian i Kungsbacka öppnade, fyller den i ett troligt år. Det låter lika säkert varje gång, men året är ett nytt.

Risken är ofta störst vid ovanliga saker: en liten ort, en okänd person, exakta siffror, lagar, källor och länkar. Fel förekommer även i vanliga ämnen. Nyare tjänster är bättre på att avstå och söka, men felet finns kvar. Fråga igen, gärna i en ny chatt. Byter svaret är det en varningssignal, och då kollar du själv.

Nu får du själv granska ett säkert men felaktigt svar. Får du ett tvärsäkert besked i kassan, vill du ändå se det i skrift.

Du har köpt en jacka i butik förra veckan och frågar om du har rätt att lämna tillbaka den.