Hoppa till innehållet
POLARISAI ACADEMY
Fördjupning, frivillig

Den här lektionen är en frivillig fördjupning till kursen F06. Den innehåller räkneexempel och fackord. Börja med F06 om du är ny. Till kursen F06 →

FD06 · Första ljuset

Pengar, tokens och kvoter

Du kan räkna en månadskostnad ur en token-tabell, med eget pris för färsk indata, cachad indata och utdata, i kronor och i euro vid en angiven kurs. Du kan också göra om en fartgräns per minut till det mesta den gränsen kan kosta på en månad.

Nivå
Första ljuset
Tid
8 h (uppskattning)
Förkunskap
F06
Kurs 6 av 7
Hoppa till

Efter kursen kan du

Eleven kan räkna ut exakta månadskostnader i kronor för tokens, cache och anropsgränser ur en given prisbild i scenarier med lite, normal och missbrukad trafik.

Indata och utdata har varsitt pris

Du betalar för två högar text vid varje anrop. Indata är det du skickar: frågan, instruktionerna och ett bifogat dokument. Utdata är svaret modellen skriver, plus de dolda resonemangstokens som leverantören fakturerar som utdata. På exempelbladet kostar färsk indata 30 kronor per miljon tokens och utdata 150 kronor per miljon tokens. Fem miljoner utdatatokens kostar då 750 kronor, medan samma mängd indata kostar 150 kronor. Bladet är påhittat så att du kan kontrollera summorna för hand. Det är inget pris från en leverantör.

Tokens växer snabbare än antalet meddelanden. Ett anrop som klistrar in en rapport på 20 sidor kan innehålla fler tokens än femtio korta frågor. Leverantören räknar tokens hos sig, och det är den räkningen som faktureras. Om översikten visar 2,4 miljoner indatatokens och 0,4 miljoner utdatatokens en dag, blir priset 2,4 gånger 30 kronor plus 0,4 gånger 150 kronor, alltså 72 plus 60, vilket är 132 kronor. Kontrollera den multiplikationen innan du litar på en månadssumma.

Cache och batch ligger lägre på exempelbladet

När ett block indata upprepas kan en cache ta betalt för blocket till ett lägre pris. På exempelbladet kostar cachad indata 3 kronor per miljon tokens, mot 30 kronor för färsk indata. Ett fast block på 2 miljoner tokens, återanvänt vid 80 anrop, blir 160 miljoner cachade tokens om varje träff sitter. Vid 3 kronor per miljon är det 480 kronor. Samma 160 miljoner som färsk indata skulle kosta 4800 kronor.

En cacheträff kostar ändå pengar. En miss faktureras som färsk indata. Batchpris är ett lägre pris för jobb som kan vänta. På exempelbladet kostar färsk indata i batch 15 kronor per miljon och utdata i batch 75 kronor per miljon. Cachad indata i batch kostar 1,50 kronor per miljon. Tio miljoner färska indatatokens och två miljoner utdatatokens i batch kostar 150 kronor plus 150 kronor, alltså 300 kronor.

Läs prisbladet som ett rutnät. Live och batch är kolumner. Färsk indata, cachad indata och utdata är rader. Välj rutan som stämmer med anropet och multiplicera antalet tokens, i miljoner, med den rutan. Ett live-anrop med cacheträff använder rutan på 3 kronor. Ett batch-anrop som missar cachen använder rutan på 15 kronor. Blanda de rutorna och handräkningen glider ifrån fakturan.

Abonnemang, API och en egen dator

Ett abonnemang tar en fast avgift för en månad och har en kvot bakom sig. När kvoten tar slut stannar nya svar, eller går långsammare, tills nästa period. Ett API-pris sätter ett pris på varje token, så månaden följer användningen. Ta ett exempelabonnemang på 250 kronor. En lugn månad kostar ändå 250 kronor. Samma samtal på exempelbladet kostar det tokenräkningen summerar till. Korta anteckningar hamnar ofta under 250. Ett skrivbord som klistrar in långa filer varje timme går över.

En egen dator flyttar kostnaden från tokens till inköp och el. Exempel: en dator för 18000 kronor, jämnt fördelad på 36 månader, är 500 kronor i månaden. Drar den 300 watt i 4 timmar om dagen blir det 0,3 kilowatt gånger 4 timmar gånger 30 dagar, alltså 36 kilowattimmar. Vid ett exempelpris på 2 kronor per kilowattimme kostar elen 72 kronor. Månaden blir 572 kronor vare sig dagen är lätt eller tung, tills datorn inte hänger med.

Medianfallet, 40 miljoner färsk indata, 160 miljoner cachad indata och 8 miljoner utdata, landar på 2880 kronor på live-bladet. Datorn på 572 kronor kostar mindre om den lokala modellen duger för det skrivbordet. Lågfallet, en fjärdedel av högarna, är 720 kronor, nära datorn. Datorn kostar ändå omkring 572 kronor en månad du knappt slår på den. Ta API:t när volymen svänger, och datorn när ett jämnt jobb ryms i den.

Spärrar, kvoter och vad en fartgräns kan kosta

En utgiftsspärr är en kronogräns på ett API-konto. Med en exempelspärr på 3000 kronor ligger medianen på 2880 kronor under den. En missbruksmånad på 12000 kronor hejdas bara om nya anrop nekas när spärren är nådd. En varning stoppar inte ett skript. Spara spärren, gör ett litet anrop och läs kontosidan. Kvarvarande budget ska sjunka med priset för det anropet. Rör sig inte budgeten är spärren inte i kraft ännu.

Ett exempelavtal tillåter 100 meddelanden om dagen. Den dygnsräkningen är kvoten. Meddelande 101 går inte fram, trots att månadsavgiften redan är betald. En fartgräns i exemplet tillåter 500000 indatatokens och 100000 utdatatokens per minut. Fyll båda i en minut på live-bladet. Indata kostar 0,5 gånger 30 kronor, alltså 15 kronor. Utdata kostar 0,1 gånger 150 kronor, alltså 15 kronor. En full minut är 30 kronor, det mesta gränsen kan fakturera på sextio sekunder.

Håll den minuten på 30 kronor en hel timme, så blir timmen 1800 kronor. Ett dygn är 24 gånger 1800, alltså 43200 kronor. En månad på 30 dygn, varje minut, är 30 gånger 43200, alltså 1296000 kronor. Vid exempelkursen 10 kronor per euro är taket 129600 euro. En vanlig månad på 2880 kronor är 288 euro. Den ena siffran är ett tak. Den andra är en vanlig månad.

Ett exempel

Tre månader på exempelbladet

Live-priser på exempelbladet: färsk indata 30 kronor per miljon, cachad indata 3, utdata 150. Skrivbordet väntar på svar, så anropen ligger kvar på live. Medianmånad: 40 miljoner färska indatatokens, 160 miljoner cachade indatatokens och 8 miljoner utdatatokens. Färsk indata är 40 gånger 30, alltså 1200 kronor. Cachad indata är 160 gånger 3, alltså 480 kronor. Utdata är 8 gånger 150, alltså 1200 kronor. Summan är 1200 plus 480 plus 1200, vilket är 2880 kronor.

Kontrollera cache-effekten samma månad. Indatatokens är 40 miljoner plus 160 miljoner, alltså 200 miljoner. Den cachade andelen är 160 delat med 200, alltså 0,8 eller 80 procent. Om all indata vore färsk skulle indata kosta 200 gånger 30, alltså 6000 kronor, plus utdata på 1200 kronor, så 7200 kronor. Den cachade räkningen var 2880 kronor. Skillnaden är 7200 minus 2880, alltså 4320 kronor. Skillnaden finns kvar bara så länge det upprepade blocket träffar.

Skala samma skrivbord. Färsk indata är 10 miljoner gånger 30, alltså 300 kronor. Cachad indata är 40 miljoner gånger 3, alltså 120 kronor. Utdata är 2 miljoner gånger 150, alltså 300 kronor. Låg summa är 300 plus 120 plus 300, alltså 720 kronor. Missbruksmånaden missar cachen och skriver fem gånger medianens utdata: 200 miljoner färsk indata och 40 miljoner utdata. Färsk indata är 200 gånger 30, alltså 6000 kronor. Utdata är 40 gånger 150, alltså 6000 kronor. Missbrukssumman är 12000 kronor.

Ställ de tre månaderna mot en exempelspärr på 3000 kronor. Låg är 720, median är 2880, missbruk är 12000. Låg och median ryms under spärren. Missbruk går över spärren, så räkningen stannar nära 3000 bara om nya anrop nekas där. Vid exempelkursen 10 kronor per euro blir månaderna 72 euro, 288 euro och 1200 euro. Fartgränstaket som räknades fram är 1296000 kronor, eller 129600 euro. Det ligger långt över missbruksmånaden på 12000 kronor. Taket är mätaren hållen öppen hela månaden.

Övning

Räkna en fjärde månad för hand

Ta ett tomt papper eller en vanlig textfil. Använd exempelbladet: färsk indata 30 per miljon, cachad indata 3, utdata 150, och 10 kronor per euro. Prissätt en live-månad med 25 miljoner färska indatatokens, 75 miljoner cachade indatatokens och 5 miljoner utdatatokens. Skriv varje produkt på en egen rad och addera de tre raderna. Dela summan med 10 för att få euro. Dra summan från en exempelspärr på 3000 kronor och skriv vad som blir kvar. Kontrollera varje produkt för hand.

De tre raderna ska visa 750 kronor, 225 kronor och 750 kronor. Månaden ska visa 1725 kronor. I euro är det 172,50. Mot spärren på 3000 kronor återstår 1275 kronor, så månaden ryms. Visar raden för färsk indata 75 kronor har du lagt cachens pris på färsk indata. Blir summan 17250 kronor har varje pris använts per 100000 tokens i stället för per miljon.

Kontrollfrågor

Svara själv först. Öppna sedan frågan för att se svaret.

Vad kostar 8 miljoner utdatatokens på live-raden i exempelbladet?

1200 kronor. Multiplicera 8 med exempelpriset 150 kronor per miljon.

Vad blir medianmånaden på live-priser, med 40 miljoner färsk indata, 160 miljoner cachad indata och 8 miljoner utdata?

2880 kronor. Raderna är 1200, 480 och 1200.

Om båda fartgränserna i exemplet är fyllda varje minut i 30 dygn, vad blir taket i kronor?

1296000 kronor. En full minut är 30 kronor, en timme 1800, ett dygn 43200, och 30 dygn ger 1296000.

En live-månad har 25 miljoner färska indatatokens, 75 miljoner cachade indatatokens och 5 miljoner utdatatokens på exempelbladet. Vad blir summan i kronor?

1725 kronor. Raderna är 750, 225 och 750.

Ta med dig

Multiplicera varje hög, i miljoner tokens, med den enda ruta som passar, och addera sedan raderna. En spärr begränsar kronor, en kvot begränsar antal och en fartgräns begränsar tempo, och spärren håller räkningen nere bara när nya anrop nekas.

Slutuppgift

Lös 15 nyckelrättade kostnadsuppgifter ur frysta prisblad (kontrolleras inom angivna avrundningsregler) och lämna in en kostnadsmodul (cost_calc.py eller .js) som klarar 12 fasta enhetstester för cachad, ocachad och stötvis last.

Slutuppgiften rättas av fasta facit och automatiska tester när proven öppnar.

Prov och diplom kommer

Lektionen är öppen att läsa. Prov, diplom och konto kommer senare; väntelistan är till för dem. Till väntelistan