Nätet, DNS, HTTP och trafikstyrning
Efteråt kan du följa en DNS-kedja tills varje TTL (time to live, livslängd i sekunder) tar slut, välja första raden som träffar i en tabell för omvänd proxy, och avgöra om en förfrågan släpps fram eller får 429 ur en token bucket (en hink med polletter) och ett glidande fönster som du räknar om för hand.
- Nivå
- Navigatör
- Tid
- 22 h

Hoppa till
Efter kursen kan du
Eleven kan konfigurera middleware för omvänd proxy och rate limiting som betjänar normal trafik under 50 ms, avvisar burst-flöden med förenliga HTTP 429- och Retry-After-headrar och verifierar HMAC-signaturer på webhooks.
DNS-poster och den TTL som är kvar
Ett DNS-svar är några rader du kan läsa själv. En A-post bär en IPv4-adress. En AAAA-post bär en IPv6-adress. En CNAME-post bär ett annat namn, och uppslaget fortsätter där. En TXT-post bär en text, till exempel en SPF-policy, och ett uppslag efter en adress lämnar den raden oanvänd. Ta den här zonen. www.shop.example har en CNAME till shop.example med TTL 60. shop.example har en A-post 203.0.113.10 med TTL 300, en AAAA-post 2001:db8::10 med TTL 300, och en TXT-post v=spf1 -all med TTL 300. En klient som frågar efter A för www.shop.example följer CNAME och får 203.0.113.10. En klient som bara frågar efter A får ingen AAAA-rad i det svaret.
TTL är en nedräkning i sekunder, sparad bredvid posten när cachen tar emot den. Både CNAME och A ovan cachas klockan 12:00:00. Klockan 12:00:40 har det gått 40 sekunder. CNAME har 60 − 40 = 20 sekunder kvar, och A har 300 − 40 = 260 sekunder kvar, så båda raderna får lämnas ur cachen och adressen som lämnas ut är 203.0.113.10. Klockan 12:01:30 har det gått 90 sekunder. CNAME har 60 − 90, alltså under noll, så den cacheposten är förfallen och uppslagaren frågar igen. A-posten skulle fortfarande visa 300 − 90 = 210 sekunder, men kedjan behöver en aktuell CNAME innan den adressen används.
HTTPS-förfrågan efter namnkollen
Klienten öppnar TCP mot port 443 på 203.0.113.10 och kör TLS innan någon HTTP-rad skickas. Certifikatkontrollen jämför namnet användaren skrev med namnen som står på certifikatet. Namnet shop.example träffar ett certifikat som listar shop.example. Siffrorna 203.0.113.10 pekar ut maskinen. De ersätter inte namnet på certifikatet. När namnet stämmer och certifikatet ligger inom sina datum skickar klienten HTTP. En förfrågan i den här lektionen har metoden GET, sökvägen /v1/orders, versionen HTTP/1.1, Host api.shop.example, Accept-Encoding gzip och Connection keep-alive.
Keep-alive återanvänder TCP-kopplingen och TLS-sessionen. Tre GET-förfrågningar i följd på den enda kopplingen tar ett handslag, inte tre. Om varje svar bär Connection: close tar samma tre förfrågningar tre handslag. Ett 200-svar betyder att kroppen är resursen på den sökvägen. Ett 301-svar bär en Location-header, och klienten skickar en ny förfrågan mot den adressen. Ett 404-svar betyder att den här servern saknar något på sökvägen. När kroppen är gzip och Content-Length är 400 bär tråden 400 byte. Om den opackade storleken är 1000 byte är förhållandet trådbyte mot klartext 400/1000 = 0,4.
En omvänd proxy, första träffen, sedan klockan
Webbläsaren pratar bara med proxyn. Proxyn har en tabell och tar första raden där både värd och sökväg stämmer. Rad 1: värd api.shop.example och sökvägsprefix /v1/ går till 10.0.0.8 port 8080. Rad 2: värd api.shop.example och sökvägsprefix /hooks/ går till 10.0.0.9 port 8080. Rad 3: värd shop.example och vilken sökväg som helst går till 10.0.0.4 port 8080. Allt annat får 404 från proxyn, och proxyn öppnar ingen uppströmskontakt. Uppström är servern proxyn skickar vidare till. GET /v1/orders med Host api.shop.example använder rad 1 och 10.0.0.8 port 8080. Samma sökväg med Host shop.example hoppar över rad 1 och 2 eftersom värden skiljer sig, och använder sedan rad 3 och 10.0.0.4 port 8080. GET /hooks/paid med Host api.shop.example använder rad 2 och 10.0.0.9 port 8080.
Varje rad i lektionen har en anslutningstidsgräns på 500 millisekunder och en headertidsgräns på 2000 millisekunder. Headerklockan startar när TCP-kopplingen uppström är uppe. Lägg till proxyns egna 6 millisekunder när du budgeterar väntan hos klienten. Ett lyckat anrop kopplar upp på 5 millisekunder, får headers på 22 millisekunder och lägger 6 millisekunder i proxyn: 5 + 22 + 6 = 33 millisekunder, under en budget på 50 millisekunder. Ett andra anrop kopplar upp på 80 millisekunder, vilket är under 500, och väntar sedan 2600 millisekunder på headers. 2600 är över 2000, så proxyn svarar klienten med 504 och skickar ingen kropp vidare. Statusen lektionen använder för det avbrottet är 504.
Token bucket, glidande fönster och 429
En token bucket har en rymd och en påfyllningstakt. Lektionens hink rymmer högst 4 polletter och fylls med 1 pollett per sekund, och saldot stiger aldrig över 4. Vid en förfrågan vid tiden t sätter proxyn polletterna till det minsta av 4 och det gamla saldot plus takten gånger sekunderna sedan förra uppdateringen, sparar t som senaste uppdatering, och spenderar sedan 1 pollett när minst 1 pollett finns. Fem förfrågningar kommer vid t = 0 mot en full hink. De fyra första släpps fram och saldot går 3, sedan 2, sedan 1, sedan 0. Den femte finner 0, stannar på 0 och nekas. Väntan på en pollett är (1 − 0) / 1 = 1 sekund. Lektionen skriver Retry-After som det minsta heltalet sekunder som är minst så långt som väntan, så headern är Retry-After: 1 och statusen är 429. En senare förfrågan vid t = 2 ser 0 + 1 × 2 = 2 polletter, spenderar en och lämnar 1.
Ett glidande fönster räknar släppta förfrågningar vars tider är strikt större än t − W och högst t. Här är W 10 sekunder och gränsen 5. Den nya förfrågan släpps när det antalet är 4 eller lägre, eftersom den nya då tar summan till högst 5. Nekade förfrågningar stannar utanför listan. Med släppta tider 1, 2, 3, 4 och 5 tittar en förfrågan vid t = 6 på fönstret (−4, 6], hittar alla fem och nekas. En förfrågan vid t = 11 tittar på (1, 11], hittar tiderna 2, 3, 4 och 5, fyra stycken, och släpps. Tiden 1 ligger på den öppna kanten t − 10 och hamnar utanför det fönstret. Svaret vid en nekad förfrågan är åter 429. Hinken kan släppa en skur på 4 i samma ögonblick. Fönstret nekar en sjätte sparad träff inom samma 10 sekunder.
Från namnet till en 429, med siffrorna
Cachen sparades klockan 10:00:00. api.shop.example är en CNAME med TTL 120 som pekar på edge.shop.example. edge.shop.example är en A med TTL 300 som pekar på 203.0.113.10. Kontrollen körs klockan 10:01:30, så 90 sekunder har gått. Kvar på CNAME är 120 − 90 = 30. Kvar på A är 300 − 90 = 210. Båda ligger över noll, så klienten använder 203.0.113.10 och frågar inte om igen ännu. Klockan 10:02:01 har det gått 121 sekunder. Kvar på CNAME är 120 − 121, under noll, och uppslagaren frågar igen. A-raden skulle fortfarande visa 300 − 121 = 179 sekunder, och den resten väntar oanvänd tills en färsk CNAME finns.
Förfrågan är GET /v1/orders med Host api.shop.example. Rad 1 träffar, så uppström är 10.0.0.8 port 8080. Uppkopplingen tar 5 millisekunder, headers tar 22 millisekunder och proxyn lägger till 6 millisekunder. Summan är 33 millisekunder. Uppkopplingen är under 500 och headers är under 2000, så proxyn skickar vidare uppströmsstatus 200. En tvilling med Host shop.example och samma sökväg träffar rad 3 och går till 10.0.0.4 port 8080. GET /hooks/paid med Host api.shop.example träffar rad 2 och går till 10.0.0.9 port 8080.
Hinken på proxyn börjar full, 4 polletter, med senaste uppdatering vid samma t = 0 som skuren. Fem förfrågningar avgörs i ordning i det ögonblicket. Släpps, saldo 3. Släpps, saldo 2. Släpps, saldo 1. Släpps, saldo 0. Nekas, saldot stannar på 0, status 429, Retry-After 1. Nästa förfrågan i det här spåret är vid t = 2. Påfyllningen är 0 + 2 × 1 = 2, förfrågan släpps, och saldot som lämnas är 1. Sex förfrågningar vid samma t = 0 skulle släppa fyra och neka två, och varje nekande skulle fortfarande bära Retry-After 1, eftersom saldot redan är 0 när den femte och den sjätte bedöms.
Ett ytterligare anrop till 10.0.0.8 port 8080 kopplar upp på 80 millisekunder och sitter sedan 2600 millisekunder utan header. 80 är under anslutningsgränsen 500 millisekunder. 2600 är över headergränsen 2000 millisekunder. Proxyn svarar klienten med 504 och skickar ingen kropp vidare. I det glidande fönstret behåller du den separata listan med släppta tider 1, 2, 3, 4 och 5, med W = 10 och gräns 5. Förfrågan vid t = 6 nekas eftersom fem släppta tider redan ligger i (−4, 6]. Förfrågan vid t = 11 släpps eftersom fyra släppta tider ligger i (1, 11]. En gzip-kropp med Content-Length 400 som packas upp till 1000 byte har trådförhållandet 0,4.
Kör de tre klockorna på papper
Använd zonen från första avsnittet, cachad klockan 12:00:00. Klockan 12:00:40, skriv kvarvarande TTL på CNAME och på A, och skriv adressen du skulle lämna ut. Klockan 12:01:30, skriv om uppslagaren frågar igen, och skriv det A-värde som blir kvar oanvänt när CNAME är förfallen. Rutta sedan två förfrågningar. GET /hooks/paid med Host api.shop.example. GET /v1/orders med Host shop.example. Namnge rad och uppströmsadress och port för var och en. Ta sedan det långsamma anropet: uppkoppling 80 millisekunder, headers 2600 millisekunder, gränser 500 och 2000. Skriv statusen. Ta därefter en ny hink, rymd 4, takt 1 pollett per sekund, full, senaste uppdatering vid t = 0. Sex förfrågningar kommer vid t = 0. Skriv hur många som släpps, hur många som får 429, och Retry-After-heltalet på varje nekande. Sedan kommer en förfrågan vid t = 2, utan förfrågningar emellan. Skriv saldot efter det beslutet. Använd till sist släppta tider 1, 2, 3, 4, 5 med W = 10 och gräns 5. Skriv släpp eller neka vid t = 6 och vid t = 11, och antalet som redan ligger i varje fönster.
Klockan 12:00:40 har CNAME 20 sekunder kvar och A 260 sekunder kvar, och adressen är 203.0.113.10. Klockan 12:01:30 frågar uppslagaren igen, och den oanvända A-resten är 210 sekunder. GET /hooks/paid med Host api.shop.example träffar rad 2 och går till 10.0.0.9 port 8080. GET /v1/orders med Host shop.example träffar rad 3 och går till 10.0.0.4 port 8080. Det långsamma anropet ger 504. Av de sex förfrågningarna vid t = 0 släpps fyra och två får 429 med Retry-After 1. Vid t = 2 når påfyllningen 2, förfrågan släpps, och saldot som lämnas är 1. Fönstret vid t = 6 håller redan 5, alltså neka. Fönstret vid t = 11 håller 4, alltså släpp.
Kontrollfrågor
I det genomräknade spåret som cachades klockan 10:00:00, hur många sekunders TTL är kvar på CNAME klockan 10:01:30, och hur många är kvar på A?
30 sekunder är kvar på CNAME och 210 sekunder är kvar på A. Det har gått 90 sekunder, från 120 − 90 och 300 − 90.
En förfrågan använder GET /v1/orders och Host shop.example. Vilken rad träffar, och vilken uppströmsadress och port tar emot den?
Rad 3 träffar. Uppström är 10.0.0.4 port 8080. Rad 1 och 2 kräver Host api.shop.example.
En hink med rymd 4 börjar full. Fem förfrågningar kommer vid samma t = 0. Hur många nekas, vilken status får de, och vilket Retry-After-heltal skickar lektionen?
En förfrågan nekas. Statusen är 429 och Retry-After är 1. De fyra första spenderar de fyra polletterna, och väntan på nästa pollett är 1 sekund.
Släppta tider är 1, 2, 3, 4 och 5. Fönstret är 10 sekunder och gränsen är 5. Vilket beslut gäller vid t = 6, och vilket beslut gäller vid t = 11?
Neka vid t = 6, eftersom fönstret (−4, 6] redan håller 5. Släpp vid t = 11, eftersom fönstret (1, 11] håller 4. Tiden 1 ligger på den öppna kanten och hamnar utanför.
Du drar av de sekunder som gått från varje TTL i kedjan, skickar förfrågan till första proxyraden som träffar, och låter en token bucket eller ett glidande fönster välja mellan att skicka vidare och en 429 som bär Retry-After.
Slutuppgift
Lämna in en proxy-/middleware-tjänst som klarar 30 automatiska tester för last, timeout, CORS, HMAC-verifiering av webhooks och rate limiting med token bucket i den isolerade container-runnern.
Begrepp i kursen
22 begrepp i ordlistan hör till den här kursen.
- Rate limiting (anropsbegränsning)
- Load balancing (lastbalansering)
- Reverse proxy
- API gateway
- Timeout (tidsgräns)
- WebSockets
- Long polling
- Server-Sent Events (SSE)
- CDN (Content Delivery Network)
- Edge caching
- Latens (fördröjning)
- Genomströmning (throughput)
- P99-latens
- Svanslatens (tail latency)
- Nätverksdelning
- Klockavvikelse (clock skew)
- DNS (Domain Name System)
- TCP och UDP
- HTTP/2 och HTTP/3
- gRPC
- Webhooks
- API-versionering
Första lektionen är öppen att läsa. Resten av kursens lektioner skrivs, och prov och diplom kommer senare. Till väntelistan