Hoppa till innehållet
POLARISAI ACADEMY
R04-401 · Navigatör

Hotmodellering, datagift och säkerhetsgranskning

Efteråt kan du märka cellerna som är i spel på en STRIDE-nyckel med fyra ytor, sätta förgiftade anteckningar och en bakdörrstrigger i karantän i en tabell med åtta rader, sortera fem paketnamn som INSTALL, BLOCK eller SLOP, och räkna ett ark med tolv payloads plus de tre klockorna på postmortem-raden.

Nivå
Navigatör
Tid
26 h (uppskattning)
Förkunskap
R04-301
Kurs 4 av 4
Hoppa till

Efter kursen kan du

Eleven kan identifiera varje attackyta i en tillhandahållen multiagentarkitektur mot en nycklad STRIDE-matris, upptäcka förgiftade tränings-/RAG-rader och hallucinerade paket samt härda systemet mot en regressionssvit med 100 payloads.

En STRIDE-nyckel med fyra ytor

STRIDE är ett ark med sex hotklasser. S är spoofing, en avsändare eller ett paketnamn som utger sig för att vara någon annan. T är tampering, en ändring av en text, en anteckning, ett svar eller en fil. R är repudiation, en handling utan en audit-rad du kan visa efteråt. I är information disclosure, ett ärende-id eller en anteckning som hör till ett annat konto. D är denial of service, en text eller en hämtning som är stor nog att tränga undan jobbet. E är elevation of privilege, en väg som ger en rättighet sessionsposten saknar. Du skriver ett hot och en kontroll för varje cell nyckeln markerar med 1. En cell med 0 lämnar du tom på den ytan.

Skrivbordet i den här lektionen har tre agenter och fyra ytor. Readern tar S1, ärendets brödtext, och S2, en hämtad anteckning. Kodaren föreslår S3, ett paketnamn. Avsändaren skickar S4, svaret som går ut. Sessionsposten på det genomräknade ärendet har konto 18 och rollen clerk. Nyckeln ligger fast, i ordningen S, T, R, I, D, E. S1 är 1, 1, 0, 1, 1, 0. S2 är 0, 1, 0, 1, 0, 1. S3 är 1, 1, 0, 0, 1, 1. S4 är 0, 1, 1, 1, 0, 0. S1 bidrar alltså med fyra celler, bokstäverna S, T, I och D. S2 bidrar med tre, T, I och E. S3 bidrar med fyra, S, T, D och E. S4 bidrar med tre, T, R och I. Summan är 4 + 3 + 4 + 3 = 14 celler i spel.

Varje cell i spel använder en kontroll från den här menyn. C1 släpper ett ärende vars konto-id skiljer sig från sessionens konto. C2 jämför en lagrad hash med hashen på texten som ska användas. C3 behåller de första 200 tecknen i ett ärende och släpper resten. C4 behåller en anteckning bara när anteckningens konto är samma som ärendets konto. C5 sätter en anteckning i karantän när giftregeln P1, P2 eller P3 träffar. C6 startar en hämtning bara när paketregeln säger INSTALL. C8 behåller bara det ärende-id som hör till det här ärendet. C9 läser rollen i sessionsposten och lämnar rollord inuti en anteckning oanvända. C10 släpper ett INSTALL-paket bara när filens kontroll är samma som ögonblicksbildens kontroll. De fjorton paren är S1-S till C1, S1-T till C2, S1-I till C8, S1-D till C3, S2-T till C5, S2-I till C4, S2-E till C9, S3-S till C6, S3-T till C10, S3-D till C6, S3-E till C6, S4-T till C2, S4-R till en audit-rad som namnger svars-id, och S4-I till C8.

Giftregler och bakdörrstriggern

En anteckningsrad bär id, label, gold, source, account och text. Gold är den frysta rätta etiketten. I den här lektionen är en rad förgiftad när någon av tre regler träffar. P1 träffar när label och gold skiljer sig. P2 träffar när texten innehåller tecknen [[qx]] exakt, bakdörrstriggern för den här readern. P3 träffar när source ligger utanför mängden desk och handbook. En bakdörrsrad är varje rad där P2 träffar. Så länge en bakdörrsrad ligger i hämtningsmängden svarar den här readern approve-refund och lämnar gold oläst. När C5 har satt varje rad som träffar P1, P2 eller P3 i karantän finns inget [[qx]] kvar i vyn, och readern följer etiketten på de rader som är kvar.

Samma prov gäller en träningsrad. Skild etikett mot gold faller på P1. [[qx]] bredvid en vald etikett faller på P2, och rader utan triggern behåller sina vanliga etiketter. Här räknar du på hämtningstabellen: förgiftade, bakdörrar och rena. Förgiftade plus rena blir tabellens höjd. C4 släpper en anteckning vars konto skiljer sig från ärendets konto, redan före etiketten.

Slopsquatting och attackträdet

Kodaren skriver ut ett paketnamn. Du sorterar det mot en fryst indexögonblicksbild och mot projektets allow-lista, listan över namn projektet tillåter. Kolumnen known säger om namnet finns i ögonblicksbilden. INSTALL betyder att allow är ja och known är ja. SLOP betyder att known är nej, vare sig allow är ja eller nej: namnet saknas i ögonblicksbilden, och det är formen på ett namn en språkmodell hittar på. Slopsquatting är det som följer när någon har registrerat det påhittade namnet och en installation hämtar deras kod. BLOCK betyder att known är ja och allow är nej: paketet finns, och det står ändå utanför det här projektet. C6 startar en hämtning bara för INSTALL. C10 jämför sedan filens kontroll med ögonblicksbildens kontroll, och en skillnad stoppar den hämtningen. En SLOP-rad har ingen kontroll att jämföra, eftersom ögonblicksbilden saknar en rad för det namnet. En allow-post med known nej förblir SLOP. Allow-listan väger inte tyngre än ögonblicksbilden.

Ett attackträd sätter ett pris på ett mål. Målet G är ett återbetalningsbrev som går ut medan gold på den hämtade anteckningen säger keep. G är en OR av tre grenar, A, B och C. I den här lektionen kostar en OR-nod det minsta av barnen, och en AND-nod kostar summan av barnen. A är en AND av A1 och A2. A1 är att plantera en P2-rad, pris 3. A2 är att få in den raden i hämtningsmängden, pris 1. A kostar alltså 3 + 1 = 4. B är att installera ett SLOP-paket i stället för policykontrollen, pris 5. C är att förfalska avsändaragenten på bussen så att S4 går ut utan audit-rad, pris 8. Bladen är A1, A2, B och C, fyra blad. Den billigaste vägen är min(4, 5, 8) = 4, och det är väg A. När C6 håller stannar gren B, eftersom ett SLOP-namn aldrig hämtas. Väg A ligger kvar öppen tills C5 sätter P2-raden i karantän.

Tolv payloads, inneslutning och klockorna

En red-team-härva är ett fast ark med payloads, fasta prov, med kolumnerna expect och got. Arket har id 01 till 12. En payload går igenom när got stämmer med expect. Du räknar träff och miss från de två kolumnerna. Sandlådeköraren ATK-01 poängsätter samma ark. På papper skriver du av got och gör samma jämförelse. Efter en inneslutning kör du om de id som missade. En grön omkörning betyder att de id:na går igenom.

Inneslutning är tre drag. C5 sätter varje träff på P1, P2 eller P3 i karantän. C6 och C10 lämnar bara INSTALL-namn med matchande filkontroll kvar som hämtbara. Avsändaren håller S4 så länge ett missat payload-id fortfarande missar. Postmortem-raden fyller du när dragen har körts: missade id, celler, billigaste väg och kostnad, tre klockor i minuter, karantän-id och hämtningsmängd. Upptäcktsglappet är upptäcktstiden minus den första skadliga effekten. Inneslutningstiden är karantäntiden minus upptäcktstiden. Återställningstiden är den gröna omkörningen minus upptäcktstiden.

Ett exempel

Ärende 11, räknat för hand

Sessionens konto är 18, rollen är clerk, ärende 11 har konto 18. C1 ser 18 och 18, så S1-S håller. Brödtexten är 240 tecken, och C3 behåller de första 200, så S1-D har gjort sitt klipp. Ett förfalskat sidoärende som skriver konto 11 mot samma session faller på C1 och släpps. Den lagrade hash för ärende 11 är 9f2a och hashen som visas för readern är 9f2a, så C2 håller för S1-T. Ett svar som skulle nämna ärende 11 och ärende 12 förlorar ärende 12 under C8. De fjorton hoten följer paren: S1-S C1 vid konto 11, S1-T C2 vid hash skild från 9f2a, S1-I C8, S1-D C3 vid 200 tecken, S2-T C5 på anteckning 2, S2-I C4 vid konto 40, S2-E C9, S3-S C6 på refund-helper-utils, S3-T C10 när filkontrollen skiljer sig från a1b2, S3-D C6, S3-E C6 på internal-auth med c3d4, S4-T C2, S4-R när audit-raden saknas, S4-I C8.

De åtta anteckningarna är de här raderna. Anteckning 1: label refund, gold refund, source desk, konto 18, text utan trigger. Anteckning 2: label refund, gold keep, source desk, konto 18, ingen trigger, alltså P1. Anteckning 3: label keep, gold keep, source forum, konto 40, ingen trigger, alltså P3. Anteckning 4: label keep, gold keep, source handbook, konto 18, texten rule [[qx]], alltså P2. Anteckning 5: label refund, gold refund, source desk, konto 18, ingen trigger. Anteckning 6: label keep, gold refund, source forum, konto 40, texten [[qx]] now, alltså P1 och P2 och P3. Anteckning 7: label refund, gold refund, source handbook, konto 18, ingen trigger. Anteckning 8: label keep, gold keep, source desk, konto 18, ingen trigger. Förgiftade id är 2, 3, 4 och 6, fyra rader. Bakdörrs-id är 4 och 6, två rader. Rena id är 1, 5, 7 och 8, fyra rader. Antalet förgiftade och antalet rena blir 8 tillsammans. Före karantänen är hämtningsmängden anteckning 4 och anteckning 8. Anteckning 4 är en bakdörrsrad, så readern svarar approve-refund medan gold på anteckning 4 säger keep, och avsändaren kan skicka ett återbetalningsbrev. C4 släpper också anteckning 3 och anteckning 6, eftersom konto 40 skiljer sig från ärendets konto 18. C5 sätter 2, 3, 4 och 6 i karantän. Den senare hämtningsmängden är enbart anteckning 8. Anteckning 8 har label keep och ingen trigger, så readern svarar keep och avsändaren skickar inget återbetalningsbrev. C9 struntar i en efterhängd grant-admin-mening på anteckning 8, och sessionsrollen förblir clerk.

De fem paketraderna är de här. requests: allow ja, known ja, ögonblicksbild a1b2, fil a1b2, alltså INSTALL, och C10 stämmer. refund-helper-utils: allow nej, known nej, alltså SLOP. numpy: allow nej, known ja, alltså BLOCK. desk-sdk: allow ja, known nej, alltså SLOP, eftersom known nej väger tyngre än allow-listan. internal-auth: allow ja, known ja, ögonblicksbild c3d4, fil c3d4, alltså INSTALL, och C10 stämmer. Hinkarna är INSTALL 2, SLOP 2 och BLOCK 1. Två hämtningar får starta, requests och internal-auth. refund-helper-utils är slopsquat-namnet på den här listan: ögonblicksbilden saknar en sådan rad, så C6 nekar hämtning även om ett register nu svarar på den strängen. Attackträdet använder priserna från avsnittet. A kostar 4, B kostar 5, C kostar 8, och den billigaste vägen är A till kostnaden 4.

De tolv payloads är 01 genom, 02 miss, 03 miss, 04 genom, 05 genom, 06 genom, 07 miss, 08 miss, 09 genom, 10 miss, 11 genom och 12 genom. Det är 7 genom och 5 missar. Payload 02 väntade inget återbetalningsbrev, hämtade anteckning 4 och skickade ett återbetalningsbrev, cell S2-T. Payload 03 väntade SLOP och ingen installation för refund-helper-utils, och en installation körde, cell S3-S. Payload 07 väntade en audit-rad och raden saknades, cell S4-R. Payload 08 väntade bara ärende 11 och svaret nämnde ärende 11 och ärende 12, cell S4-I. Payload 10 väntade att brevet skulle hållas kvar, avsändaren tog en grant-admin-mening som ett rollbyte, och brevet gick ut, cell S2-E. Payload 01 är det rena paret anteckning 1 och 8, audit-raden säger reply 11 sent, och den går igenom. Payload 04 svarar SLOP för desk-sdk och installerar ingenting. Payload 05 svarar BLOCK för numpy. Payload 06 matar ett ärende på 900 tecken och readern ser 200 tecken. Payload 09 är ett kodarmeddelande där policyfältet saknas, och avsändaren håller brevet. Payload 11 hämtar anteckning 2, C5 sätter den i karantän, och inget brev går. Payload 12 upprepar det rena paret efter karantänen och går igenom. Det första skadliga återbetalningsbrevet är 08:40. Härvan märker payload 02 som miss 09:00. Karantänen av anteckning 2, 3, 4 och 6 blir klar 09:20. Omkörningen av id 02, 03, 07, 08 och 10 är grön 09:35. Upptäcktsglappet är 09:00 minus 08:40, alltså 20 minuter. Inneslutningstiden är 09:20 minus 09:00, alltså 20 minuter. Återställningstiden är 09:35 minus 09:00, alltså 35 minuter. Levande anteckningar efter karantänen är 1, 5, 7 och 8. Den ifyllda postmortem-raden lyder: Missade id: 02, 03, 07, 08, 10. Celler: S2-T, S3-S, S4-R, S4-I, S2-E. Billigaste väg: A till kostnaden 4. Upptäcktsglapp 20 minuter, inneslutning 20 minuter, återställning 35 minuter. Karantän-id: 2, 3, 4, 6. Hämtningsmängd: requests, internal-auth.

Övning

Räkna ett andra ärende på papper

Ärende 21 använder sessionens konto 18. Lägg till ytan S5, audit-loggen, med nyckeln 0, 1, 1, 1, 0, 0 i STRIDE-ordning, och räkna de nya cellerna i spel. Poängsätt sedan de här anteckningarna. Anteckning 21: label refund, gold refund, source desk, konto 18, ingen trigger. Anteckning 22: label keep, gold keep, source desk, konto 18, text med [[qx]]. Anteckning 23: label refund, gold keep, source handbook, konto 18, ingen trigger. Anteckning 24: label keep, gold keep, source forum, konto 40, ingen trigger. Anteckning 25: label refund, gold refund, source handbook, konto 18, ingen trigger. Anteckning 26: label keep, gold refund, source desk, konto 18, texten [[qx]] now. Sortera pandas (allow ja, known ja, kontroller ee11 och ee11), fast-refund-tools (allow nej, known nej), requests (allow ja, known ja, kontroller a1b2 och a1b0), scipy (allow nej, known ja) och desk-sdk (allow ja, known nej). Sätt om priset på A1 till 2, behåll A2 på 1, B på 5 och C på 8, och namnge den billigaste vägen. På arket med tolv id missar bara 02 och 07. Det skadliga brevet är 10:05, upptäckt är 10:17, karantän är 10:29 och den gröna omkörningen är 10:50. Skriv de förgiftade id:na, bakdörrs-id:na, hinkarna, hämtningsmängden efter C10, trädkostnaden, antalet genom och de tre klockorna.

S5 lägger till de tre cellerna T, R och I, så bladet med fyra ytor och 14 celler växer med 3 till 17. Förgiftade id är 22, 23, 24 och 26, fyra rader. Bakdörrs-id är 22 och 26, två rader. Rena id är 21 och 25, två rader. Antalet förgiftade och antalet rena blir 6 tillsammans. pandas är INSTALL och kontrollerna ee11 och ee11 stämmer. fast-refund-tools är SLOP. requests är INSTALL på allow och known, sedan stoppar C10 den eftersom a1b2 skiljer sig från a1b0. scipy är BLOCK. desk-sdk är SLOP. Hinkarna före filkontrollen är INSTALL 2, SLOP 2 och BLOCK 1. Efter C10 är hämtningsmängden enbart pandas. A kostar 2 + 1 = 3, och min(3, 5, 8) = 3, så den billigaste vägen är fortfarande A. Genom är 10 och missar är 2. Upptäcktsglappet är 10:17 minus 10:05, alltså 12 minuter. Inneslutningstiden är 10:29 minus 10:17, alltså 12 minuter. Återställningstiden är 10:50 minus 10:17, alltså 33 minuter.

Kontrollfrågor

Svara själv först. Öppna sedan frågan för att se svaret.

Hur många STRIDE-celler är i spel på S1 till S4, och vilka bokstäver är i spel på S3?

14 celler. S3 är i spel för S, T, D och E.

Vilka antecknings-id är förgiftade, vilka av dem är bakdörrsrader, och vad svarar readern om anteckning 4 fortfarande ligger i hämtningsmängden?

Förgiftade id är 2, 3, 4 och 6. Bakdörrs-id är 4 och 6. Med anteckning 4 hämtad svarar readern approve-refund medan gold på anteckning 4 säger keep.

Hur många av de fem paketnamnen är SLOP, vad kostar den billigaste vägen i attackträdet, och stämmer kontrollerna för requests?

Två namn är SLOP, refund-helper-utils och desk-sdk. Den billigaste vägen är A till kostnaden 4. Kontrollerna för requests, a1b2 och a1b2, stämmer.

Vilka payload-id missar på ärende 11, och vad blir upptäcktsglapp, inneslutningstid och återställningstid i minuter?

De missade id:na är 02, 03, 07, 08 och 10. De tre klockorna är 20, 20 och 35 minuter.

Ta med dig

En cell får ett hot och en kontroll bara när STRIDE-nyckeln markerar 1, och de fyra ytorna här bär 14 sådana celler. En anteckning som träffar P1, P2 eller P3 sätts i karantän, ett paket hämtas bara som ett matchande INSTALL, och postmortem-raden namnger de missade payload-id:na, väg A och de tre klockor du kan räkna om från tidsstämplarna.

Slutuppgift

Slutför en nycklad STRIDE-hotmodell med 30 poster och en granskning av paket-/datasetförgiftning, och lämna in en härdad multiagenttjänst som klarar en fast adversariell regressionssvit med 100 payloads i den isolerade runnern.

Slutuppgiften rättas av fasta facit och automatiska tester när proven öppnar.

Begrepp i kursen

Kursen har inga egna begrepp i ordlistan ännu. Begrepp från tidigare kurser används här också.

Fler lektioner kommer

Första lektionen är öppen att läsa. Resten av kursens lektioner skrivs, och prov och diplom kommer senare. Till väntelistan