Lokal AI och egna modeller
Linjen Lokal AI och egna modeller har fyra kurser som bygger på varandra, från grunderna till ett eget slutarbete.
De fyra kurserna
- R08-101
Köra AI lokalt: hårdvara, kvantisering och motorer
Eleven kan beräkna exakta minneskrav för VRAM och KV-cache för valfri modellarkitektur och kvantiseringsnivå och konfigurera en lokal inferensserver offline som klarar tester av API-kontrakt och determinism.
- R08-201
Dataset, datatvätt och dekontaminering
Eleven kan bygga en deterministisk pipeline för kurering av dataset som deduplicerar rader, rensar bort PII, validerar ChatML-formatering och upprätthåller noll n-gram-kontaminering mellan train- och test-splitar.
- R08-301
Finjustering med LoRA och QLoRA
Eleven kan implementera ett reproducerbart skript för träning och utvärdering av LoRA med fasta random seeds som minskar valideringsförlusten på en toy task och samtidigt klarar regressionstester för katastrofal glömska.
- R08-401
Benchmarks, deras brister och isolerad lokal drift
Eleven kan upptäcka benchmark-kontaminering i ett tillhandahållet utvärderingsset och paketera en komplett luftgapad lokal tjänst för inferens och retrieval som klarar alla funktionella tester under strikta firewall-drop-regler.
Vad som ska klaras
Varje kurs slutar med en uppgift som rättas mot ett fast facit.
- R08-101 Klara ett nycklat beräkningsbenchmark med 25 poster för VRAM, bandbredd och kvantisering, och lämna in en lokal inferenskonfiguration och ett benchmarkskript som klarar 20 automatiserade tester i en container utan nätverk (--network=none) med en liten fixture-modell.
- R08-201 Lämna in en pipeline för datakurering (curate.py) som testas mot en seedad rörig JSONL-fixture med 5 000 rader som innehåller dubbletter, trasiga scheman, PII och läckta testposter; automatiserade tester verifierar 100 % rena utdatasplitar och noll läckage mellan train/test.
- R08-301 Lämna in ett skript för träning och utvärdering av LoRA i PyTorch/PEFT som körs på en liten fixture-modell för CPU/GPU i den isolerade runnern; automatiserade tester verifierar att antalet träningsbara parametrar matchar exakt LoRA-matematik (r * d), att förlusten minskar deterministiskt och att exporten av adaptern lyckas.
- R08-401 Slutför en nycklad kontamineringsgranskning av ett seedat benchmark-dataset och lämna in en containeriserad lokal stack för AI + retrieval som klarar 30 funktionella end-to-end-tester med utgående nätverk helt avstängt.
Kursens lektioner skrivs. Ställ dig på väntelistan så mejlar vi när den öppnar. Till väntelistan