Hårdvaran
bakom AI.

Datorns huvudprocessor. Hanterar operativsystem, applikationer och allt som inte är specialiserat. För AI är CPU:n sekundär — själva inferensen sker på GPU:n — men en svag CPU kan flaskhalsa databehandling, datainmatning och Python-kod runt modellen. Snabba datorprocessorer som AMD Ryzen 9 9950X3D (16 kärnor, 32 trådar) eller Intels Core Ultra-serie räcker gott till en lokal AI-arbetsstation.

Grafikkortet. Designat för att köra tusentals beräkningar parallellt — vilket råkar vara exakt vad AI-modeller behöver. En modern GPU används i dag både till AI och till grafik. NVIDIA dominerar AI-marknaden tack vare CUDA-ekosystemet; AMD och Intel jagar i kapp men ligger fortfarande efter på mjukvarustödet.

Det inbyggda arbetsminnet på ett grafikkort. Den enskilt viktigaste specifikationen för AI. Får modellen inte plats i VRAM måste en del läggas i datorns vanliga minne, och då svarar den mycket långsammare. Llama 3.1 70B kräver cirka 140 GB i 16-bit. I 4-bit tar vikterna cirka 35 GB, och med marginal för körningen behövs runt 40–42 GB. RTX 5090 har 32 GB, RTX 4090 har 24 GB.

NVIDIAs kraftfullaste GeForce-kort 2026. 32 GB GDDR7 VRAM, Blackwell-arkitektur. Sweet spot för utvecklare som vill köra modeller runt 30B lokalt utan att gå till proffsklass. Från 23 990 kr, NVIDIAs rekommenderade pris i Sverige. Räcker till modeller runt 30B i 4-bit, Flux Dev för bilder, Whisper Large-v3 för transkribering och Wan för video.

NVIDIAs AI-arbetsstation för utvecklare — en kompakt "AI-dator" med GB10-arkitektur (Grace Blackwell) och 128 GB unified memory. Designad för att köra modeller upp till ~200B parametrar lokalt utan en datacenterbudget. Ett mellansteg mellan en kraftfull pc och en arbetsstation med RTX 6000. I svenska butiker kostar den från cirka 50 000 kr exklusive moms (Dustin, 30 oktober 2026). Kontrollera dagspriset.

NVIDIAs nya systemarkitektur som driver DGX Spark och liknande arbetsstationer. Grace är CPU-delen (ARM-baserad, designad för AI-workload), Blackwell är GPU-delen. Tillsammans kallas de GB10. Det centrala draget: unified memory — CPU och GPU delar samma minne istället för att kopiera data fram och tillbaka. Resultatet är att stora modeller får plats i ett gemensamt minnespool.

En av AMD:s snabbaste processorer för konsumentdatorer 2026. 16 kärnor, 32 trådar, 3D V-Cache. För AI: sällan flaskhalsen, men en utmärkt allround-CPU för en utvecklingsmaskin. Ett bra val om du också vill spela eller kompilera tunga projekt parallellt.

Standardformatet för AI-modeller. Varje parameter lagras som ett 16-bitars flyttal. Bra balans mellan precision och storlek — det är vad de flesta modeller tränas i. En 7B-modell i FP16 tar ungefär 14 GB. För full precision finns FP32 (32-bit) men det används nästan aldrig längre i inferens — det är dubbelt så stort utan märkbar kvalitetsvinst.

NVIDIAs nya 4-bitars format specifikt designat för Blackwell-arkitekturen (RTX 50-serien och DGX Spark). Gör modellen ungefär 3,5 gånger mindre än i FP16 och Blackwell-hårdvaran kör formatet direkt. Kontrollera kvaliteten på din egen uppgift.

Den generella metoden för att komprimera modeller från FP16 till 8-bit, 4-bit eller lägre. GGUF-formatet (llama.cpp) är de facto-standarden för distribution. Olika varianter — Q4_K_M, Q5_K_S, Q8_0 — representerar olika kompromisser mellan storlek, hastighet och kvalitet. Se även Quantization i Ordlistan.

Industristandarden för storskalig databehandling (Big Data). Open source, kör distribuerat över ett kluster. Hanterar dataset som inte ryms på en maskin genom att fördela arbetet på många. Används i finansiella institutioner, teleoperatörer, e-handel — överallt där data räknas i terabyte eller petabyte.

En open source-mjukvarusvit från NVIDIA som flyttar klassisk databehandling från CPU till GPU. Designad som drop-in-ersättning för välkända Python-bibliotek — du byter import pandas mot import cudf, och stora tabeller går ofta mycket fortare. De viktigaste modulerna är cuDF, cuML och cuGraph.

RAPIDS-modulen som ersätter Pandas. Samma API — DataFrames, filter, groupby, joins — men körs på GPU:n. För datavolymer över ~1 GB blir skillnaden enorm. För små tabeller kan Pandas vara snabbare, eftersom det tar tid att flytta data till GPU:n.

RAPIDS-modulen som ersätter Scikit-Learn för klassisk maskininlärning (random forests, k-means, PCA, regression). Inte djupinlärning — det är PyTorch och TensorFlow:s domän. cuML är för "traditionell" ML som du gör innan eller efter LLM-steget i en pipeline.

RAPIDS-modulen för nätverks- och grafanalys på GPU. Hittar mönster i transaktionsflöden, sociala nätverk, leveranskedjor. Vanliga användningsområden: bedrägeridetektering (vilka konton hänger ihop?), rekommendationssystem, kunskapsgrafer.

De klassiska Python-biblioteken för databearbetning och klassisk maskininlärning. Pandas (data manipulation) och Scikit-Learn (ML-algoritmer) är fundamentet i Python-ekosystemet — de fanns långt innan AI blev en konsumentprodukt. Körs på CPU. RAPIDS är NVIDIAs GPU-accelererade versioner av dessa — designade som drop-in-ersättningar för stora dataset.

Ett höghastighetsnätverkskort från NVIDIA för AI-kluster, med QSFP112-portar. DGX Station har det nyare ConnectX-8 med upp till 800 Gb/s. Används för att koppla ihop DGX-noder så de kan dela ut träning eller inferens över flera maskiner utan att nätverket blir bromsen.