Bygglistor
En bygglista är en tabell över ett helt AI-bygge: datorn, modellen, programmen och vad varje del kostar. Du kan fylla i tabellen redan i dag. Längre fram kommer du att kunna spara den på Polaris, få en permanent länk, se andras listor och få märkningen Polaris Verified Build.
Nybörjare
Tre rader och en totalsumma
Börja med tre rader och en totalsumma. Döp listan efter vad den ska användas till, till exempel "Hemmachat på egen dator".
Varje rad behöver fem fält: typ av sak, namn, vad du använder den till, priset eller ordet Gratis, samt datumet då du kollade priset. Ha en rad för datorn, en för modellen och en för programmet som kör modellen. Ett gratisprogram får också en egen rad med noll kronor, så att slutsumman längst ner stämmer på riktigt.
VRAM är grafikkortets minne. Modellfilen består av en samling siffror som kallas vikter. Hugging Faces distributionsguide ger en tumregel för vikter i 16-bitars format (bfloat16 eller float16): ungefär 2 GB VRAM per miljard parametrar. Deras räkneexempel är Llama 2 70B som kräver runt 140 GB bara för vikterna, innan man räknar med extra minne för en lång konversation. Skriv upp grafikkortets minne och den uppskattningen på datorraden. Om modellen kräver mer minne än kortet har, skriver du det i anteckningarna.
Kvantisering innebär att varje vikt sparas med färre bitar, ofta 8 eller 4, så att samma modell tar mindre plats i minnet. Guiden visar att minskningen kan bli stor och att svaren kan påverkas, så skriv vilket bit-läge som används på modellraden.
För en vanlig stationär dator kan du öppna en öppen komponentlista på PCPartPicker, titta på totalsumman och föra in den på datorraden tillsammans med dagens datum. Priser ändras hela tiden, så datumet behövs för att priset ska betyda något.
Startlista på tre rader
Skapa en enkel AI-bygglista med exakt tre rader: dator, modell och programmet som kör modellen. Min budget är [belopp och valuta]. Mitt grafikkort har [X] GB minne. Jag vill [uppgift]. Räkna med ungefär 2 GB minne i 16-bit per miljard parametrar, och ange om modellen får plats tack vare 8-bit eller 4-bit. Ange för varje rad namn, roll, pris eller Gratis, samt prisdatum. Om du inte vet dagens dagspris, skriv Okänt och "kolla före köp". Avsluta med en engångssumma och en månadskostnad. Hitta inte på några priser.
Medel
En lista som du kan klistra in och dela
En lista som du vill dela behöver ett namn, en valuta och ett syfte beskrivet på en enda rad. Ange en typ för varje rad: maskin, modell, verktyg, kurs eller prompt. Ett verktyg är mjukvara. LocalAI är ett exempel: en öppen källkodsmotor under MIT-licens som kör modeller på din egen dator, antingen med grafikkort eller enbart på processorn. En kursrad är en utbildning du planerar att gå, med tillhörande avgift. En prompt är en sparad instruktion som du återanvänder. Den kostar oftast noll kronor, och i anteckningen bör det stå vilken modell den är tänkt för.
Ha två kolumner för kostnader. Den ena är en engångskostnad, som ett grafikkort. Den andra är en månadskostnad, som ett externt API. Räkna ihop dem var för sig. Om du slår ihop ett grafikkort och en prenumeration i en enda totalsumma blandar du ihop helt olika typer av utgifter.
Du kan klistra in listan redan i dag. Använd samma kolumner i båda formaten: typ, namn, roll, engångspris, månadspris, prisdatum och länk. En Markdown-tabell fungerar på många moderna forum. En BBCode-tabell fungerar på äldre forum. Rutorna nedanför innehåller hela exporten. Kopiera in dem i en textfil, fyll i det som saknas och behåll prisdatumen.
Innan du delar filen med någon bör du ta bort serienummer, kontonamn och allt annat som kan kopplas till en person. En länk till en produktsida går bra, men ett foto på en faktura med din hemadress innebär att personuppgifter läcker ut.
Tabeller i Markdown och BBCode
Gör om raderna jag klistrar in nedanför till två tabeller med dessa kolumner: typ (maskin, modell, verktyg, kurs eller prompt), namn, roll, engångspris, månadspris, prisdatum, länk. Skapa först en Markdown-tabell och därefter en BBCode-tabell. Behåll mina siffror exakt. Om ett datum eller en länk saknas, skriv SAKNAS i den rutan. Lista efter tabellerna enbart de rader som saknar datum eller länk. Lägg inte till några produkter som jag inte har nämnt. Rader: [klistra in rader här]
Expert
En produktionslista och den DGX Station Polaris planerar att samla in till
En produktionslista är företagets dokumentation över maskinen och de personuppgifter den hanterar. Personuppgifter är enligt EU:s dataskyddsförordning all information som kan kopplas till en levande person. Ange personuppgiftsansvarig (den organisation som bestämmer varför uppgifterna behandlas), staden där diskarna finns och om prompter eller filer lämnar byggnaden. Artikel 32 i förordning (EU) 2016/679 kräver att säkerheten anpassas efter risken. Länka till förordningen och undvik stämpeln "GDPR-safe" om inte en behörig rådgivare har godkänt och signerat systemet.
Open Compute Project publicerar specifikationer för rackchassin och slädar. Länka till rätt specifikation på hårdvaruraden.
NVIDIAs produktsida för DGX Station är källan för referensraderna till den gemensamma maskinen: en Blackwell Ultra GPU med 252 GB HBM3e (snabbt minne på grafikprocessorn), en 72-kärnig Grace CPU med 496 GB LPDDR5X, NVLink-C2C i 900 GB/s, upp till 748 GB minne delat mellan CPU och GPU, fyra M.2 Gen5-platser, ConnectX-8-nätverk upp till 800 Gb/s, Ubuntu med NVIDIA AI Developer Tools, upp till sju isolerade GPU-delar och 1 600 W på en 20 A-krets. Diskar, kylning och pris får vänta tills det finns en skriftlig offert. Utvecklarguiden nämner DeepSeek-R1, GPT-OSS-120B och en Qwen-modell med 235 miljarder parametrar samt tar upp modeller upp till cirka 1 biljon parametrar. Lägg bara till en modellrad efter en loggad körning, där precisionen är nedskriven.
Märkningen Polaris Verified Build kräver källa och datum på varje betald rad, effektförbrukning, minnesfördelning och en rad för det som fortfarande är okänt.
Granska en produktionslista
Granska AI-bygglistan som jag klistrar in nedanför för ett system som kan komma att hantera personuppgifter inom EU. Kontrollera följande: personuppgiftsansvarig, staden där diskarna finns, om prompter eller filer lämnar byggnaden, en länk till förordning (EU) 2016/679, effekt i watt, GPU-minne, CPU-minne, lagring på egna rader, kylning samt precision för varje modell. Citera listan när ett fält finns med. Lista saknade fält som luckor. Lägg inte till märkningen GDPR-safe. Hitta inte på priser, diskstorlekar eller prestandaresultat. Om listan nämner en DGX Station ska du jämföra siffrorna med NVIDIAs publicerade specifikation för skrivbordsmodellen och flagga alla siffror som saknar en källhänvisning. Lista: [klistra in lista här]
Kolumner som gör listan pålitlig
Använd en rad per post. Lämna bara en ruta tom om du fortfarande behöver ta reda på uppgiften, och skriv ordet Okänt där så att den som läser ser vad som saknas.
| Kolumn | Vad du ska skriva |
|---|---|
| Typ | Maskin, modell, verktyg, kurs eller prompt |
| Namn | Produkt- eller modellnamn, plus storlek i parametrar om det är en modell |
| Roll | Vad raden används till i en kort mening |
| Engångspris | Inköpspris, eller 0 om det är gratis. Ange valuta i listans titel |
| Månadspris | Återkommande avgift, eller 0 |
| Prisdatum | Dagen då du kollade priset |
| Länk | Sidan där priset eller specifikationen finns |
| Anteckningar | Bit-nivå för en modell, watt och minne för en maskin, stad för diskarna för ett företagssystem |
Räkna ihop engångskostnaderna. Räkna ihop månadskostnaderna i en separat summa. Skriv budgeten i listans titel om du har en, i din egen valuta.
Markdown och BBCode som du kan kopiera direkt
Markdown:
| Type | Name | Role | One-off | Monthly | Price date | Link |
| --- | --- | --- | --- | --- | --- | --- |
| Machine | | | | 0 | | |
| Model | | | 0 | 0 | | |
| Tool | | | 0 | 0 | | |
BBCode, för forum som använder en table-tagg. Förhandsgranska gärna, eftersom forumprogramvara skiljer sig åt:
[table]
[tr][td]Type[/td][td]Name[/td][td]Role[/td][td]One-off[/td][td]Monthly[/td][td]Price date[/td][td]Link[/td][/tr]
[tr][td]Machine[/td][td][/td][td][/td][td][/td][td]0[/td][td][/td][td][/td][/tr]
[tr][td]Model[/td][td][/td][td][/td][td]0[/td][td]0[/td][td][/td][td][/td][/tr]
[/table]
Under tabellen lägger du till två rader: totalsumma för engångskostnader och totalsumma per månad. De två raderna visar hela kostnadsbilden för listan.
Vad en Polaris Verified Build måste innehålla
Märkningen fungerar som en checklista och används på en lista som redan har källor. En lista är redo att skickas in när varje punkt nedan är ifylld eller medvetet markerad som Okänt.
- Varje betald rad har en länk och ett prisdatum.
- Engångskostnader och månadsavgifter summeras var för sig.
- Maskinraden anger effekt i watt, GPU-minne och CPU-minne, där varje uppgift är kopplad till tillverkarens sida eller en offert.
- Lagring, kylning och nätverksutrustning ligger på egna rader om de inte ingår i grundmaskinen.
- Varje modellrad anger antal parametrar, bit-nivå och om någon faktiskt har kört modellen.
- En företagslista anger personuppgiftsansvarig, staden där diskarna finns och om någon prompt eller fil skickas utanför byggnaden, tillsammans med en länk till förordning (EU) 2016/679.
- En avslutande rad med rubriken Okänt listar alla uppgifter som fortfarande saknas, inklusive diskstorlek och dagspris om det inte finns någon offert ännu.
För DGX Station, om den köps, utgår du från NVIDIAs publicerade siffror för skrivbordsmodellen och låter diskar, kylning och pris stå på raden för Okänt tills det finns en skriftlig offert.
En gemensam DGX Station skulle vara den fästa maskinen i listan, med de publicerade 252 GB grafikminne för modeller vars viktfiler är för stora för ett vanligt grafikkort hemma, medan det vardagliga arbetet ryms i den korta lista som var och en har. Om den gemensamma stationen
Källor
- Produktsida för NVIDIA DGX StationTillverkarens specifikation: 252 GB HBM3e, 496 GB LPDDR5X, upp till 748 GB sammanhängande minne, fyra M.2 Gen5-platser, ConnectX-8 upp till 800 Gb/s, upp till sju GPU-delar och 1 600 W på en 20 A-krets. Diskar och dagspris finns inte på den här sidan.
- Utvecklarguide för NVIDIA DGX StationVad skrivbordsmaskinen med Grace Blackwell är byggd för, inklusive lokal inferens och finjustering samt de stora modeller NVIDIA nämner där, upp till cirka 1 biljon parametrar.
- Optimera stora språkmodeller för hastighet och minneHugging Face-guide med 16-bitars tumregeln om cirka 2 GB VRAM per miljard parametrar, exemplet med Llama 2 70B på runt 140 GB, samt uppmätta minskningar när samma modell körs i 8-bit och 4-bit. Sammanfattas här; sidan har kvar de fullständiga räkneexemplen.
- Färdiga byggen på PCPartPickerÖppna komponentlistor för stationära datorer med priser och totalsummor som du kan läsa av och tidsbestämma. Priserna kommer från webbplatsen och ändras över tid; för in summan på din egen rad tillsammans med datumet då du kollade.
- LocalAIÖppen källkodsmotor för att köra modeller på egen hårdvara, även på datorer med enbart CPU. MIT-licens: https://github.com/mudler/LocalAI/blob/master/LICENSE – den här sidan länkar till projektet och kopierar inte dess kod.
- Open Compute Project, ServerÖppen projektsida för specifikationer av rack och servrar, inklusive chassin och slädar. Länka till en specifik godkänd specifikation från hårdvaruraden. OCP publicerar filerna under sin egen policy för immateriella rättigheter; den här sidan återger dem inte.
- Förordning (EU) 2016/679, allmänna dataskyddsförordningenOfficiell EU-lagtext. Artikel 4 definierar personuppgifter och personuppgiftsansvarig. Artikel 32 kräver säkerhetsåtgärder som är anpassade efter risken. En maskin i er egen byggnad omfattas fortfarande av dessa regler om den hanterar personuppgifter.