Ett labb i Sverige, och biblioteket vi skriver där

Vissa frågor kräver mer minne än en medlem har hemma. Polaris planerar en insamling till en NVIDIA DGX Station i Sverige, med upp till 748 GB sammanhängande minne, så att gemenskapen kan köra de frågorna på en maskin som skulle stå kvar här.

Om kampanjen når målet skapas första utgåvan av ett öppet bibliotek på svenska och engelska: experimentguider, reproducerbara körningar och en offentlig körlogg. En namngiven redaktör granskar varje del innan den publiceras. Varje guide körs innan den publiceras, och körloggen visar vilken maskin den kördes på. Läs den gratis och kör den sedan själv. Om stationen köps kan du föreslå en fråga, följa körningen och läsa metoden, sedan prova samma steg och diskutera vad resultatet betyder.

Målet följer en skriftlig offert. Hur medlemmar får använda maskinen publiceras innan kampanjen öppnar.

Guldfärgad NVIDIA DGX Station sedd från sidan.

Intresseanmälan öppen. Ingen betalning tas emot.

Vad pengarna är till för

Pengarna ska gå till en NVIDIA DGX Station som ställs i Sverige, plus frakt, installation och det första årets drift, och till inget annat. Bidragsnivåerna sätts när den skriftliga offerten finns. Ingen nivå låser upp något i biblioteket, som är gratis för alla.

Om stationen köps blir Hrafninn Industries AB dess ägare. Ett bidrag ger ingen andel i den, ingen rätt till den och ingen bokad maskintid.

Kostnaden i kronor står här när den skriftliga offerten har kommit. Tills dess tar vi inte emot några pengar, bara intresseanmälningar.

Spark i dag, Station sen

I Kungsbacka kör vi i dag på tre NVIDIA DGX Spark. Var och en har 128 GB minne som processorn och grafikdelen delar. Det räcker för de flesta öppna modeller en medlem kör hemma, och för några större.

En DGX Station har 748 GB koherent minne, alltså sammanhängande. Det är två sorters minne som maskinen ser som ett:

Snabbt minne vid grafikdelen (HBM3e)	252 GB	7,1 TB/s
Processorns minne (LPDDR5X)	496 GB	396 GB/s
Totalt, koherent	748 GB

Bara de 252 GB är grafikminne. En modell som får plats där går snabbt. En modell som behöver mer av de 748 GB går också, men långsammare, eftersom en del ligger i processorns minne.

Källor: NVIDIA: DGX Station, NVIDIA: DGX Spark

Hur maskinen skulle användas

Om stationen köps föreslår du en fråga och medlemmarna röstar om vad som körs. Varje körning skrivs då i den offentliga körloggen, med metod och resultat öppna att läsa.

Reglerna för hur tiden på maskinen fördelas publiceras här innan kampanjen öppnar.

Tidsplan

Datumen publiceras här när de är kända.

Skriftlig offert på maskinen, frakt till Sverige och installation.
Budgeten låses mot offerten och publiceras här.
Kickstarter godkänner utkastet och kampanjen öppnar.
Om maskinen köps ställs den på plats i Sverige.
Första utgåvan kommer: guider, körningar och den offentliga loggen.

Risker

Priset är okänt, och leveranstiden är okänd. Båda publiceras här när den skriftliga offerten finns.

Kickstarter kan neka kampanjen. Om målet inte nås dras inga pengar. Driften hänger på en bekräftad plats i Sverige, på ström till stationen och på avtalet om hur maskinen körs.

Om målet inte nås

Då dras inga pengar från någon, och ingen Station köps.

Biblioteket byggs ändå. Körningarna görs på våra tre Spark, och de frågor som behöver mer minne körs på hyrd beräkning i molnet, timme för timme. Det blir färre och mindre körningar, och varje sådan körning märks i körloggen med var den kördes.

Budgeten

Budgeten är tom tills den skriftliga offerten finns. Den publiceras på den här sidan.

Den visar maskin, frakt, installation och drift. Den visar också en avgift på fem procent plus en betalavgift, som bara tas ut om målet nås. Den visar momsen som ska betalas och valutarisken.

Vem som skriver

En grupp AI-modeller skriver utkasten, kör arbetet och kontrollerar det. Daniel Merthen på Hrafninn Industries AB i Kungsbacka är bibliotekets redaktör. Han granskar varje guide, körning och loggrad innan den publiceras och ansvarar för det som läggs upp.