Illustration af et kontor, hvor en server står bag en glasvæg med en hængelås og er koblet til en bærbar computer med et chatvindue, mens en sky udenfor er afskåret.

Kort fortalt

Med self hosted AI kører I en åben sprogmodel som gpt-oss, Llama, Mistral eller Qwen på egen eller lejet hardware. Hos Hetzner koster en GPU-server med 24 GB grafikhukommelse 214 euro om måneden (ca. 1.600 kr.), nok til gpt-oss-20b, og en med 96 GB koster 999 euro (ca. 7.450 kr.), nok til gpt-oss-120b. For samme 1.600 kr. får I omkring 324 mio. tokens om måneden i Mistrals API, så API'et vinder på pris, til forbruget bliver stort. Self-hosting giver mening, når data ikke må forlade huset, men drift, opdateringer og en databehandleraftale med hostingfirmaet forsvinder ikke. Test en model på jeres egne spørgsmål på en server lejet pr. time, før I binder jer.

Self hosted AI betyder, at sprogmodellen kører på en server, I selv styrer, så prompts og dokumenter ikke sendes til en AI-leverandør. En lejet GPU-server i EU koster fra ca. 1.600 kr. om måneden, og ved et almindeligt forbrug i en mindre virksomhed er et API billigere. Grunden til at gøre det er derfor jeres data, ikke prisen.

Hvad self hosted AI er, og hvad det ikke er

De AI-værktøjer, de fleste bruger i dag, kører hos leverandøren. Når en medarbejder indsætter en kontrakt i ChatGPT, eller jeres system kalder et API, rejser teksten til en server, I ikke ejer. Self hosted AI vender det om: I henter en åben sprogmodel, hvor vægtene må downloades, og kører den på en maskine, I selv styrer. Det kan være en server i jeres eget serverrum eller en lejet GPU-server i et datacenter i EU. Lokal AI på en bærbar eller en NAS findes også, men til en virksomhed med flere brugere er det serveren, der er det realistiske valg.

Modellen alene er en chat. Skal den kunne slå op i bogholderi, CRM eller dokumenter, skal den kobles på jeres systemer, og det sker typisk gennem en MCP-server. Den kobling er den samme, uanset om modellen kører hos en leverandør eller hos jer selv. Det, der ændrer sig, er hvor teksten bliver behandlet.

Jeg foretrækker selv at hoste mine egne værktøjer frem for at leje dem som tjenester, så læs artiklen med det forbehold.

Hvilken model kan køre på hvilken server

Den vigtigste størrelse er grafikkortets hukommelse, VRAM. Modellen skal kunne ligge i den, og der skal være plads til de samtaler, der kører samtidig. OpenAI har udgivet to åbne modeller under Apache 2.0-licensen, som gør tallene konkrete: ifølge InfoQs gennemgang af udgivelsen kan gpt-oss-20b køre med 16 GB hukommelse, og gpt-oss-120b kan køre på ét grafikkort med 80 GB.

Lagt ved siden af Hetzners GPU-servere, som jeg tjekkede 15. november 2026, passer det sådan:

  • GEX45 med 24 GB VRAM har plads til gpt-oss-20b eller en anden model i samme størrelse. Den står kun i Helsinki.
  • GEX63 med 96 GB VRAM har plads til gpt-oss-120b på ét kort.
  • GEX430 med fire kort og 384 GB VRAM i alt er til flere modeller på én gang eller mange samtidige brugere.

Tjek licensen, før I vælger model. gpt-oss er Apache 2.0. Mistral skriver på sin prisside, at kommerciel brug af deres åbne modeller kræver en licens fra Mistral med særskilte vilkår. Den forskel betyder mere for en virksomhed end et par procentpoint i en benchmark.

Hvad self hosted AI koster pr. måned

Hetzner angiver priser i euro ekskl. moms. Jeg har regnet om med 7,46 kr. pr. euro, som er Nationalbankens centralkurs, og dollarpriser med ca. 6,6 kr. pr. dollar ud fra Tolletatens kurser for sidste halvdel af oktober 2026. Alle beløb er ekskl. moms.

LøsningPr. månedEngangHvad der er med
API hos leverandør, fx Mistral Large0,50 dollar pr. mio. tokens ind, 1,50 dollar ud0 kr.Teksten behandles hos leverandøren. Ingen server at drive.
Lejet server, 1 GPU, 24 GB (GEX45)ca. 1.600 kr. (214 euro)ca. 1.560 kr. i oprettelsePlads til en model som gpt-oss-20b. Ubegrænset trafik.
Lejet server, 1 GPU, 96 GB (GEX63)ca. 7.450 kr. (999 euro)ca. 7.450 kr. i oprettelsePlads til en model som gpt-oss-120b.
Lejet server, 4 GPU, 384 GB (GEX430)ca. 26.850 kr. (3.599 euro)ca. 26.850 kr. i oprettelseFlere modeller eller mange brugere samtidig.
Opsætning købt hos en leverandør, fx TechsyMånedsaftale efter tilbudFra 3.000 til 20.000 dollar (ca. 20.000-132.000 kr.)Fra en chat med login til dokumentsøgning med single sign-on og flere afdelinger.

Den sidste række er en af de få leverandører, der skriver priser offentligt. Techsy sælger tre pakker til fast pris: en privat assistent fra 3.000 dollar, en privat dokumentsøgning fra 8.000 dollar og en platform til flere afdelinger fra 20.000 dollar. Priserne er angivet som nedsatte fra 4.500, 12.000 og 30.000 dollar, og hardwaren kommer oveni.

Lejet GPU-server pr. måned, og hvad samme beløb køber i et API Hetzner, priser ekskl. moms, tjekket 15. november 2026. Tokens: Mistral Large, 3 dele ind og 1 del ud. GEX45, 24 GB ca. 1.600 kr. = ca. 324 mio. tokens i API GEX63, 96 GB ca. 7.450 kr. = ca. 1,5 mia. tokens i API GEX430, 384 GB ca. 26.850 kr. = ca. 5,4 mia. tokens i API Uden oprettelsesgebyr, drift og egen tid. Omregnet med 7,46 kr. pr. euro og ca. 6,6 kr. pr. dollar. Kilder: hetzner.com (GEX-serierne), mistral.ai/pricing (Mistral Large 0,50/1,50 dollar pr. mio. tokens).

Hvornår et API er billigere

Regn det ud på jeres eget forbrug, før I køber hardware. Mistral Large koster 0,50 dollar pr. million tokens ind og 1,50 dollar ud. Sender I tre gange så meget tekst ind, som der kommer ud, hvilket er typisk, når modellen læser dokumenter og svarer kort, bliver gennemsnittet 0,75 dollar pr. million tokens. Den mindste server til ca. 1.600 kr. om måneden svarer til omkring 243 dollar, og det køber ca. 324 mio. tokens i API'et.

Få mindre virksomheder bruger så meget. Så længe forbruget ligger under det niveau, er API'et billigst, også før I har lagt oprettelse, drift og egen tid oveni serveren. Self-hosting begynder først at betale sig på pris, når mange medarbejdere bruger modellen hele dagen, eller når en automatisering kører store mængder dokumenter igennem. Under det niveau køber I kontrol over data, ikke en besparelse.

Det, der ikke står på serverprisen

En lejet server er en tom maskine. Prisen dækker hardware, strøm og forbindelse. Resten er jeres:

  • Opsætning. Model, inferensserver, login, adgangsstyring og en brugerflade eller et API, som jeres systemer kan kalde.
  • Opdateringer. Styresystem, grafikdrivere og selve modellen skal holdes opdateret. Nye modeller kommer ofte, og det kræver en test at skifte.
  • Overvågning og backup. Hvem opdager, at serveren er nede, og hvad sker der så? Én server er ét sted, det kan gå galt.
  • Kvalitet. En åben model er ikke nødvendigvis lige så god som de store betalte modeller til almen viden. På jeres egne dokumenter med en god søgning kan den være god nok, men det skal måles, ikke antages.

Hvis modellen skal kobles på jeres systemer, kommer den kobling også oveni. Hvad det koster at bygge, hoste og drive den del, har jeg regnet ud i artiklen om at få bygget en MCP-server.

Data: hvad self-hosting ændrer, og hvad det ikke ændrer

Det, der ændrer sig, er at prompts, dokumenter og svar ikke sendes til en AI-leverandør, og at de ikke kan bruges til at træne en andens model. Hetzner oplyser, at GPU-serverne står i ISO/IEC 27001-certificerede datacentre i Tyskland og Finland, så data bliver i EU.

Det, der ikke ændrer sig, er at et hostingfirma, der driver serveren for jer, stadig behandler data på jeres vegne. Behandler I personoplysninger, skal der en databehandleraftale på plads med hostingfirmaet, ligesom med enhver anden leverandør. Og reglerne for, hvad I må gøre med persondata, gælder uanset hvor modellen står: hvem der har adgang, hvad der logges, og hvor længe det gemmes. Self-hosting fjerner en leverandør fra kæden. Det fjerner ikke ansvaret.

Sådan kommer I i gang uden at binde jer

  1. Vælg én opgave, hvor data i dag ikke må sendes til en AI-tjeneste. Kontrakter, personalesager og kundedata er de typiske.
  2. Lej en server pr. time. Hetzner sælger også GEX45 til 0,3429 euro i timen, ca. 2,56 kr., så en test koster ikke en hel måned. Oprettelsesgebyret gælder stadig.
  3. Test på 50 rigtige spørgsmål med de svar, I forventer, og sammenlign med det samme sæt spørgsmål i et API med anonymiserede data.
  4. Beslut på målingen. Er svarene gode nok, og vejer kontrollen over data tungere end drift og egen tid, så går I videre. Ellers er et API med en databehandleraftale det rigtige svar.

Vælg én opgave, hvor data i dag ikke må sendes til en AI-tjeneste, og test en åben model på 50 rigtige spørgsmål på en server lejet pr. time. Svarer den godt nok, er næste skridt at regne driften igennem og koble modellen på de systemer, den skal bruge. Jeg sætter self hosted AI op på en server i EU og kobler den på jeres systemer til fast pris efter en afklaring, og I ejer opsætningen bagefter. Book 20 min. afklaring her.