Self-hosted vs. cloud-AI: hvad er sikrest for dine data?

Når du bygger noget med AI, sender du data ind i en model. Hvor den model kører, hos en stor cloud-udbyder eller på hardware, du selv kontrollerer, har betydning for både sikkerhed, pris og besvær. Der er ikke ét rigtigt svar; der er et valg, der afhænger af, hvor følsomme dine data er.

De to modeller kort

Cloud-AI betyder, at du bruger en model hos en udbyder, Anthropic, OpenAI, Google, eller via Azure/AWS. Du sender data til deres servere og får svar tilbage. Du slipper for drift, får topmodellerne og betaler pr. forbrug.

Self-hosted AI betyder, at du kører en (typisk open source) model på servere, du selv kontrollerer, enten fysisk hos dig eller i et datacenter, du lejer. Dine data forlader aldrig dit eget miljø.

Datasikkerhed: nuancen der betyder noget

Mange antager, at self-hosted automatisk er "sikrest". Det er en forenkling. En seriøs cloud-udbyder har som regel bedre sikkerhed, end en SMV selv kan drifte, patchede systemer, adgangsstyring, overvågning. Den reelle forskel handler mindre om hackere og mere om kontrol og jura:

• Hvem har adgang til data?
• Bruges data til at træne modeller? (På erhvervsaftaler: typisk nej, men tjek.)
• Hvor i verden behandles data fysisk?
• Kan du dokumentere det hele over for en myndighed?

For de fleste opgaver er en cloud-model i en EU-region med en ordentlig databehandleraftale fuldt forsvarlig. Det gælder også GDPR-mæssigt, se GDPR og AI-agenter for hvad du konkret skal have styr på.

Hvornår giver self-hosted mening?

• Særligt følsomme data, helbred, strafbare forhold, forretningskritiske hemmeligheder.
• Krav udefra, en kunde, en branche eller lovgivning, der forbyder data at forlade dit miljø.
• Meget højt, stabilt volumen, hvor egne servere over tid bliver billigere end forbrugsbetaling.

Ulemperne skal med i regnestykket: du står selv for drift, opdatering og sikkerhed, det kræver kompetencer eller en leverandør, og de open source-modeller, du kan køre selv, er ofte et hak under de bedste cloud-modeller. Til gengæld lukker du hullet ved at have fuld kontrol.

Hvornår er cloud det rigtige?

For langt de fleste SMV'er er cloud det pragmatiske valg: hurtigt i gang, ingen drift, adgang til de stærkeste modeller, og fuldt forsvarligt hvis du vælger EU-region og har papirerne i orden. Valget af udbyder spiller ind her, se hvilken LLM skal du vælge.

Sådan beslutter du

1. Klassificér dine data: hvor følsomme er de, der skal ind i modellen?
2. Er der eksterne krav om, hvor data må behandles?
3. Kan et cloud-setup i EU opfylde kravene? For de fleste: ja.
4. Er svaret nej, eller er volumen meget stort, så regn på self-hosted.

En ofte overset mellemvej: læg det følsomme lokalt eller filtrér det fra, og send kun det harmløse til cloud. Så får du det bedste fra begge.

Er du i tvivl om, hvad jeres data kræver, og hvilken opsætning der er forsvarlig? Skriv til mig, så gennemgår vi datatyperne og finder en løsning, der både er sikker og til at drifte i praksis.