Problem
Mange samtaler om lokal AI sidder stadig fast i en fattig ramme: “det fungerer til privatliv”.
Det er sandt, men utilstrækkeligt. I 2026 er grunden til, at lokal AI vender tilbage til centrum, ikke kun at beskytte data. Det er, fordi det ændrer økonomien og designet af driften: latenstid, offline-kontinuitet, marginalomkostning, infrastrukturafhængighed, brugeroplevelse og kontrol af perimeteren.
Microsoft skubber på Foundry Local og Windows AI APIs. Apple udvider sin Foundation Models-ramme og kombinerer on-device-modeller med Private Cloud Compute. Google fortsætter med at positionere Gemini Nano som on-device-lag til Android. Det fælles signal er tydeligt: den hybride arkitektur er ikke længere undtagelsen. Den begynder at være baseline.
Tes
Det rigtige spørgsmål er ikke “cloud eller lokal”.
Det rigtige spørgsmål er: hvilken del af AI-arbejdet skal leve tæt på brugeren, hvilken del har brug for cloud, og hvilken del kræver et styret handoff mellem de to?
Lokal AI betyder noget, når værdien afhænger af operationel nærhed, ikke når den bruges som slogan.
Rammeværk
Tænk lokal AI med fire kriterier:
- Privatliv: følsomme data, der ikke må forlade enheden.
- Latenstid: opgaver, hvor det at vente på en tur til cloud ødelægger oplevelsen.
- Omkostning: hyppige og gentagelige inferenser, der ikke retfærdiggør omkostninger pr. fjerntoken.
- Perimeter: arbejde, der skal sameksistere med filer, browser, lokale apps og brugerens kontekst.
Mini-case: et salgsteam bruger en assistent til at opsummere mails, forberede møder og omskrive mødenoter. En del af arbejdet kan køre lokalt med lav latenstid og uden at sende hvert fragment til en fjerntjeneste. Men forberedelsen af en stor konto med adgang til CRM, historik og dokumenter vil sandsynligvis kræve cloud og delte kilder.
Målbar indikator: procentdel af AI-opgaver klassificeret som lokale, fjerntliggende eller hybride med eksplicit kriterium for, hvorfor de kører der.
Holdning: lokal AI erstatter ikke cloud. Den tvinger dig til at designe grænsen mellem dem bedre.
Hvorfor det betyder noget nu
I juni 2026 taler vi ikke længere om lokal AI som en isoleret demo:
- Microsoft tilbyder Foundry Local som end-to-end-løsning til apps, der kører helt på enheden.
- Windows AI APIs eksponerer klar-til-brug-funktioner uden at tvinge hvert team til selv at optimere modeller.
- Apple udvider Foundation Models med on-device-muligheder, billedinput og adgang til Private Cloud Compute-modeller.
- Google fastholder Gemini Nano som on-device-lag inden for Android AICore.
Det, der standardiseres, er ikke en enkelt lokal model. Det er en ny disciplin for opdeling af workloads.
Anti-eksempel
“Alt følsomt skal køre lokalt, og alt andet i cloud.”
Det lyder rent og er som regel forkert. Der er følsomme opgaver, der kræver delt viden, central revision eller handlinger på virksomhedens systemer. Og der er ikke-følsomme opgaver, der i høj grad drager fordel af at køre lokalt på grund af latenstid eller omkostninger.
Fejlen er at gøre en arkitektonisk beslutning til et binært slogan.
Protokol (3 trin)
- Klassificér opgaver, ikke modeller. Opsummering, transskription, søgning, udarbejdelse, handling, godkendelse.
- Tildel runtime efter operationelt kriterium. Privatliv, latenstid, omkostning, kontinuitet og afhængighed af delte data.
- Design handoffet. Når en opgave går fra lokal til cloud, defineres hvilken kontekst der rejser, hvem der godkender det, og hvilken log der bevares.
| Opgavetype | Lokal vinder når | Cloud vinder når |
|---|---|---|
| omskrivning eller kort opsummering | latenstid eller privatliv prioriteres | der kræves bred virksomhedskontekst |
| transskription eller basal billedanalyse | enheden kan løse det | modellen kræver mere kapacitet eller centralisering |
| søgning og genfinding | kilden lever på enheden | sandheden lever i delte systemer |
| automatiseret handling | anvendelsesområdet er personligt | den rører enterprise-systemer eller kræver revision |
Relateret
- Codex on-prem: når softwareagenter forlader den offentlige sky
- Context Supply Chain: forsyningskæden, der afgør om din AI kan arbejde
- Operating Model Drift: det skjulte symptom på teams, der vokser uden kriterier
Konsulterede kilder
- Brug lokal AI med Microsoft Foundry på Windows
- Hvad er Windows AI APIs?
- Introduktion til tredje generation af Apples Foundation Models
- Foundation Models-rammeværket
- Apple hjælper app-udvikling med nye intelligens-rammeværk og avancerede værktøjer
- Gemini Nano
Næste skridt
Lav et inventar over dine hyppigste AI-opgaver og tving hver enkelt til at retfærdiggøre, hvorfor den kører lokalt, fjernt eller hybrid. Hvis du ikke kan forklare det, har du stadig ikke en arkitektur: du har entusiasme.
Oversat fra den spanske original med AI-hjælp og gennemset for nøjagtighed. Læs originalen på spansk.