Suveræn AI i regulerede EU-virksomheder

For regulerede organisationer i Danmark og resten af EU er spørgsmålet sjældent, om AI kunne hjælpe. Det er, om AI kan bruges uden at sende følsomme data et sted hen, hvor de ikke bør ende, og uden at miste kontrol og revisionsspor. Suveræn AI er den arkitektur, der svarer ja.

Vanskeligheden i praksis er, at suverænitet som regel bliver formuleret én gang og opfyldt ét sted. En model sættes i drift inde i organisationens eget netværk, kravet markeres som opfyldt, og resten af systemet fører det samme indhold forbi den samme grænse gennem indekser, logs og telemetri. Suverænitet holder ved det svageste punkt i forespørgselsvejen, så den skal designes hele vejen igennem.

Hvad suveræn AI betyder i praksis

Suveræn AI holder data, behandling og kontrol inden for grænser, organisationen selv styrer. I praksis betyder det lokal drift eller drift i egen region, søgning der respekterer eksisterende adgangsstyring, og en tydelig registrering af, hvad der blev spurgt om, hvad der blev hentet, og hvad der blev svaret.

• Modeldrift lokalt eller i EU-region for følsomme arbejdsgange
• En styret modelgateway, der ruter mellem lokale og eksterne modeller efter politik
• Abstraktion af leverandøren, så modeller kan udskiftes uden at applikationerne skal skrives om
• Rollebevidst søgning knyttet til de eksisterende identitetsgrupper
• Revision og sporbarhed indbygget i forespørgselsvejen frem for påsat bagefter

Hvor grænsen faktisk ligger

Det meste af det følsomme indhold i et AI-system passerer aldrig gennem modellen. Det ligger i søgeindekset, i embedding-lageret, i logs over prompts og svar, i evalueringssæt sammensat af rigtige sager, og i de spor, et platformsteam gemmer for at fejlsøge svartider. Hvert af dem rummer en kopi af netop det materiale, kravet om datalokalitet blev skrevet for at beskytte. Den disciplin, der er værd at indføre, er derfor at tegne forespørgselsvejen op og fastslå lokalitet og jurisdiktion for hver enkelt komponent på den. Organisationer, der gør det, finder som regel en tjeneste, der aldrig indgik i samtalen om suverænitet, fordi den blev indkøbt som søgning eller overvågning frem for som AI.

Mønstret med en modelgateway

Ét governance-lag, en modelgateway, giver organisationen ét sted at håndhæve politik: hvilke data der må nå hvilken model, hvornår en ekstern leverandør er acceptabel, og hvordan hver forespørgsel logges. Fordi applikationerne taler med gatewayen frem for med en bestemt leverandør, bevarer organisationen sit strategiske råderum: modeller og leverandører kan skiftes, efterhånden som markedet flytter sig, uden omfattende omskrivninger.

Laget afgør også et spørgsmål, der ellers vender tilbage i hvert projekt, nemlig hvem der bestemmer. Uden ét håndhævelsespunkt danner hvert team sin egen opfattelse af, hvilket materiale der må nå hvilken leverandør, og den opfattelse findes kun i koden. Med ét skrives politikken én gang, gennemgås af dem, der er ansvarlige for den, og gælder, uanset hvilket team der leverer næste gang.

Sporbarhed som designegenskab

Revisionsspørgsmål om AI-systemer kommer i en genkendelig form: hvad fortalte dette system en borger eller en kunde på en bestemt dato, hvilket materiale byggede svaret på, og hvem havde adgang til det materiale. At kunne svare kræver, at spørgsmålet, den hentede kontekst, modellen og dens version samt svaret blev registreret sammen, dengang det skete. Intet af det kan rekonstrueres fra et lager, der kun gemte den endelige tekst.

At registrere langs forespørgselsvejen medfører sine egne forpligtelser. Logs af den type indeholder det samme følsomme indhold som kildesystemerne og arver de samme regler om placering, adgang og sletning. Et logsystem uden for den styrede grænse ophæver i stilhed netop den arkitektur, det skulle dokumentere.

Hvad positionen koster

At holde inferensen lokal betyder, at man selv ejer acceleratorkapacitet, en inferensplatform og det evalueringsarbejde, en hostet leverandør ellers ville absorbere. De omkostninger er permanente og lander hos et platformsteam, hvilket gør dem værd at betale for materiale, der reelt ikke må forlade huset, og svære at forsvare for alt andet. Meget få organisationer ender med ét svar, og grænsen flytter sig, efterhånden som de juridiske vurderinger falder på plads.

Datalokalitet og moderne AI er ikke modsatrettede krav. Den rigtige arkitektur giver jer begge dele.

Det vi anbefaler

Formulér kravet som egenskaber frem for som en driftsmodel, så et juridisk behov ikke i stilhed bliver til et arkitektonisk. Få gatewayen på plads inden den anden produktionsarbejdsgang. Kør følsom inferens lokalt, hvor begrænsningen er reel, rut resten til hostede modeller efter en nedskrevet politik, og hold loggene inden for samme grænse som de data, de beskriver. Suverænitetskrav har det med at blive strammere over tid, og de systemer, der gør det dyrt, er dem med en leverandørgrænseflade kompileret ind i applikationen.

At sætte gatewayen på plads før den anden produktionsarbejdsbyrde er en rækkefølgebeslutning, og rækkefølgebeslutninger er dem, organisationer kommer galt af sted med, når ingen ejer dem efter den første lancering. Det ejerskabsspørgsmål er, hvor en opgave om platform engineering starter: hvem driver det her om atten måneder, ikke hvem der byggede det i dette kvartal.

Kan regulerede organisationer bruge store sprogmodeller uden at sende data til eksterne leverandører?

Ja. Drift lokalt eller i egen region holder følsomme data inden for styrede grænser, og en modelgateway kan rute alene tilladte, ikke-følsomme forespørgsler til eksterne modeller efter en udtrykkelig politik. Følsomme arbejdsgange bliver lokalt.

Hvad er en modelgateway, og hvorfor betyder den noget for suveræn AI?

En modelgateway er ét governance-lag, som alle applikationer kalder i stedet for at tale direkte med en modelleverandør. Den håndhæver, hvilke data der må nå hvilken model, logger hver forespørgsel til revision og abstraherer leverandøren, så modeller kan skiftes uden at applikationerne skrives om, og kontrollen forbliver samlet.

Kræver suveræn AI, at alt kører lokalt?

Nej. Lokal inferens er det rigtige svar for materiale, som lov eller kontrakt holder inde i organisationen. De fleste organisationer har en blanding, og en gateway lader de begrænsede arbejdsgange køre lokalt, mens resten bruger hostede modeller efter en udtrykkelig politik, der kan ændres, efterhånden som de juridiske vurderinger falder på plads.