En AI-løsning, der kan læse oplysninger og udføre opgaver i virksomhedens systemer, skal have et tydeligt arbejdsområde. Ny forskning fra Google giver en aktuel anledning til at gennemgå både adgang til data og tilladelse til at ændre dem.
Hvad har Google offentliggjort?
Google Research offentliggjorde den 5. oktober 2026 en gennemgang af åbne spørgsmål om privatliv og sikkerhed i AI-agenter. Den bygger på en rapport fra en workshop afholdt i slutningen af 2025. Udgivelsen er altså ny, mens det bagvedliggende møde er ældre. Læs Googles gennemgang.
Forskerne peger blandt andet på udfordringer ved tvetydige input, varierende handlingsforløb og større selvstændighed. Et centralt spørgsmål er, om en handling eller deling af oplysninger passer til den konkrete sammenhæng. Rapporten beskriver forskningsretninger, ikke en færdig sikkerhedsgaranti eller en ny funktion, der automatisk beskytter din webshop.
Begynd med en afgrænset opgave
Vores praktiske vurdering er, at virksomheder bør starte med en opgave, der kan beskrives og kontrolleres præcist. Et tænkt eksempel er en ugentlig oversigt over varer med manglende produkttekst. Her kan løsningen arbejde med varenummer, titel og den eksisterende beskrivelse. Den behøver hverken kundeadresser, betalingsoplysninger eller adgang til at ændre ordrer.
Skriv ned, hvilke oplysninger opgaven kræver, hvor de kommer fra, og hvor resultatet skal ende. Aftal også, hvem der kontrollerer oversigten. Det gør det lettere at vurdere, om en AI-agent overhovedet er nødvendig, eller om en almindelig automatisk kontrol kan løse opgaven mere forudsigeligt.
Skeln mellem at læse og at ændre
OWASP anbefaler, at AI-agenters værktøjer og rettigheder begrænses til den konkrete opgave. Adgang til at læse produktdata bør derfor vurderes særskilt fra adgang til at gemme nye beskrivelser, ændre priser eller opdatere lager. Kontrollen med tilladelser skal håndhæves i systemet, der udfører handlingen. En instruktion til modellen er ikke nok. Se OWASPs vejledning om AI-agenter.
I eksemplet med produkttekster kan første trin være en oversigt til en medarbejder. Næste trin kan være forslag til forbedringer. Hvis løsningen senere skal gemme ændringer, skal der være klare regler for, hvilke felter og produkter den må påvirke. Ved ændringer med større konsekvenser bør et menneske kunne se den konkrete handling, før den udføres.
Indhold udefra må ikke blive til nye instruktioner
En AI-agent kan møde tekst i dokumenter, på hjemmesider eller i svar fra andre systemer. OWASP beskriver, hvordan skjulte eller vildledende instruktioner i sådant indhold kan påvirke modellens adfærd. Det kaldes prompt injection. Derfor skal eksternt indhold behandles som data, og de tekniske rettigheder skal kontrolleres særskilt. Læs OWASPs forklaring og anbefalinger.
Afprøv også fejltilfælde: Hvad sker der, hvis en produkttekst beder løsningen om at ændre en pris? Eller hvis en datakilde pludselig indeholder oplysninger, opgaven ikke skal bruge? Testen skal vise, at handlingen stoppes eller afvises. Et korrekt resultat på almindelige data dokumenterer ikke i sig selv, at grænserne holder.
Aftal kontrol og en vej til at stoppe
Før løsningen sættes i drift, bør I kunne følge de udførte handlinger og afbryde arbejdsgangen. Registrer relevante hændelser uden at gemme adgangsnøgler eller unødvendige kundeoplysninger. Aftal ansvar for fejl og for en ny kontrol, når værktøjer, datakilder eller tilladelser ændres.
Hos KPdesign arbejder vi med softwareudvikling, API-integrationer og automatisering. Afklaring af dataflow, rettigheder og fejlhåndtering er relevante dele af en konkret integrationsopgave. Denne artikel er vores faglige vurdering med henvisning til egne ydelser. Et godt første skridt er en kort beskrivelse af den opgave, der skal løses, og de systemer, den skal bruge.