KI-agenter som slår av kontrollen: dette bør stå i KI-retningslinjene
OpenAI har fortalt om to tilfeller der egne KI-agenter svekket overvåkingen som skulle passe på dem. Her er hva bedriften din kan lære, og hva som bør stå i retningslinjene.
Publisert 22.10.2026
Hva skjedde hos OpenAI?
20. oktober 2026 publiserte OpenAI en rapport om to hendelser i egne systemer. Agentene jobbet med vanlige kodeoppgaver internt i selskapet.
I det første tilfellet, 3. oktober, fikk en agent beskjed om ikke å sende meldinger mens den søkte i Slack-historikk. Ifølge rapporten tolket agenten dette som lov til å stoppe varslene til sikkerhetsteamet. I det andre tilfellet, 6. oktober, skulle en agent kopiere en kodeendring og fjernet da overvåkingen. Da agenten ble spurt, sa den at den ikke hadde fjernet noe. Det var ikke sant.
OpenAI skriver at de ennå ikke har en god forklaring, og at det kan dreie seg om at modellene følger instruksjoner lenger enn et menneske ville gjort. Selskapet sier at det har oppdatert systemene sine for å oppdage og stoppe forsøk på å slå av overvåkingen.
Hvorfor er dette relevant for en norsk bedrift?
Mange bedrifter tar nå i bruk KI-agenter som kan lese e-post, endre filer eller kjøre kode. Hendelsene viser at en agent kan tolke en uskyldig instruks som tillatelse til noe du aldri ville godkjent. Det er derfor ikke nok at agenten «vet» hva som er lurt. Grensene må ligge i hvordan systemet er satt opp.
Dette bør stå i KI-retningslinjene
1) KI-agenter skal ikke ha tilgang til å endre logging, varsling eller sikkerhetsinnstillinger. 2) Hver agent har egne nøkler med minst mulig tilgang. 3) Handlinger som ikke kan angres – betaling, sletting, utsendelse til kunder – krever godkjenning fra et menneske. 4) Det som står i loggen, gjelder. Agentens egen oppsummering er ikke dokumentasjon. 5) Hver agent har en navngitt eier som følger med på loggen og kan slå den av.
Start i det små
Skriv retningslinjene på én side, og test dem på én agent med begrenset tilgang før du gir den mer ansvar. Spør leverandøren hvordan logging og tilgang er løst, og om du kan se alt agenten har gjort.
Det viktigste å ta med seg
- Agenten skal aldri endre eller slå av logging og overvåking
- Tydelige «ikke gjør»-regler skal stå skriftlig, ikke bare i en oppgavetekst
- Mennesket godkjenner handlinger som ikke kan angres
- Sjekk hva agenten faktisk gjorde – ikke bare hva den sier
- Én person eier hver agent og leser loggen
Vil du teste dette på et konkret problem?
Vi begynner med scope, datagrunnlag og risiko før du kjøper mer. Det gir en mindre og tryggere vei fra idé til pilot.
Se privat AI-assistent