KI-risikostyring

KI-risikostyring er arbeidet med å vurdere og håndtere risikoen når virksomheten bruker kunstig intelligens, fra lekkede personopplysninger til feilaktige resultater. GDPR stiller krav til arbeidet allerede i dag, KI-forordningen (AI Act) er på vei inn i norsk rett, og alt starter med at dere vet hvilke KI-verktøy som faktisk brukes. Verktøy som behandler personopplysninger, kan dere vurdere i vår løsning for konsekvensvurdering (DPIA).

Dette må du vite:

• De vanligste KI-risikoene for virksomheter gjelder personopplysninger, informasjonslekkasje, feilaktige resultater, diskriminering og avhengighet av leverandører
• KI-forordningen (forordning (EU) 2024/1689) krever et risikostyringssystem for leverandører av KI-systemer med høy risiko. I EU gjelder kravene for de fleste høyrisikosystemer fra 2. desember 2027
• KI-forordningen er ennå ikke innlemmet i EØS-avtalen, og en norsk KI-lov er under arbeid. Norske virksomheter som tilbyr KI-systemer i EU, må likevel følge EU-reglene der
• GDPR gjelder allerede for all KI som behandler personopplysninger, og krever ofte en konsekvensvurdering
• KI-risikoer hører hjemme i virksomhetens ordinære risikostyring, ikke i et eget spor

Hva er KI-risikostyring?

KI-risikostyring er en systematisk prosess for å finne, vurdere og håndtere risikoene et KI-system kan medføre for virksomheten, for personene som berøres og for samfunnet.

Prosessen følger de samme stegene som annen risikostyring: fastsett rammer, identifiser risikoer, analyser og vurder dem, velg tiltak og følg opp. Det som skiller KI fra andre systemer, er at resultatet ikke alltid lar seg forutsi. Et KI-system kan gi ulike svar på samme spørsmål, lære mønstre fra data ingen har gått gjennom og endre seg når leverandøren oppdaterer modellen. Derfor må oppfølgingen være tettere og omfatte selve resultatene, ikke bare teknikken.

Det finnes etablerte rammeverk for arbeidet. ISO/IEC 42001 er en standard for ledelsessystem for KI, og ISO/IEC 23894 gir veiledning om risikostyring for KI. Ingen av dem er obligatoriske, men de gjør det lettere å vise at arbeidet er strukturert. Trenger du en kort innføring i begrepene, se hva er kunstig intelligens.

Hvilke KI-risikoer finnes for virksomheter?

De vanligste KI-risikoene for virksomheter er at personopplysninger behandles uten behandlingsgrunnlag, at sensitiv informasjon lekker ut, at KI gir feilaktige eller diskriminerende resultater, og at virksomheten blir avhengig av én leverandør.

Informasjonslekkasje er som regel den risikoen som slår til først, fordi generative KI-tjenester er lette å ta i bruk uten at noen har godkjent dem. Leverandørrisikoen håndterer dere best med samme metode som for andre IT-leverandører, for eksempel i vår løsning for leverandørevaluering.

Eksempler på situasjoner der KI-risikoer blir aktuelle

KI-risikoer oppstår ofte i hverdagen, ikke bare i store utviklingsprosjekter:

• "En saksbehandler ba et KI-verktøy oppsummere en sak og limte inn hele saksdokumentet, med fødselsnumre og helseopplysninger."
• "Vi testet et KI-verktøy som rangerer søknader, og det plasserte søkere med utenlandske etternavn lavere."
• "Chatboten på nettstedet vårt svarte en kunde at vedkommende hadde krav på refusjon, selv om vilkårene sier noe annet."

Hva krever KI-forordningen, og gjelder den i Norge?

KI-forordningen krever at leverandører av KI-systemer med høy risiko har et dokumentert risikostyringssystem gjennom hele systemets livsløp, og at virksomheter som bruker slike systemer, følger bruksanvisningen og sikrer menneskelig tilsyn. I Norge gjelder forordningen ennå ikke, fordi den ikke er innlemmet i EØS-avtalen.

Forordningen er merket som EØS-relevant, men tidspunktet for innlemmelse er fortsatt uklart. Regjeringen sendte forslag til ny norsk KI-lov på høring i 2025, og har varslet en ny høring høsten 2026 om endringene fra EUs forenklingspakke, med mål om å legge fram en lovproposisjon våren 2027. Norske virksomheter som tilbyr eller bruker KI-systemer i EU, må likevel følge forordningen der. For alle andre er det klokt å bygge risikostyringen etter forordningens modell nå, slik at overgangen blir liten når loven kommer.

EUs KI-forordning, forordning (EU) 2024/1689 (AI Act på EUR-Lex), er risikobasert. Jo større risiko et KI-system innebærer, desto strengere krav:

Risikostyringssystemet for høyrisikosystemer reguleres i artikkel 9. Det skal identifisere og analysere kjente og forutsigbare risikoer for helse, sikkerhet og grunnleggende rettigheter, sette inn tiltak og testes løpende. Virksomheter som bruker høyrisikosystemer, i forordningen kalt idriftsettere (deployers), skal blant annet bruke systemet etter bruksanvisningen, utpeke personer som utøver menneskelig tilsyn og overvåke driften etter artikkel 26. Offentlige organer og enkelte private aktører skal i tillegg gjøre en vurdering av konsekvensene for grunnleggende rettigheter etter artikkel 27.

Når gjelder kravene?

I EU gjelder kravene for de fleste KI-systemer med høy risiko fra 2. desember 2027, etter at EU i juli 2026 utsatte fristen med forordning (EU) 2026/1744.

Endringsforordningen, kjent som Digital Omnibus om KI, trådte i kraft 27. juli 2026. Høyrisikosystemer som inngår i produkter som allerede er regulert, for eksempel medisinsk utstyr, omfattes fra 2. august 2028. Forbudene har gjeldt i EU siden 2. februar 2025, og reglene om KI-modeller for allmenne formål siden 2. august 2025. Heller ikke endringsforordningen er innlemmet i EØS-avtalen, og datoene gjelder derfor ikke automatisk i Norge.

Utsettelsen er ingen grunn til å vente. Den som først begynner med KI-risikostyring i 2027, rekker sjelden å bygge opp dokumentasjonen, og GDPR gjelder fullt ut allerede.

Hva krever GDPR når dere bruker KI?

GDPR gjelder for all KI som behandler personopplysninger, uavhengig av risikoklasse etter KI-forordningen, og krever behandlingsgrunnlag, klare formål og en konsekvensvurdering når behandlingen sannsynligvis innebærer høy risiko.

Her er det norske regelverket på plass. Personvernforordningen (forordning (EU) 2016/679), GDPR, gjelder i Norge gjennom EØS-avtalen og personopplysningsloven (LOV-2018-06-15-38), og Datatilsynet fører tilsyn. Et KI-system med minimal risiko etter KI-forordningen kan altså likevel kreve en grundig vurdering etter GDPR. I praksis handler det om:

• Behandlingsgrunnlag og formål: Personopplysninger som er samlet inn til ett formål, kan ikke uten videre brukes til å trene eller mate et KI-system.
• Konsekvensvurdering (DPIA): Kreves etter artikkel 35 når behandlingen sannsynligvis innebærer høy risiko, noe som ofte er tilfellet ved ny teknologi, profilering og behandling i stor skala.
• Automatiserte avgjørelser: Artikkel 22 gir den registrerte rett til ikke å bli gjenstand for en avgjørelse som utelukkende bygger på automatisert behandling, dersom avgjørelsen har rettsvirkning for vedkommende eller påvirker vedkommende i betydelig grad.
• Databehandleravtale og overføringer: Behandler KI-leverandøren personopplysninger på deres vegne, kreves en databehandleravtale. Ved overføring til land utenfor EØS kreves et gyldig overføringsgrunnlag.

Slik bygger dere KI-risikostyring i praksis

Dere bygger en varig KI-risikostyring i 6 steg: kartlegg, klassifiser, vurder, beslutt, lær opp og følg opp.

1. Kartlegg KI-bruken. Finn ut hvilke KI-verktøy som brukes, både de som er kjøpt inn og de som ansatte har tatt i bruk på eget initiativ. Før dem inn i et KI-register.
2. Klassifiser etter KI-forordningen. Fastsett risikoklasse for hver bruk, og om dere er leverandør eller idriftsetter.
3. Vurder risikoene. Gjør en risikovurdering for hver bruk, og en DPIA når personopplysninger behandles med sannsynlig høy risiko.
4. Beslutt tiltak og regler. Lag KI-retningslinjer som angir hvilke verktøy som er godkjent, og hvilken informasjon som aldri skal legges inn.
5. Lær opp de ansatte. KI-forordningen krever at leverandører og idriftsettere setter inn tiltak for å styrke KI-kompetansen hos de ansatte. Kravet har gjeldt i EU siden 2. februar 2025, og ble myket opp med endringsforordningen i juli 2026, slik at det ikke lenger kreves et bestemt kompetansenivå. En vei er vår løsning for compliance training innen personvern og informasjonssikkerhet.
6. Følg opp resultatene. Gå gjennom stikkprøver av KI-genererte resultater, følg opp avvik og oppdater vurderingen når leverandøren endrer modellen eller vilkårene.

Ansvaret for KI-risikostyringen ligger hos ledelsen, fordi det er ledelsen som bestemmer hvilken risiko virksomheten skal bære. Har dere spørsmål om deres egen bruk av KI, kan dere booke en gjennomgang med en rådgiver hos Draftit eller kontakte annen juridisk ekspertise.

Vanlige spørsmål om KI-risikostyring

Kan ansatte bruke ChatGPT og lignende verktøy på jobben?

Ja, hvis virksomheten har vurdert verktøyet og bestemt hvilken informasjon som kan brukes.

Det største problemet oppstår når personopplysninger eller taushetsbelagt informasjon legges inn i åpne tjenester der leverandøren kan bruke opplysningene. Mange organisasjoner velger en bedriftsversjon med avtale som forbyr trening på deres data, og supplerer med klare retningslinjer. Mer om dette i artikkelen om ChatGPT og personvern.

Er vi leverandør eller idriftsetter etter KI-forordningen?

De fleste virksomheter er idriftsettere, fordi de bruker KI-systemer som noen andre har utviklet.

Dere blir leverandør hvis dere utvikler et KI-system eller markedsfører det i eget navn. Dere kan også bli leverandør hvis dere endrer et høyrisikosystem vesentlig, eller bruker et system til et høyrisikoformål leverandøren ikke har tiltenkt.

Må vi gjøre en DPIA for alle KI-verktøy?

Nei, men en DPIA kreves når behandlingen sannsynligvis innebærer høy risiko for de registrerte, noe som ofte gjelder KI som behandler personopplysninger i større skala.

Datatilsynets liste over behandlinger som alltid krever DPIA omfatter blant annet innovativ teknologi kombinert med minst ett annet kriterium, algoritmetrening på særlige kategorier av personopplysninger i stor skala og kommersielle tjenester som forutsier for eksempel jobbprestasjoner, økonomi eller helse. Gjør i det minste en dokumentert forhåndsvurdering for hvert KI-verktøy som behandler personopplysninger.

Hvilke sanksjoner gjelder etter KI-forordningen?

I EU kan brudd på forbudene gi gebyr på opptil 35 millioner euro eller 7 % av global årlig omsetning, og andre overtredelser opptil 15 millioner euro eller 3 %.

For små og mellomstore bedrifter gjelder som hovedregel det laveste av de to beløpene. I Norge finnes det ennå ingen sanksjoner etter KI-forordningen, fordi den ikke er gjennomført i norsk rett. Den samme bruken av KI kan likevel føre til overtredelsesgebyr fra Datatilsynet etter GDPR, på opptil 20 millioner euro eller 4 % av global årlig omsetning.

Hvor ofte skal KI-risikoene vurderes på nytt?

KI-risikoene bør vurderes på nytt når modellen, leverandørens vilkår eller bruksområdet endres, og minst 1 gang i året.

KI-tjenester oppdateres langt oftere enn tradisjonelle systemer. En endring som ser liten ut, som en ny modellversjon, kan påvirke både kvaliteten på resultatene og hvor opplysningene behandles.