Å ha full kontroll og godkjenning av alle tilgjengelige KI-løsninger er en uoverkommelig oppgave for de aller fleste institusjoner. Det dukker stadig opp nye tjenester, både knyttet til programvare som allerede er i bruk på institusjonen og i form av nye tjenester som i større eller mindre grad integrerer med eksisterende løsninger, særlig til Microsoft 365-porteføljen.
Behandling av ulike kategorier data
På generelt grunnlag skal KI-løsninger ikke brukes til behandling av data med beskyttelsesbehov. Data kategorisert som grønne data kan håndteres fritt av KI-løsninger. Data i klassene gul, rød og svart kan ikke behandles og håndteres fritt i KI-løsninger. I institusjonelt godkjente KI-systemer kan data i kategori gul og rød også behandles.
Godkjente institusjonelle KI-løsninger
NIH har institusjonelle KI-løsninger som er risikovurdert og som kan håndtere data med beskyttelsesbehov:
Sikt KI
NIH har kjøpt tilgang til Sikt KI. Dette er en tjeneste utviklet av Sikt og som driftes av Sikt med Microsoft og Amazon som underleverandør. Tjenesten bruker OpenAIs GPT-modeller innenfor kravene NIH setter til personvern.
- Studenter og ansatte på NIH kan logge inn med FEIDE og fritt bruke tjenesten.
- Alle data blir lagret på NIH og Sikts servere og navnet ditt blir ikke utlevert. Inn-/utdata behandles midlertidig av Microsoft Azure OpenAI og Amazon AWS innenfor GDPR-kompatible regioner men med full anonymitet.
- Tjenesten støtter for tiden følgende GPT-modell: GPT 4o. Dette vil endres over tid med innføring av nye modeller
- Samtaler og data vil ikke blir brukt til videre trening av KI-modeller.
Sikt KI kan brukes i undervisningen på NIH og til forskning med persondata til og med gule data.
GPT UiO
NIH har kjøpt tilgang til GPT UiO. Dette er en tjeneste utviklet av UiO og som driftes av UiO med Microsoft som underleverandør. Tjenesten bruker OpenAIs GPT-modeller innenfor kravene NIH setter til personvern.
- Studenter og ansatte på NIH kan logge inn med FEIDE og fritt bruke tjenesten.
- Alle data blir lagret på NIHs servere og navnet ditt blir ikke utlevert. Inn-/utdata behandles midlertidig av Microsoft Azure OpenAI innenfor GDPR-kompatible regioner (for tiden i Sverige).
- Tjenesten støtter for tiden følgende GPT-modeller: GPT-4o-mini, GPT 4o og GPT-4. Dette vil endres over tid med innføring av nye modeller.
- Samtaler og data vil ikke blir brukt til videre trening av KI-modeller.
- GPT UiO kan brukes i undervisningen på NIH og til forskning med persondata til og med gule data.
Microsoft Copilot
- Microsoft Copilot er en KI-assistent utviklet for å hjelpe brukere med å utføre daglige arbeidsoppgaver mer effektivt. Den gir kontekstuell støtte og automatiserte forslag. Microsoft Copilot kan hjelpe deg med ulike oppgaver, som å genere bilder, skrive, søke, lage og lære, ved å gi deg smarte forslag og løsninger gjennom en enkel chat-opplevelse.
- Copilot finnes i flere utgaver og denne vurderingen omfatter kun den «frittstående» versjonen av Copilot, ikke versjonen som er fullt integrert med Microsoft 365.
- Data som Copilot får tilgang til er beskyttet og vil ikke lekke utenfor organisasjonen. Chatdata lagres ikke, Microsoft har ingen tilgang til dem, og de brukes ikke til å trene modellene.
- Microsoft Copilot kan brukes på NIH-data som er klassifisert til og med kategori gul.
- Løsningen og sikkerhetsnivået krever en aktiv og pålogget NIH-bruker av Microsoft 365 (uten dette kan Copilot kun håndtere grønne data).
Autotekst: tale til tekst med Whisper fra Open AI
- Autotekst er en KI- tjeneste fra UiO for transkribering av tale til tekst med Whisper fra OpenAI.
- Hele tjenesten kjører på UiOs servere, og ingen data forlater UiOs infrastruktur. Tjenesten kan derfor brukes til og med røde data.
- Kan brukes til transkribering av lydopptak. Eksempler på bruk er transkribering av opptak med Nettskjema-diktafon og teksting av video
- Kan brukes til teksting av video, og leverer filer som kan brukes i alle videoavspillere.
- Pålogging til tjenesten skjer via Feide.
Andre institusjonelle systemer som har integrerte KI-løsninger, vil bli vurdert fortløpende.
Krav til bruk av andre KI-løsninger
I og med at et stort antall applikasjoner og systemer kommer med integrerte KI-tjenester, har vi utarbeidet noen retningslinjer for generell bruk av KI-løsninger:
Kategorier av data
Grønne data (åpen) kan generelt sett håndteres og behandles i KI-modeller, men husk at mange KI-tjenester bruker dine data for å lære opp egen KI og at enkelte modeller også har tilgang til andre data enn de du sender til KI-modellen, for eksempel brukerdata og informasjon om enheten du jobber fra.
Gule data (begrenset) er generelt ikke tillatt i andre KI-systemer enn de institusjonelle, men der man er avhengig av å behandle gule data i en KI-modell kan det gjøres en vurdering av den konkrete tjenesten. Det må gjøres en risikovurdering og eventuelt en DPIA av den enkelte tjeneste – dette i samråd med informasjonssikkerhetsrådgiver.
Røde data (fortrolig) er på generelt grunnlag ikke tillatt behandlet i KI-systemer annet enn de institusjonelle som er godkjent for denne kategori data. Dette gjelder både modeller som kjøres lokalt og hos eksterne tjenesteleverandører. Dersom det foreligger et konkret behov for å behandle røde data i en KI-modell, skal det gjennomføres både en omfattende risikovurdering, det skal lages DPIA samt i flere tilfeller en data management plan, samt at det alltid skal finnes en databehandleravtale med leverandøren. Informasjonssikkerhetsrådgiver skal alltid involveres i en slik prosess.
Sort data (strengt fortrolig) skal ikke behandles i KI-modeller.
KI i operativsystemer
Etter hvert som KI-tjenester integreres i de ulike operativsystemene som driver våre digitale enheter, stiller dette krav til oss som brukere.
- Kontroller at KI-tjenesten i operativsystemet behandler data i henhold til GDPR.
- Følg eventuelle retningslinjer fra NIH dersom enheten har tilgang til virksomhetsdata fra NIH. NIH kan stille tekniske krav til enheten og enheter eid av NIH kan bli styrt sentralt.
- Slå av KI-tjenestene dersom det er mulig og bruk de bare ved behov.
- Begrense tilgang – benytt funksjonene i operativsystemet (typisk i «settings/innstillinger» til å begrense hvilke data KI-tjenesten har tilgang til. Dette gjelder både virksomhets– og private data.
- Begrense hvilke apper KI-tjenesten har tilgang til.
KI i WEB-leser kontra dedikerte apper
Vi anbefaler generelt at man benytter en WEB-leser for å håndtere KI-data, selv om mange tjenester også tilbyr bruk av app. En app har ofte vesentlig bredere tilgang til data enn en WEB-leser og kan sende brukerdata til KI-tjenesten, ofte uten at brukeren har kontroll på dette.
Lokalt drevne KI-løsninger
Det har kommet flere løsninger som gjør det mulig å kjøre open-source LLM-er (stor språkmodell) på en personlig datamaskin og derved kjøre hele KI-prosessen lokalt. Dette kan i flere tilfeller være en god løsning både sikkerhetsmessig og rent praktisk. NIH har for tiden ikke godkjent en slik løsning på sentralt nivå. Dersom du ønsker å benytte en slik løsning må dette derfor behandles som en lokal installasjon av programvare og prosessene for installasjon av slik programvare må gjennomføres, blant annet med en risikovurdering av løsningen og godkjenning fra IT-avdelingen.
Kontroller opphavet til KI-tjenesten
Det er viktig å kontrollere og ta stilling til leverandøren av KI-tjenesten, både opphav og hvor data i KI-tjenesten behandles. Det er eksplisitt forbudt å bruke KI-tjenester fra land særskilt nevnt i PSTs årlige nasjonale trusselvurdering og KI-tjenester der data behandles og lagres i slike land. Kina og kinesiske KI-tjenester er et konkret eksempel på dette.
Sendt til NIH-styret, 05.06.2025, av Hans Olav Krogsæter