Offentlig KI-tjeneste for helserelaterte spørsmål

Sammendrag

Norge har gode helsedata, sterke fagmiljøer, høy digital modenhet og et tillitsbasert samfunn. Vi har dermed gode forutsetninger for å utvikle og implementere KI-løsninger i helse- og omsorgstjenesten som er klinisk relevante, medisinsk og helsefaglig forsvarlige og tilpasset norske rammebetingelser. 

Innbyggerne endrer vaner raskt. For å tilby helsetjenester som oppleves nyttige, må vi være der folk er, og tørre å utforske hvordan ny teknologi kan endre, forbedre eller skape helt nye måter levere helsetjenester på. 

Etablering av en offentlig KI-tjeneste for helserelaterte spørsmål på Helsenorge løfter behovet for å se nærmere på helsehjelpsbegrepet og bruk av automatiserte løsninger. Dagens skille mellom helsehjelp og ikke-helsehjelp utfordres når KI gir tilpassede helseråd uten involvering av helsepersonell. Vi anbefaler at det utredes om et mellomnivå for målrettede helseråd er formålstjenlig. Videre bør rammene for automatisering vurderes. Rammene bør inkludere hvilke svar som kan gis helautomatisk, og når det er krav om menneskelig kontroll for å ivareta faglig forsvarlighet, personvern og pasientsikkerhet.

Ansvarsforholdene må tydeliggjøres. Vi har vurdert ulike modeller for roller og ansvar. Helsedirektoratet kan være en nasjonal aktør som gis helhetlig ansvar for kvalitet, etterlevelse og risikostyring av den offentlige KI-tjenesten. Vi anbefaler også at kunnskap og informasjonskilder gjøres KI-klare, og at det pekes på én ansvarlig aktør med ansvar for kunnskaps- og informasjonsforvaltning. 

Teknologivalgene bør støtte en modulær og modell-agnostisk arkitektur. Det bør utarbeides et kvalitetsrammeverk som skal bidra til større forutsigbarhet, etterprøvbarhet og transparens. KI-tjenesten må også inkludere beskyttelsesmekanismer og systemer for løpende måling av kvalitet og avvik. Å etablere og drifte en offentlig KI-tjeneste innebærer høy kompleksitet og risiko, og vil kreve etablering av tydelige rammer, krav og insentiver for å få til et fungerende økosystem. 

Vi foreslår en trinnvis innføring av del-tjenester, i samarbeid med relevante fagmiljøer. Første trinn prioriterer lav risiko og høy nytte, som klarspråk for prøvesvar og epikriser, nasjonal videreføring av eksisterende triageringspiloter, avgrensede forebyggings- og oppfølgings-tjenester, og/eller del-tjenester for enkelte pasientgrupper. Dette kan sannsynligvis gjøres innenfor dagens rammer. 

For å komme videre må de prinsipielle spørsmålene utredes og avklares. Helsedirektoratet vil igangsette aktiviteter som er avgjørende for videre framdrift. Dette inkluderer å definere hva en KI-tjeneste som gir målrettede helseråd faktisk innebærer, og vurdere potensielle gevinster og konsekvenser for helsetjenesten, samt å inngå forpliktende samarbeid med relevante miljøer.

Mål med en offentlig KI-tjeneste som gir helserelaterte råd

Departementet har bedt Helsedirektoratet om å gjøre innledende vurderinger for etablering av en offentlig KI-tjeneste som svarer på helserelaterte spørsmål fra innbyggerne. Tjenesten skal bidra til at innbyggerne i større grad kan mestre egen helse. Ifølge bestillingen er det et mål at det på sikt skal etableres en tjeneste som gir individuell helsehjelp. Tjenesten kan bygges ut trinnvis, der første trinn kan være en tjeneste som ikke er definert som helsehjelp. Helsedirektoratet har fått kort tid på å levere på en kompleks bestilling. Vi anser videre arbeid med en slik tjeneste som både viktig og nødvendig. 

Innbyggernes raske og utbredte bruk av internasjonale KI-assistenter skyldes i stor grad fordeler som høy tilgjengelighet, gode brukergrensesnitt, anonymitet og en forventning om raske og nyttige svar. Studier har vist at 78,4 % av brukerne er villige til å bruke ChatGPT til selvdiagnose.[1]  Innbyggerne har i liten grad mulighet til å vurdere kvaliteten i slike KI-tjenester, og det er begrenset innsyn i datagrunnlag og vurderinger som ligger til grunn. Tjenestene er ikke underlagt offentlig tilsyn av kvalitet i rådene som gis. Dette innebærer risiko for feilinformasjon, falsk trygghet og økt press på helsetjenesten dersom både kilder og svar ikke kan kontrolleres for kvalitet. 

Målet med en offentlig KI-tjeneste er å øke helsekompetansen i befolkningen og gjøre innbyggerne bedre i stand til å ta vare på egen helse. Helsedirektoratet vil utforske hvordan KI kan endre og skape nye måter å levere helsetjenester på, som supplerer, og ikke forsøker å konkurrere med de store internasjonale KI-aktørene. Den offentlige KI-tjenesten supplerer digitale tjenester på Helsenorge, der innbyggerne også har tilgang til generell helseinformasjon, egne helseopplysninger og selvhjelpsverktøy. Tjenesten vil etableres gjennom et økosystem hvor vi ser for oss at flere aktører kan levere del-tjenester, som for eksempel klarspråkmodul, kvalitetssikrede kunnskapskilder og helsefaglige språkmodeller. Samlet kan dette gjøre tjenesten relevant og attraktiv for innbyggerne, veilede innbyggerne videre til rett helsehjelp, redusere presset på helsepersonellet, legge grunnlag for næringsutvikling og dermed være et viktig bidrag til en bærekraftig helsetjeneste. Tjenesten kan starte med å samle og gi helseinformasjon fra flere aktører, videreutvikles til å gi målrettede helseråd og på sikt kan det tenkes at tjenesten kan tilby “automatisert helsehjelp”. 

Rettslige rammer 

Kunstig intelligens åpner nye muligheter for hvordan vi kan møte innbyggernes behov. For å utforske mulighetsrommet for en offentlig KI-tjeneste må vi forstå dagens rettslige rammer. 

De bygger på eksisterende lovgivning, inkludert helsepersonelloven, pasient- og bruker­rettighets­loven, helse- og omsorgstjenesteloven, spesialisthelsetjenesteloven med tilhørende forskrifter og strålevernregelverket. Videre gjelder menneskerettighetene, Grunnloven, samt andre regelverk som likestillings- og diskrimineringsloven og forvaltningsloven. I tillegg har vi EU-regelverk som er gjennomført i norsk rett gjennom lov om medisinsk utstyr og personopplysningsloven, mens KI-loven akkurat har vært på høring.[2] 

Generelt for alle KI-verktøy som behandler person- og helseopplysninger stilles det krav om at behandlingen skjer i samsvar med taushetsplikten og prinsippene i personvernforordningen. Den dataansvarlige virksomheten må sørge for at bruken av KI-verktøyet skjer innenfor disse rammene. 

Som ved all innføring av ny teknologi på helseområdet, vil også utvikling og bruk av KI kunne innebære nye typer risiko. Det er i den sammenheng viktig å påpeke at krav som stilles i helse­lovgivningen til virksomheten og helsepersonellet som yter helsehjelp, også gjelder her. Dette dreier seg for eksempel om krav til faglig forsvarlighet etter helsepersonelloven § 4, taushetsplikt etter helsepersonelloven § 21, samt dokumentasjonsplikt etter helse­personel­loven §§ 39 og 40. Etter pasient- og brukerrettighetsloven har pasientene blant annet rett til informasjon, med­virkning og journalinnsyn. Definisjonen av helsehjelpsbegrepet er imidlertid vid, og det er ikke alltid like klart hvor grensen går mellom generell helseinformasjon og helse­hjelp. Helsedirektoratet har lagt til grunn flere momenter som har betydning for denne vurderingen.[3] 

EUs forordning om kunstig intelligens (KI-forordningen) bygger på og supplerer tilgrensende regelverk slik som, personvernforordningen, forordning om medisinsk utstyr og helse­lov­givningen. Forordningen har en risikobasert tilnærming, der hvert KI-system klassifiseres etter risiko­nivå som har betydning for hvilke krav en leverandør eller idriftsetter skal følge. Klassifisering av risiko skal baseres på den tiltenkte bruken av KI-systemet og risikoklassene er delt inn i minimal, begrenset, høy og uakseptabel risiko. I tillegg inneholder forordningen krav til leverandører av KI-modeller for allmenne formål (General purpose AI/GPAI), som kan være en integrert del av et KI-system. 

KI-verktøy som brukes til administrasjon av generell helseinformasjon, vil etter direktoratets vurdering anses som et KI-system med begrenset risiko. Videre vil KI-verktøy som brukes til helsehjelp i utgangspunktet utgjøre et KI-system med høy risiko. Kravene som stilles til disse type KI-systemer, samt KI-modeller for allmenne formål, er nærmere beskrevet på den tverretatlige informasjonssiden om KI.[4]

Målrettede helseråd til innbyggerne 

Utviklingen av KI-tjenester innen helseområdet reiser prinsipielle spørsmål som handler om hvordan vi forstår helsehjelp, hvor grensene går mellom teknologi og menneskelig kontroll, og hvordan slike tjenester kan påvirke norske tradisjoner når det gjelder velferd og samfunn: 

1. Hvordan kan en KI-basert helsetjeneste sikre tillit og kvalitet, samt likeverdig tilgang, og ikke bidra til svekket samlet helsetjeneste? 
2. Hvor går grensen mellom generell helseinformasjon og individuell helsehjelp? 
3. Hva kan og bør automatiseres i en offentlig KI-tjeneste?

Tillit og kvalitet 

Mange er åpne for å bruke KI-tjenester[5], men kvalitetssikrede offentlige alternativer finnes ikke. Det offentlige "helse-Norge" har høy tillit. Både tillit og pasientsikkerhet kan undergraves dersom KI-tjenester tilbys uten tydelig ansvar og kvalitet, fordi det øker risiko for feilinformasjon.[6],[7] 

En chat-tjeneste kan gi inntrykk av empati og forståelse, men også skape uheldig psykologisk avhengighet hos brukerne[8], og utfordre det tradisjonelle tillitsforholdet mellom helsepersonell og pasient. Det er uklart hvordan en slik tjeneste vil påvirke forbruket av tradisjonelle helse­tjenester. Vil det gi økt press på en allerede belastet sektor, endre kommunikasjonen med helse­personell[9], [10],[11], eller øke antall henvendelser av innbyggere som vil ha en second opinion? KI-løsninger kan også føre til endrede arbeidsoppgaver og samhandlingsmønstre mellom profesjoner, og vil kreve at kompetanse, opplæring og støtte utvikles i takt med teknologien. 

Styrke innbyggernes helsekompetanse

Målet med en offentlig KI-tjeneste er å øke helsekompetansen i befolkningen og gjøre innbyggerne bedre i stand til å ta vare på egen helse. Det vil også være et viktig mål å styrke innbyggernes generelle kompetanse på KI og spesielt generativ KI, for å gjøre dem bedre rustet til kritisk å vurdere informasjonen fra en chat-tjeneste. Samtidig må de som ikke ønsker eller har mulighet til å bruke digitale helsetjenester sikres likeverdige tilbud. Det er viktig å være oppmerksom på at en slik tjeneste kan øke den digitale kløften i befolkningen, og i denne konteksten evt. gi økende helseforskjeller mellom dem som bruker og ikke bruker digitale tjenester.[12] 

Helsehjelp, målrettede helseråd og helseinformasjon

Helsehjelp er definert som «enhver handling som har forebyggende, diagnostisk, behandlende, helsebevarende, rehabiliterende eller pleie- og omsorgsformål og som utføres av helse­personell».[13] Dersom det først ytes helsehjelp, er det et krav at tjenestene som ytes er forsvarlige, og at helsepersonellovens plikter vedrørende informasjon, journalføring mv. overholdes av helsepersonellet.[14] 

Da loven ble utformet, var det neppe aktuelt å forestille seg at maskiner, som f.eks. KI-systemer, kunne produsere råd som ligner på og som kan bli oppfattet som helsehjelp. En KI-tjeneste som genererer innhold, og som ikke involverer helsepersonell, vil i utgangspunktet falle utenfor lovens helsehjelpsbegrep. Selv om en slik KI-tjeneste ikke omfattes av helsehjelpsbegrepet, kan det i praksis likevel oppfattes slik at den har forebyggende, diagnostisk eller behandlende funksjon overfor innbyggeren. En generativ KI-tjeneste kan skape en forestilling hos innbyggerne av at de mottar profesjonell helsehjelp fordi språk, struktur, tilpasning og referanser til fagkunnskap kan etterligne hvordan helsepersonell gir råd. Dette gjør at innbyggeren lett kan tillegge disse rådene samme tyngde og autoritet, selv om systemet verken har juridisk ansvar eller har de menneskelige vurderingene som kreves i helsetjenesten. Hvis KI-tjenesten tilbys fra en offentlig plattform som Helsenorge, kan innbygger anta at informasjonen er like trygg og kvalitetssikret som ved helsehjelp. Det kan imidlertid gi en falsk trygghet dersom kvaliteten varierer. Derfor blir det viktig å ramme inn en offentlig KI-tjeneste, slik at helsefaglig og juridisk ansvar blir ivaretatt.

Helsehjelpsbegrepet, slik det er definert i helsepersonelloven, er binært: enten er en aktivitet helsehjelp eller ikke. Dette kan være utilstrekkelig når vi tar i bruk KI. Det er derfor behov for å vurdere muligheten for et nytt nivå mellom helsehjelp og ikke-helsehjelp.

En offentlig tjeneste som gir målrettede helseråd vil kunne være en tjeneste der innbyggeren har mulighet til å gi fra seg egne opplysninger, men hvor svaret bare er av delvis handlingsrettet karakter. Dersom en offentlig KI-tjeneste tilbyr noe utover generell helseinformasjon, men heller ikke er helsehjelp, må det tydeliggjøres hvilke rettigheter og plikter som inntrer. Dette kan medføre et behov for å utrede om det er behov for ny regulering.

Automatisert tjeneste 

Et mål med den offentlige KI-tjenesten er at innbyggerne i større grad kan mestre egen helse. En KI-tjeneste som behandler helseopplysninger for å gi innbyggere tilpassede, automatiserte helseråd, vil som hovedregel være forbudt etter personvernforordningen artikkel 22 dersom rådene har rettsvirkninger for eller i betydelig grad påvirker innbyggeren. For at en KI-tjeneste skal kunne gi innbyggere denne type helseråd uten å bryte med forbudet, må det enten foreligge et aktivt og informert samtykke fra innbygger eller annen lovhjemmel for å gi slike helseråd. I tillegg kreves det at det blant annet innføres egnede tiltak for å sikre menneskelig involvering og ansvar, samt transparens. 

Det kan være mulig å innrette en automatisert KI-tjeneste som gir målrettede helseråd som ikke har rettsvirkninger for eller i betydelig grad vil påvirke innbyggeren, men som likevel vil være nyttig. Derfor kan det være ønskelig å utnytte potensialet i å automatisere svar for denne type KI-tjeneste. 

Tabell 1 og Figur 2 beskriver tre nivåer av automatiserte KI-tjenester og gir et eksempel på hvordan en type KI-tjeneste (for flåttbitt) kan se ut i hvert nivå. Nivådelingen er tenkt generell, og kan for eksempel anvendes med tanke på både forebygging og oppfølging etter endt behandling.

Organisering og ansvarsmodeller 

Utviklingen av en offentlig KI-tjeneste krever tydelig ansvar og god organisering for å sikre kvalitet, tillit og langsiktig bærekraft. Klare roller, forankring i helsesektoren og koordinering på tvers av fagmiljøer og forvaltningsnivåer er avgjørende. Hvis det skal etableres en offentlig KI-tjeneste stilles følgende prinsipielle spørsmål knyttet til ansvar og organisering: 

1. Hvordan bør ansvarsmodellen for en nasjonal KI-tjeneste utformes, sett i lys av den eksisterende organiseringen mellom primær- og spesialisthelsetjenesten? 
2. Hvordan kan helsefaglige kunnskapskilder forvaltes enhetlig for å kunne gi nødvendig grunnlag for kvaliteten i den offentlige KI-tjenesten? 

Det kan være behov for to nye roller; et nasjonalt ansvar for en offentlig KI-tjeneste med
inngang på Helsenorge og et nasjonalt ansvar for kunnskaps- og informasjonsforvaltning, se figur 3.

Nasjonalt ansvar for offentlig KI-tjeneste 

Regjeringen har satt ned et helsereformutvalg som skal utrede og foreslå nye modeller for fremtidig organisering, styring og finansiering av helse- og omsorgstjenesten i Norge. Det pågår flere utprøvinger av nye måter å organisere helsetjenester på, kalt "Prosjekt X"[15] og det er naturlig at en fremtidig organisering av en offentlig KI-tjeneste ser hen til dette arbeidet. 

Helsedirektoratet mener det er hensiktsmessig at én organisasjon har det helhetlige ansvaret for en offentlig KI-tjeneste som gir målrettede helseråd. Ansvaret innebærer å sikre at regelverket følges og at etiske hensyn, helsefaglig forsvarlighet og kvalitet ivaretas i alle ledd. Prinsippene i forskrift om ledelse og kvalitetsforbedring i helse og omsorg og pasientskadeloven bør også gjelde for denne virksomheten. 

Et slikt helhetlig ansvar innebærer å oppstille tydelige krav og rammer til alle aktører som leverer inn (kvalitet, samhandling, data, KI-modeller, løsninger og del-tjenester) i økosystemet. Risikoene i det internasjonale og politiske landskapet kan håndteres gjennom modell-agnostisk orkestrering, som muliggjør leverandørbytte ved politiske eller regulatoriske endringer. 

Helse- og omsorgsdepartementet (HOD) kan peke på en eksisterende organisasjon og gi det et utvidet ansvar eller etablere en ny organisasjon. Nedenfor er alternativer Helsedirektoratet anser som mest relevante for å få et utvidet ansvar: 

Helsedirektoratet kan etablere en ny avdeling eller (ny) ytre etat. Fordelene er at Helse­direktoratet er nasjonal myndighet for digitalisering og informasjonsforvaltning i helse- og omsorgs­tjenesten, som innebærer ansvar for å gi pålitelig, oppdatert og forskningsbasert helse­informasjon til innbyggerne. I tillegg har Helsedirektoratet ansvar for nasjonal helsefaglig veiledning og normering, utgiveransvar på Helsenorge som betyr etisk og rettslig ansvar for innholdet og nasjonalt ansvar på tvers av primær- og spesialisthelsetjenesten. Helsedirektoratet har imidlertid ikke "sørge-for"-ansvar for å tilby helsehjelp, og yter heller ikke helsehjelp. Samtidig må dette sees opp mot anbefalingen om å utrede en ny type tjeneste som gir målrettede helseråd. Helsedirektoratet er positiv til å påta seg et utvidet ansvar, men mener at dette bør utredes nærmere.

Spesialisthelsetjenesten kan få ansvaret ved at ett regionalt helseforetak blir tildelt ansvaret eller alle RFHene blir tildelt ett felles ansvar. RHFene har allerede et "sørge-for"-ansvar for helse­tjenester i dag. De har oppdrag om å bistå helsefellesskapene med styringsdata. De har imidlertid ikke ansvar knyttet til førstelinjen eller på tvers av spesialist- og primær­helse­tjenesten og de har få/ingen pasientrettede tjenester på tvers av regionene. De har heller ingen myndighets­rolle.

Nasjonalt ansvar for kunnskaps- og informasjonsforvaltning 

KI-klare kunnskapskilder, som er oppdatert, korrekt og i tråd med medisinsk og helsefaglig kunnskap, legger grunnlaget for utvikling av KI-modeller og -tjenester. 

Kunnskapssituasjonen i norsk helsevesen er preget av ujevn kvalitet, med synkende tilgang til sentrale kilder, spredt og fragmentert formidling, samt økende avhengighet av kommersielle aktører.[16] 

Ulike aktører produserer, forvalter og formidler helseinformasjon – fra nasjonale myndigheter og institusjoner til fagmiljøer, spesialisthelsetjenesten og kommunale tjenester. Ansvar, opp­datering og kvalitetssikring er fordelt på mange aktører, og det mangler en samlet struktur som sikrer helhet og konsistens i kommunikasjonen mot innbyggerne. 

Når KI-tjenester tas i bruk, forsterkes denne utfordringen. KI-systemer baserer seg på tilgjengelige kilder, men dersom kildene er ufullstendige, uensartede eller overlappende, øker risikoen for feilinformasjon, motstridende råd eller at innbygger får ulik informasjon avhengig av hvilken inngang de benytter. Dette kan undergrave både kvalitet og tillit. Danmark har for eksempel samordnet helseinformasjon til innbyggere.[18] 

En nasjonal kunnskaps- og informasjonsforvaltning bør ha som mål å samle, strukturere og kvalitetssikre helseinformasjon på tvers av aktører, og stille krav til hvordan dataene brukes i KI-tjenester. Det vil være nyttig å se kildene til tjenester som retter seg mot innbyggere og helsepersonell under ett. 

Én aktør bør få ansvar for å samle og forvalte helserelatert kunnskap og informasjon, slik at tilstrekkelige kilder er tilgjengelig for å kunne tilby befolkningen relevant og tilpasset helseråd og helse­informasjon. Det innebærer bla ansvar for å sikre kvalitet i datakildene, dekning av alle relevante fagfelt og tjenesteområder basert på norsk helsefaglig kunnskap og praksis, verdier, lover og etikk. 

Nedenfor listes noen alternativer Helsedirektoratet anser som mest relevante for å få et utvidet ansvar. 

Folkehelseinstituttet (FHI), inkludert Helsebiblioteket og Giftsentralen, har allerede et nasjonalt og bredt ansvar som kunnskapsprodusent for myndigheter og helsetjenesten, og har omfattende erfaring med informasjonsforvaltning som forvaltere av helseregistre. FHI bidrar også med pasientrettet informasjon (via Helsenorge.no) og innhenter kunnskap fra registre og undersøkelser. Den normerende myndigheten er begrenset til smittevern. 

Helsedirektoratet har allerede utgiveransvar for informasjonsinnholdet på Helsenorge, koordinerende ansvar for informasjonsinnholdet i ETI-løsningen, og har en myndighetsrolle som ivaretar innbygger, ansvar på tvers av primær- og spesialisthelsetjenesten og ansvar for nasjonal medisinsk og helsefaglig normering. Helsedirektoratet har også erfaring med informasjons­forvaltning gjennom disse oppgavene og gjennom sine publikasjoner av analyser, statistikk, data og indikatorer. Videre bidrar Helsedirektoratet med mye pasientrettet informasjon bl.a. via Helsenorge.no og gjennom informasjonskampanjer. HELFO har ansvar for chatboten som ligger på Helsenorge i dag.

Spesialisthelsetjenesten er store kunnskapsprodusenter knyttet til diagnostikk, behandling og oppfølging, og de har noen relevante ansvarsfunksjoner som går på tvers av helseregionene, eksempler er FNSP (informasjon om tjenester og behandlingstilbud), Metodebok.no (diagnostikk, behandling, prognose og oppfølging) og SKDE (øke kunnskap om behandlings­kvalitet og bruk av spesialisthelsetjenesten). De favner imidlertid i begrenset grad primær­helse­tjenesten og innbygger­perspektivet. 

Teknologi og data 

En offentlige KI-tjeneste må tilby noe de internasjonale aktørene ikke kan, som gir tillit, transparens, kvalitet og sikker databehandling. Noen prinsipielle spørsmål som gjelder data og modellbygging. 

1. Hva bør Norge ha kontroll over selv, for å sikre nasjonal digital autonomi? 
2. Hvordan skal vi sikre at KI-tjenester ivaretar språk og kultur i Norge? 
3. Hvordan kan vi mest hensiktsmessig bygge en offentlig KI-tjeneste, med tanke på tilgjengelige teknologier og ressurser? 
4. Hvordan bør aktørene i økosystemet involveres og engasjeres? 

Internasjonalt og politisk KI-landskap 

Teknologiutviklingen påvirkes av det internasjonale og politiske landskapet. Ulik regulering internasjonalt, for eksempel mellom USA og EU, kan skape et spenningsfelt, særlig hvis en offentlig KI-tjeneste bindes for tett til amerikanske plattformer. 

For eksempel utstedte USAs president i juli 2025 en ordre som pålegger føderale byråer å anskaffe KI-modeller som fremmer truth-seeking og "ideologisk nøytralitet", samtidig som bruk av konsepter som DEI (Diversity, Equity & Inclusion), kritisk raseteori, transgenderism, unconscious, bias, intersectionality og systemisk rasisme problematiseres i kontrakter.[19] Selv om dette gjelder føderale anskaffelser, kan det indirekte prege kommersielle tilbud. For Norge innebærer det en risiko for at amerikanske KI-modeller kan gjenspeile amerikanske politiske føringer, også i helserelaterte svar. 

Utvikling og bruk av europeiske, nordiske og norske KI-modeller, etablering og bruk av datasentre og infrastruktur bør derfor ses som både teknologisk satsing for å understøtte offentlige KI-tjenester og som en investering i digital autonomi og politisk risikohåndtering. 

Kvalitetssikret datagrunnlag 

Å bygge en KI-tjeneste av god kvalitet, krever et kvalitetssikret datagrunnlag med oppdaterte og relevante kunnskaps- og informasjonskilder. Slike data kan være åpne og fritt tilgjengelige (fra internett), beskyttet av opphavsrett (lærebøker) og beskyttet av taushetsplikt (journaltekster). Informasjonen må tilrettelegges for KI på ulike måter for å bli KI-klar. 

Tilrettelagte kunnskaps- og informasjonskilder kan brukes både til å forbedre KI-assistentene fra de store globale aktørene, trene nye modeller og forbedre og kontrollere våre egne KI-tjenester. 

Datakildene kan tilrettelegges for å synliggjøre dem i KI-modeller på åpne plattformer ved for eksempel Generative Engine Optimization (GEO), noe som er særlig relevant med økende bruk av «null-klikk-søk».[20] 

Datakildene kan brukes til trening og finjustering av norske helsefaglige KI-modeller, i samarbeid med Nasjonalbiblioteket og andre relevante aktører. Et viktig aspekt er å bidra til at språk som brukes i Norge (som bokmål, nynorsk, samiske språk) ivaretas i tjenesten. 

Datakildene kan brukes til å styre KI-systemene til å basere seg på utvalgte kunnskapskilder i sine svar og deretter bruker de til å generere mer presise og faktabaserte svar[21], som for eksempel RAG-løsninger (Retrieval Augmented Generation). RAG-løsninger på norske/nordiske kilder kan være med å sikre at svar bygger på lokale standarder fremfor utenlandske ideologier. 

Datakildene er i tillegg viktige for å kunne teste og evaluere både enkelt-deler og KI-tjenesten som helhet i det foreslåtte kvalitetsrammeverket. 

* Se kapittel om felles datagrunnlag i rapport om store språkmodeller

Modellbygging 

KI-modeller er den viktigste komponenten i en KI-tjeneste. KI-modeller kan ha ulik karakter, og skillene her er vesentlig. De kan være prediktive (analyser av bilder) eller generative (språkmodeller). En generativ modell kan finne på svar (hallusinere), gi ulike svar på samme spørsmål og det er betraktelig vanskeligere å sikre og sjekke kvaliteten til en generativ modell enn en prediktiv. En KI-tjeneste kan basere seg på én eller en kombinasjon av flere KI-modeller. 

De mest kjente KI-modellene er store, og egnet til allmenne formål, mens KI-modeller kan også være små og dedikerte til spesifikke diagnoser, fagområder eller arbeidsprosesser. For eksempel planlegger Nasjonalbiblioteket å tilby generelle modeller for fri bruk i samfunnet, og modellene kan trenes videre for mer spesialiserte anvendelser, som helse. De første eksperimentelle modellene er planlagt primo 2026. Nordiske språk ligner på hverandre, og et nordisk samarbeid vil være aktuelt.

En fremtidsrettet KI-tjeneste bør kombinere eksisterende løsninger, videreutviklede komponenter og nye modeller. KI-teknologien utvikler seg raskt og man må derfor legge til rette for oppdatering av data og utskifting av teknologiske komponenter, se figur 6. 

Et verktøy er, i denne sammenheng, en modul eller komponent som utfører en spesifikk oppgave. RAG (Retrieval Augmented Generation) og søk er to typer verktøy. En annen type verktøy kan gi tilgang til individuelle helsedata og helseregistre via API-løsninger som kan benyttes for å tilpasse svar til den enkelte. Agentisk KI er prosessen som orkestrerer bruken av ulike verktøy. 

Beskyttelsesmekanismer (engelsk: guardrails) kan filtrere for eksempel feil eller skjevheter. Systemprompt er en instruksjon som brukes til å styre et KI-system i hvordan den skal svare på brukerinput, for eksempel til å kun gi svar basert på spesifikke kilder. 

Brukerprompt[22] gis av brukeren i en tekstbasert dialog (chat-dialog) med KI-tjenesten og kan være innbyggernes egne opplysninger, måledata og bilder. Dialogen brukes til å komme frem til en forståelse av hva brukeren faktisk lurer på og dermed også til mer presise svar fra KI-systemet. 

Menneskelig testing, overblikk og jevnlig kontroll over systemet er viktig for å sikre riktige, etiske og ansvarlige beslutninger som teknologien alene ikke kan garantere. (Dette er ikke nødvendigvis det samme som at mennesker skal være involvert i svarene som KI-tjenesten gir.) 

Den offentlige KI-tjenesten må kunne evalueres systematisk og bredt for å være forsvarlig. Det er behov for et kvalitetsrammeverk med prinsipper og standarder for kvalitet, blant annet gjennom verktøy som kan måle og begrense risikoen for hallusinasjoner, som bidrar til større forutsigbarhet, etterprøvbarhet og transparens.[23] Evalueringene må omfatte språk (bokmål, nynorsk, samisk), kulturell tilpasning og medisinsk- og helsefaglig kunnskap og praksis. Man må sørge for at ytelse og robusthet holder seg innenfor kvalitetskravene over tid, også ved raske endringer av modeller. 

* Se kapittel om kvalitetsrammeverk i rapport om store språkmodeller

Tjenesten bør etableres modulært, med komponenter som samlet ivaretar både kvalitet og brukeropplevelse. KI-teknologien utvikler seg raskt og løsningen må derfor legge til rette for oppdatering av data og utskifting av teknologiske komponenter. 

Økosystem for en offentlig KI-tjeneste 

Å etablere og drifte en offentlig KI-helsetjeneste innebærer høy kompleksitet og risiko, og vil kreve en betydelig innsats fra mange aktører med ulikt ansvar. 

Den offentlige KI-tjenesten kan bli tilgjengelig på Helsenorge og bestå av flere ulike del-tjenester. Flere aktører vil være aktuelle for å tilby deltjenester og komponenter til KI-tjenesten, se figur 7 nedenfor. Eksempler er utviklere av KI-modeller, tilbydere av kunnskap, informasjon og datasett, produsenter av CE-merkede løsninger, infrastrukturleverandører, og helsenæringen og FoU-institusjoner for øvrig. 

Orkestreringen av økosystemet vil være kompleks, og vil kunne inkludere håndtering av avtaler med flere aktører, blant annet datatilbydere, utviklere og leverandører. KI-tjenestene må til enhver tid kunne basere seg på oppdatert teknologi. Valg som gjøres må understøtte en modulær og fleksibel måte å samhandle mellom ulike teknologier, som holder tritt med den raske teknologiutviklingen. Det forutsetter høy KI-kompetanse. 

Flesteparten av de aktuelle del-tjenester vil være kostbare å utvikle, spesielt dersom de skal CE-merkes. For å oppnå et CE-merke kreves kliniske studier og grundig dokumentasjon, noe som er både tid- og ressurskrevende. Dette må hensyntas i insentivene som tilbys. 

Videre arbeid 

Trinnvis utvikling 

Det første trinnet bør være å etablere del-tjenester som gir høy gevinst med lav risiko i en relativ kort tidsramme, eksempelvis 

• å løfte frem arbeidet til NHN, som svarer på oppdraget om å ta i bruk KI for å forenkle tilgangen til generell informasjon og verktøy som finnes på Helsenorge.
• å utvide kostholdsrådene til Helsedirektoratet med målrettede kostråd
• å etablere en ny tjeneste som oversetter til klarspråk og hjelper innbyggerne med å forstå medisinsk informasjon, som de enten har fått fra en åpen KI-tjeneste (som ChatGPT) eller fra helsetjenesten selv, som f.eks prøvesvar, behandlingsløp eller legemiddeloversikt. 
• å løfte frem en eller flere eksisterende piloter for triagering til en nasjonal løsning, for eksempel triageringsløsningene som testes ut i Kristiansand kommune (Helsehjelppiloten) og Studentsamskipnaden i Oslo. 
• å løfte frem en pilot om vaksineråd for innbygger (FHI), eventuelt barnevaksinasjonsprogrammet.
• å etablere eller løfte frem andre tjenester for forebygging, oppfølging eller for spesifikke pasientgrupper til en nasjonal tjeneste, for eksempel innen psykisk helse. 

Det første trinnet innebærer å vurdere disse kandidatene, og hva som skal til for at de kan bli en nasjonal tjeneste. Dette inkluderer vurderinger av hvem som skal være ansvarlig, om det er behov for juridiske endringer, teknologiske rammer for å inngå i et trinnvis utviklingsløp og behov for finansiering. 

Samtidig bør mulige gevinster og konsekvenser av tjenesten utredes, inkludert hva det gjør med forbruk av tradisjonelle helsetjenester og om KI-tjenesten gir bedre muligheter for egenmestring. 

Det bør også jobbes systematisk med å innhente erfaringer nasjonalt og internasjonalt om til­svarende og tilgrensende initiativer, inkludert kartlegging av tilsvarende tjenester i andre land, og hvordan andre gjør kunnskaps- og informasjonsforvaltning, kvalitetsarbeid og driver økosystem rundt KI-utvikling. 

Parallelt med utvikling av en første versjon vil det være hensiktsmessig å bruke ressurser på å gjøre data KI-klare, etablere et kvalitetsrammeverk og utarbeide tydelige rammer, krav og insentiver for aktører som skal bidra inn i tjenesten. Det vil kunne legge et godt grunnlag for både nye og forbedrede tjenester med kontroll over kilder og innhold. 

Prinsipielle spørsmål knyttet til ansvar, juridiske rammer, behov og konsekvenser må avklares før en offentlig KI-tjeneste kan etableres. Arbeidet med slike avklaringer vil Helsedirektoratet igangsette umiddelbart. 

Involvering av aktører i det videre arbeid 

Helsedirektoratet etablerer et samarbeid innad i helseforvaltningen, med blant annet Helse­direktoratet, FHI, DSA, DMP, Helsetilsynet og NHN, som skal svare ut anbefalingene i denne besvarelsen. Samarbeidet kan bygge på erfaringer gjort gjennom arbeidet i KI-rådet. 

For å avstemme arbeidet med behov hos innbyggere vil bl.a. bruker- og pårørende­organisasjoner, pasientorganisasjoner, brukerutvalget i Helsedirektoratet og DigiUng sitt ungdoms­panel involveres. Legeforeningen vil også involveres. 

For å forankre arbeidet i fagmiljøene vil relevante digitale tjenestetilbydere, utviklere av KI-modeller, eiere av kunnskaps- og informasjonskilder, infrastrukturtilbydere, næringslivsaktører, helse­klynger og FoU-miljøer involveres. 

Nasjonalbiblioteket vil kunne være bidragsyter til å etablere KI-modeller tilpasset norske forhold. De har fått nasjonalt oppdrag for å etablere en KI-fabrikk, inkludert finansering og håndtering av innholdsrettigheter til modelltrening, infrastruktur og personressurser. 

Digitaliseringsdirektoratet har nasjonalt ansvar for å etablere KI-Norge og nasjonale felles­løsninger for tjenesteinfrastruktur som støtter bl.a. utvikling av RAG-løsninger. 

Nordiske og europeiske samarbeidsarenaer som: Nordisk råd har etablert New Nordics AI, som skal være en verktøykasse og sørge for erfaringsutveksling mellom de nordiske landene.[24]

HELFO har utviklet en chatløsning på Helsenorge og et kompetansemiljø knyttet til driften av denne. Den kan utvides med mer helserelatert innhold. Da benytter man en trygg og sikker fremgangs­måte for å komme videre til neste trinn og høster innsikt underveis. Et slik prosjekt kan realiseres raskt da det organisatoriske rigget rundt allerede er på plass. 

Direktoratet for strålevern og atomsikkerhet (DSA) gir råd om helseberedskap ved atomulykker (jodd­tabletter) og nukleære hendelser, råd om UV-eksponering, råd om levevilkår etter nukleær­medisinsk behandling, tiltak for radoneksponering for å redusere lungekreft, risiko forbundet med medisinsk strålebruk, og råd knyttet til eksponering for elektromagnetiske felt (mobiltelefon og trådløse nett).

NHN har i foretaksmøtet for 2025 fått et oppdrag om å ta i bruk KI for å forenkle tilgangen til generell informasjon og verktøy som finnes på Helsenorge. NHNs oppdrag er avgrenset til helse­informasjon.

Noen identifiserte relevante og tilgrensende initiativer er: Helsesvar (DigiUng), Enklere tilgang til informasjon (ETI) (Livshendelsen Alvorlig sykt barn), Studenterspør.no (alle studentsamskipnadene), Nettlegen (Kristiansand kommune), Tverrspråklig effektiv kommunikasjon (Politidirektoratet), Helsehjelppiloten (Kristiansand kommune), piloten for triagering (Studentsamskipnaden i Oslo) og Flåttsenteret (HOD, HSØ og Sørlandet sykehus). 

Erfaringer fra andre land 

Det er tilsynelatende få land som tilbyr en nasjonal digital helsetjeneste basert på KI. 

• NHS i England har planer om å lansere My Companion, for å gi pasienter tilgang til pålitelig helseinformasjon, samt hjelpe dem med å uttrykke sine helsebehov og preferanser, og gi informasjon om deres helsetilstand eller kommende behandling. 
• WHO (Verdens helseorganisasjon) har utviklet prototypen SARAH (Smart AI Resource Assistant for Health), som var en generativ KI-basert chatbot med avatar som kan snakke eller chatte med brukere. Den er utviklet for å gi pålitelig helseinformasjon til folk over hele verden, om helsefremmende vaner (røykeslutt, fysisk aktivitet, kosthold, stressmestring, mental helse), og er tilgjengelig på åtte språk. WHO har vært tydelig på at SARAH ikke gir medisinske råd. 
• NHS 111 Wales, tilbyr en KI-assistent, tilgjengelig på mange språk, som finner informasjon på NHS 111 websiden basert på prompt fra pasientene. Løsningen er utviklet i samarbeid med private aktører som leverer KI løsninger. 
• Omaolo (Finland) er en nasjonal tjeneste for helse- og omsorg. Tjenesten støtter egenmestring og hjelper folk å kontakte den offentlige helsetjenesten hvis nødvendig. Omaolo er sammensatt av flere moduler der noen er CE-merket som medisinsk utstyr. 
• 1177 «Direkt» (Sverige) rulles ut som førstelinje-chat. Har ført til tilsyn og debatt etter avvik i triagering (anslått «3 av 10» i tidlig fase). Lærdom: kvalitetssikring, overvåking og klargjort ansvarsdeling må på plass fra dag én. 

Oppsummering av anbefalinger og overordnet plan

Hovedanbefalinger

Hovedanbefalingene er:

Grunnleggende aktiviteter

• Helsedirektoratet vil igangsette arbeidet med å etablere en offentlig KI-tjeneste som svarer på helserelaterte spørsmål. Arbeidet må definere hva en KI-tjeneste som gir målrettede helseråd innebærer.
• Helsedirektoratet vil gjøre en vurdering av gevinster (kost og nytte) og konsekvenser for helsetjenesten og helsepersonellet.
• Helsedirektoratet vil ta initiativ til å etablere et samarbeid innad i helseforvaltningen, med blant annet Helsedirektoratet, FHI, DSA, DMP, Helsetilsynet og NHN, som skal svare ut anbefalingene i denne besvarelsen. Aktuelle miljøer inviteres inn til forpliktende samarbeid i ulike tiltak der det er aktuelt.
• Helsedirektoratet vil i det videre arbeidet kontakte relevante institusjoner og virksomheter, som tilbyr eller planlegger liknende tjenester, nasjonalt og internasjonalt, og hente inn erfaringer og vurderinger de har gjort.

Trinnvis etablering av del-tjenester

• Helsedirektoratet vil starte arbeidet med å etablere de(n) første del-tjenesten(e).

Etablere rammer

• Helsedirektoratet vil igangsette arbeidet med å etablere tydelige rammer, krav og insentiver for å levere tjenester og løsninger i økosystemet. Rammene vil inkludere objektive vurderingskriterier for hvilke del-tjenester som kan anskaffes eller utvikles for den offentlige KI-tjenesten, inkludert vurderinger av kost og nytte. En finansieringsordning vil sannsynligvis være en forutsetning for å få dette til.
• Helsedirektoratet vil følge opp sin anbefaling i rapport om store språkmodeller og vil lede arbeidet med å utvikle og etablere et felles kvalitetsrammeverk for testing og evaluering av språkmodeller for å bidra til trygg bruk av generative KI-modeller i helse- og omsorgssektor i samarbeid med resten av helsesektoren.[25] Kvalitetsrammeverket bør utvides til å omfatte kvalitetssikring av hele KI-tjenesten.
• Helsedirektoratet vil følge opp sin anbefaling i rapport om store språkmodeller, om
  at helse- og omsorgssektoren bør samarbeide for å gjøre mer data av god kvalitet tilgjengelig til både trening (forhåndstrening og ettertrening), kunnskapsforankring (for eksempel RAG) og testing av språkmodeller som skal brukes i helse- og omsorgssektoren.

Utrede prinsipielle spørsmål

• Helsedirektoratet vil igangsette arbeidet med å utrede en hensiktsmessig organisering av nasjonal kunnskaps- og informasjonsforvaltning på helseområdet for KI-tjenesten, på kort og lang sikt.
• Helsedirektoratet vil igangsette arbeidet med å utrede en hensiktsmessig organisering av en nasjonal KI-tjeneste som tilbyr målrettede helseråd eller "helsehjelp. Utredningen vil sees i sammenheng med arbeidet til Helsereformutvalget, bygge på tidligere relevante erfaringer og tydeliggjøre hvem som skal ha det overordnede ansvaret.
• Helsedirektoratet vil igangsette arbeidet med å utrede behov for regelverksendringer og hva det vil bety for ansvar, rettigheter og plikter å introdusere en ny type tjeneste som er automatisert og gir "målrettede helseråd". Utredningen vil peke på egnede tiltak for å sikre innbyggerne en forsvarlig offentlig KI-tjeneste som svarer på helsespørsmål.

Overordnet plan

Overordnet trinnvis plan for å etablere en offentlig KI-tjeneste som svarer på spørsmål fra innbyggere:

• Utrede prinsipielle spørsmål
  • Hensiktsmessig organisering av kunnskaps- og informasjonsforvaltning for KI
  • Vurdere behov for regulatoriske endringer
  • Hensiktsmessig organisering av ansvarlig for en offentlig KI-tjeneste
• Etablere rammer
  • Gjøre data KI-klare
  • Etablere kvalitetsrammeverk
  • Etablere rammer, krav og insentiver for aktørene i økosystemet
• Trinnvis implementering av del-tjenester
  • Implementere første del-tjeneste
  • Implementere neste del-tjeneste
  • Implementere neste del-tjeneste
• Grunnleggende aktiviteter
  • Gevinster, konsekvenser og økonomiske rammer
  • Definere KI-tjeneste som gir målrettede helseråd
  • Etablere forpliktende samarbeid
  • Innhente erfaringer nasjonalt og internasjonalt