Kapittel 1Sammendrag

Potensialet og forventningene til KI er høye i helse- og omsorgstjenesten, noe som blant annet er reflektert i den nasjonale digitaliseringsstrategien og Nasjonal helse- og samhandlingsplan [1][2]. Sistnevnte peker på at KI kan bidra til raskere og mer presis diagnostikk, bedre beslutningsstøtte til personell, forenklet logistikk, automatisering av administrative oppgaver, og å sette innbyggerne bedre i stand til å følge opp sin egen helse. KI vil også kunne utgjøre et betydelig bidrag til en bærekraftig utvikling av vår felles helsetjeneste.

Utvikling og bruk av kunstig intelligens (KI) og spesielt store språkmodeller har hatt en stor vekst de siste årene. Bruk av store språkmodeller har potensiale for å forbedre både effektiviteten og kvaliteten i helse- og omsorgstjenesten, eksempelvis gjennom automatisk tekstproduksjon, strukturering av fritekst i pasientjournalen, maskinassistert helsefaglig koding, hjelp til klarspråk, oversettelse, talegjenkjenning, kunnskapsstøtte, helseforskning, sortering og triagering av pasienthenvendelser, klinisk samtalerobot (spørsmål og svar), innbyggerrettet samtalerobot, helseutdanning og beslutningsstøtte i behandling [3].

På den andre siden er det store risikoer knyttet til å ta i bruk generativ KI. Denne rapporten beskriver viktige risikoer som den norske helse- og omsorgs­tjenesten må ta hensyn til for å kunne bruke KI-systemer som baserer seg på store språkmodeller på forsvarlig vis. Risikoene knytter seg både til iboende risiko forbundet med denne type KI-modeller, og til bruken av dem i helse- og omsorgstjenesten.

Foreløpig egner språkmodeller seg best til språklige og administrative oppgaver. Kvalitetssikring er viktig uansett bruk. KI-systemer med språkmodeller som skal brukes til å yte helsehjelp er mest sannsynlig medisinsk utstyr, og dermed regulert gjennom lov om medisinsk utstyr.

Tilpasning til norske forhold er én måte å redusere risikoer på knyttet til bruk av store språk-modeller i helse- og omsorgstjenesten. Rapporten beskriver hva slik tilpassing innebærer, hvordan tilpasninger kan gjøres, hva som trengs, og hvem som kan gjøre tilpassing.

Til slutt anbefaler rapporten tiltak som kan redusere risikoer og legge til rette for bruk som er tilpasset norske forhold i helse- og omsorgstjenesten:

• etablere kvalitetsrammeverk for store språkmodeller for norsk helse- og omsorgstjeneste
• bygge og dele kompetanse om utvikling og bruk av store språkmodeller
• etablere felles datagrunnlag
• utrede behov for infrastruktur med regnekraft tilpasset helsesektorens behov
• utrede forvaltningsstruktur for store språkmodeller i helse- og omsorgssektoren

De fleste tiltak vil måtte løses i samarbeid mellom en rekke aktører, eksempelvis Helsedirektoratet, Norske helsenett (NHN), Forskningsrådet, Nasjonalbiblioteket, UH-sektoren, regionale helseforetak, regionale IKT-selskaper og KS. Det foreslås at Helsedirektoratet tar et særlig ansvar for å etablere et kvalitetsrammeverk.