Potensialet og forventningene til kunstig intelligens i helse- og omsorgstjenesten er høye. Samtidig er KI forbundet med kompleksitet både når det gjelder teknologi og regelverk. For eksempel gjelder sektorspesifikke regelverk som norsk helselovgivningen og EUs forordning om medisinsk utstyr. Videre gjelder generelle regelverk som blant annet EUs personvernforordning, åndsverksloven og likestilling- og diskrimineringsloven. I tillegg kommer KI-forordningen, som delvis har trådt i kraft i EU og så raskt som mulig skal innføres i norsk rett. Les mer om dette i Nasjonal digitaliseringsstrategi (regjeringen.no, PDF), side 67. Det er viktig med en tverrfaglig tilnærming til testing, utprøving, anskaffelse, implementering og løpende overvåking for at KI-systemer skal kunne innføres trygt og effektivt i spesialisthelsetjenesten.
Sammenhengen mellom de ulike og noen ganger overlappende regelverkene er kompleks, noe som kan utgjøre en egen risiko. Samtidig går utviklingen av KI-systemer raskt, og nye funksjoner legges til eksiterende verktøy og løsninger. Dette kan for eksempel påvirke om et KI-system skal kvalifiseres som medisinsk utstyr eller ikke, og i så fall hvilken risikoklasse det tilhører, noe som igjen kan påvirke behovet for kliniske utprøvinger og CE-merking.
Et eksempel er spørsmålet om transkribering av tale til tekst og generering av utkast til journalnotat kvalifiserer som medisinsk utstyr. Det er foreløpig ikke fastslått i EU/EØS om den enkleste formen for tale-til-notat anses som medisinsk utstyr. Utfallet av denne prosessen kan komme til å påvirke noen av de KI-løsningene som er en del av denne oversikten. Direktoratet for medisinske produkter (DMP) er imidlertid sikre på at enhver form for beslutningsstøtte, som kombinerer medisinske informasjonsdatabaser og algoritmer med pasientspesifikke data for å gi anbefalinger om diagnose, forebygging, prediksjon, prognose, overvåking eller behandling av sykdom, er å anse som medisinsk utstyr.
Utviklingen innen KI-løsninger (som f.eks tale-til-notat-programvare) går svært raskt, og flere tilbydere på det norske markedet har allerede/eller er i ferd med å introdusere funksjonalitet som forslag til differensialdiagnoser, behandling eller tiltak. Slike funksjoner faller inn under kategorien medisinsk utstyr, minimum i risikoklasse IIa, som krever samsvarsvurdering av et meldt organ (notified body). Det er viktig at de som anskaffer medisinsk utstyr er klar over denne utviklingen og anskaffer utstyr som oppfyller kravene i regelverket. Vi anbefaler derfor at anskaffere gjør seg godt kjent med informasjon fra DMP og Helsetilsynet.
En liste over relevant veiledningsmateriell fra helseetatene er lagt ved som Vedlegg A. KI-rådet godkjenner ikke konkrete KI-løsninger. Gjennom den tverretatlige veiledningstjenesten gir helseetatene løpende veiledning om regelverk som er relevant for bruk av kunstig intelligens i helsetjenesten. Helsesektoren arbeider på sin side med å tilpasse seg en verden i endring.