Må kunstig intelligens i helsevesenet være CE-merket?

Det er ikke lov å markedsføre medisinsk utstyr i Europa uten at det er CE-merket. Medisinsk utstyr som er CE-merket, er kvalitetssikret ved at det følger EUs forordning Medical Device Regulation (MDR). Det betyr at jeg som lege ikke får kjøpt medisinsk utstyr som ikke er kvalitetssikret. Dette er en smart løsning som sikrer at hverken leger eller pasienter i Europa eksponeres for medisinsk utstyr som ikke er kvalitetssikret.

I henhold til Medical Device Regulation (MDR) kan programvare bli definert som medisinsk utstyr dersom det møter noen gitte kriterier. Min grovt forenklede fortolkning er at programvare faller innenfor MDR dersom programvaren utviser en form for 'medisinsk forståelse'. Programvare som bare lagrer informasjon, viderebringer informasjon eller tilbyr enkel søkefunksjonalitet vil typisk falle utenfor MDR, da disse funksjonene ikke krever medisinsk forståelse.

Programvare som autonomt tar medisinske beslutninger, som en pacemaker som selv velger når den skal gi støt, faller innenfor MDR fordi du trenger medisinsk forståelse for å vite når et hjerte trenger støt. Programvare som tar opp lyd fra et legekontor og prosesserer denne lyden på en måte som gjør at du sitter igjen med et utkast til journalnotat, krever også en 'medisinsk forståelse' og vil i mine øyne falle inn under MDR. Det betyr at denne typen programvare ikke kan tas i bruk før den er CE-merket.

Å ta i bruk KI-løsninger som skulle vært CE-merket uten at de er det kan få juridiske konsekvenser. Dersom noe går galt med pasientbehandlingen, og det viser seg at legen har brukt programvare som skulle vært CE-merket, men ikke var det, vil legen kunne holdes juridisk ansvarlig. Det vil være vanskelig å forsvare bruken av ikke-godkjent medisinsk utstyr i en eventuell rettssak.

KI-løsninger til bruk som beskrevet over må CE-merkes. Dette er en omfattende prosess som krever betydelig dokumentasjon og testing. Det er en betydelig kortsiktig kommersiell oppside ved å lansere medisinsk utstyr uten CE-merke, fordi man kan ta store markedsandeler raskt. Den kommersielle gevinsten får leverandøren selv, mens risikoen kan de dele med brukeren.