Kunstig intelligens i helsesektoren, og risiko for kjønnsbias

PA Consulting har i samarbeid med CARE Norge gjennomført en studie om bruk av kunstig intelligens i den norske helsetjenesten og de tilhørende etiske problemstillingene det bringer med seg.

Rapporten er et resultat av en rekke intervjuer med helseeksperter, KI-leverandører og klinikere med fokus på å undersøke dagens anvendelse av kunstig intelligens, vurdering av dagens håndtering av bias, og kartlegging av hvor det kan være risiko for kjønnsbias.

Rapportens presenterer seks hovedfunn:

• Det er manglende bevissthet og forståelse av kjønnsbias blant leverandører av KI-løsninger til norsk helsesektor.
• For leverandører av KI-løsninger er det manglende insentiver til å prioritere biastesting utover krav satt av CE-merkingen.
• Få bruker etiske rammeverk i utviklingen av KI-løsninger.
• Innkjøpere av KI-løsninger tar til en viss grad for gitt at bias har blitt håndtert gjennom CE-merkingen.
• Det er uklart hvor ansvaret for validering ligger i dag og hvordan ansvarsfordelingen ideelt sett bør være.
• Algoritmene til KI-løsninger mangler forklarbarhet, tolkbarhet og transparens. Dette kan hindre oppdagelsen av kjønnsbias.