Utfordringer ved bruk av kunstig intelligens i offentlig sektor

I 2019 gjennomførte Heather Broomfield og Lisa Reutter en kartlegging av status, utfordringer og behov i norsk offentlig sektor når det gjaldt kunstig intelligens og data science.

Figuren viser at organisasjonskultur er den utfordringen flest virksomheter trekker fram som en stor eller veldig stor utfordring. Deretter følger personvern og sikkerhet og juridiske og regulatoriske forhold. Også utfordringer knyttet til datakvalitet og tilgang til data trekkes ofte fram. For alle disse utfordringene svarte mer enn halvparten av virksomhetene at det var en stor eller veldig stor utfordring i deres organisasjon.

Det kan også være verdt å trekke fram analysekompetanse som en vesentlig utfordring. Dette er den utfordringen som har høyest sum når man ser på andelen virksomheter som har svart noe, stor og veldig stor utfordring, med til sammen nesten 80 prosent.

Nærmere om regelverksutfordringer

IT i praksis ser nærmere på regelverksutfordringen gjennom et spørsmål om i hvilken grad virksomheter og kommuner mener regelverk må endres for at de skal kunne automatisere saksbehandling og benytte kunstig intelligens.

Resultatene fra 2022 og 2023 viser at bevisstheten rundt regelverksutfordringer har blitt større. I 2022 var det 42 prosent som i stor og svært stor grad mente regelverk måtte endres; i 2023 hadde tilsvarende andel gått opp til 50 prosent.

Nærmere om datautfordringer

En kartlegging fra 2022, gjennomført av Vestlandsforsking og Rambøll, gikk nærmere inn på hvilke utfordringer offentlig sektor ser i bruk av eller behov for person- eller individdata til KI-prosjekt.

Resultatene viser at det å få tilgang til relevante data, kvalitetssikre data, og anonymisere data var de tre utfordringene flest krysset av for. (Det var mulig å krysse av for flere alternativer.) Nærmere to av tre så på dette som utfordringer. At data inneholder demografiske skjevheter, enten historiske eller nye, var det ca. en av fire som mente var utfordrende.

Nærmere om kompetanseutfordringer

Denne samme kartleggingen fra Vestlandsforsking og Rambøll så også nærmere på i hvilken grad organisasjoner i offentlig sektor hadde nødvendig kompetanse i KI-prosjekter.

Resultatene viser at personvern er det området flest organisasjoner mener de har nødvendig kompetanse. Tre av fire svarte at de i stor eller svært stor grad hadde kompetanse om personvern som angår KI-prosjekt. Når det gjelder kunnskap om retningslinjer og lovverk som angår KI-prosjekt svarte litt over halvparten at de i stor eller svært stor grad hadde kompetanse.

Kompetanse om risiko for diskriminering er det området færrest organisasjoner mener de har nødvendig kompetanse. Hver tredje virksomhet svarte at de i stor eller svært stor grad hadde kompetanse om risiko for diskriminering i KI-prosjekt.

Flere understreker utfordringer med tilgang og kompetanse

Riksrevisjonens undersøkelse av myndighetenes tilrettelegging for deling og gjenbruk av data i forvaltningen understreker flere av utfordringene nevnt ovenfor. Hele 26 prosent av virksomhetene oppgir at de har møtt på utfordringer knyttet til data og teknologi, som vist i figuren nedenfor. Det dreier seg om utfordringer med tilgang til data, IT-infrastruktur og datakvalitet. Nesten 20 prosent oppgir manglende kompetanse som en utfordring. Virksomheter oppgir at det er krevende å både få tilgang til og å bygge spisskompetanse på KI. Det øker ofte behovet for leverandører eller innleide konsulenter for å komme i gang med utviklingen innen KI.