KI og ny teknologi utfordrar og gir forventningar

Kunstig intelligens (KI) er eit tema overalt i desse dagar. Nokre insisterer på at KI skal løyse alle utfordringar i framtida, mens andre spår dommedag og fatale konsekvensar for menneskeslekta. Samtidig er ikkje KI noko nytt. KI i form av maskinlæring har vore brukt i årevis for å skape betre brukaropplevingar. Generativ KI, derimot, er nytt, og dei store framstega som er gjort på feltet, har fått enorm merksemd dei siste åra.

Verksemdene vi møter i Digitaliseringsrådet, er opptatt av korleis KI vil påverke arbeidsoppgåvene deira, korleis dei kan bruke KI sikkert og forsvarleg, og ikkje minst korleis dei kan bli gode på å hente ut gevinstar ved bruk av KI. Det er som alltid strekk i laget, nokre er offensive og bruker KI, mens andre heng bakpå og jobbar med korleis dei kan komme i gang.

KI pregar dagsordenen til toppleiarane

Fleire av toppleiarane fortel oss at utvida bruk av KI er ein viktig ambisjon framover. Det er forventa av dei at dei skal kunne utnytte KI i utvikling av verksemda si og tenestene sine. Samtidig veit dei at både teknologi og innsikt endrar seg i høgt tempo på dette området. Erfaringar og omgrepsbruk går raskt ut på dato. Dei beskriv større uvisse knytt til dette enn til digital omstilling ved bruk av meir kjende digitale teknologiar. Fleire har gjort seg erfaringar, men ingen har alle svara på korleis dei skal utnytte KI på ein effektiv og trygg måte.

Ny digitaliseringsstrategi framhevar KI

Den nye nasjonale digitaliseringsstrategien har eit klart mål om å utnytte moglegheitene i KI. Mellom anna er det eit mål om at alle statlege verksemder skal bruke KI i oppgåveløysinga si i 2030.

KI gir oss høve til å utnytte data til å skape langt betre brukaropplevingar. Det å trene og lære opp data til å gi betre informasjon og automatiserte brukaropplevingar vil gi større glede og spart tid for dei som skal bruke tenestene. KI kan også bidra til å skape betre og fleire samanhengande tenester.

Generativ KI er noko vi ikkje har sett før

Open AI lanserte ChatGPT mot slutten av 2022, og det markerte gjennombrotet for generativ KI for folk flest. "ChatGPT" har no blitt eit ord som er like synonymt med generativ KI som verbet "google" er med å søke på nettet. ChatGPT gjorde avansert og nyskapande teknologi enkelt tilgjengeleg, men generativ KI er mykje meir enn ChatGPT eller Microsoft Copilot. Generativ KI er førespegla å skape ein revolusjon for mellom anna kunnskapsarbeid. Dette er etterlengta med tanke på at samfunnet vårt går over til å ha stadig færre arbeidsføre per innbyggar og vi må bruke offentlege midlar meir effektivt.

Tore Tennøe, direktør i Teknologirådet. Han var på besøk i Digitaliseringsrådet i mai 2024.

Foto: Digdir/Mette Mannsåker

Då Teknologirådet gav ut rapporten Generativ kunstig intelligens i Noreg, besøkte Tore Tennøe Digitaliseringsrådet og snakka om den nye bølga av kunstig intelligens.

Det er ikkje berre optimisme knytt til generativ KI. KI kan hallusinere, og KI kan diskriminere fordi det bygger på skeive data. Det kan brukast til å spreie desinformasjon og overtaling. Menneskeliknande samtalerobotar (chatbotar) bidrar til å viske ut skiljet mellom menneske og maskin. Vi må ta desse risikoane på alvor.

Effektiv og trygg bruk av generativ KI

Ulike delar av verda har gjort ulike tiltak for å møte desse risikoane og sikre effektiv og trygg bruk av generativ KI. For vår del vil EUs AI Act – forordninga om kunstig intelligens (KI-forordninga) få verknad i Noreg i 2026. KI-forordninga skal beskytte grunnleggande rettar, men også fremme innovasjon. Det er ei såkalla produktlovgiving, ikkje teknologilovgiving. Det vil seie at ho ikkje regulerer teknologien i seg sjølv, men samfunnsrisikoen ved bruk av teknologien.

Ill: lieB.no

Professor og forfattar Ethan Mollick tilbyr i boka Co-Intelligens: Living and Working with AI fire gode, pragmatiske råd for å lykkast med ein samarbeidande KI:

1. Always invite AI to the table. Ta alltid KI-en med i det du skal gjere. KI-en er veldig god på nokre ting, men strevar med enkle ting som for eksempel rekning. Ta KI-en med for å reflektere og forstå avgrensingane.
2. Be the human in the loop. Det er du, ikkje KI-en, som er mennesket. Han kan ikkje tenke eller reflektere, han vil berre gjere oss tilfredse.
3. Treat AI like a human (but tell it what kind of human to be). Behandle KI-en som ein person, men ver tydeleg på kva type person han skal vere. KI-en er ikkje ein person og har ikkje nokon personlegdom. Du må gi klare direktiv til KI-en om kva type personlegdom du vil at han skal ha.
4. Assume this is the worst AI you will ever use. Anta at dette er den dårlegaste KI-en du nokon gong kjem til å bruke.

Strekk i det norske laget

Bruken av kunstig intelligens i offentleg sektor er eit sentralt tema i rapporten IT i praksis 2024. IT i praksis er ei årleg undersøking som kartlegg strategi, leiing, trendar og erfaringar innan strategisk bruk av IT og digitalisering i offentlege statlege verksemder og kommunane i Noreg. Rapporten frå 2024 viser at berre 36 % av statlege verksemder rapporterer at dei i nokon, stor eller svært stor grad har tatt i bruk KI i oppgåver og tenester. Men det er knytt uvisse til korleis verksemdene har definert dette, og kva dei reknar for å vere utbreidd bruk. Det verkar som statlege verksemder har komme meir i 31 gang med bruk av KI enn kommunane. Dei peikar likevel på barrierar som regulatoriske hindringar, manglande datatilgang, -format eller -kvalitet og for høge investerings- og opplæringskostnader.

Riksrevisjonen peikar på at staten ikkje er god nok

Riksrevisjonen konkluderer med at staten jamt over ikkje er god nok når det gjeld bruk av kunstig intelligens:

Foto: Mathias Fossum / Riksrevisjonen

• KI er framleis lite i bruk i staten.
• Viktige føresetnader for å ta i bruk KI i større skala er framleis ikkje på plass i staten.
• Samordninga av arbeidet i staten er mangelfull.
• Kontrollmekanismar må på plass.

Riksrevisjonen anbefaler i rapporten at Digitaliserings- og forvaltningsdepartementet (DFD) styrker samordnings- og pådrivarrolla si for aktivt å stimulere til og legge til rette for ansvarleg bruk av KI i offentleg sektor, i samarbeid med andre departement.

Det skjer mykje spennande

No skal vi ikkje berre fortvile, det skjer mykje spennande i statlege verksemder rundt bruk av KI. Bufdir har i arbeidet sitt med TryggEst – vern for risikoutsette vaksne laga Case-generatoren, eit praktisk verktøy for handtering av vald. Case-generatoren bruker KI for å lage fiktive, men realistiske scenario som hjelper TryggEst-teama i kommunane å reflektere over og utforske handlingsrommet i møte med valdssaker. I arbeidet med livshendinga Alvorleg sjukt barn har Helsedirektoratet utvikla eit KI-verktøy i ETI (Enklare tilgang til informasjon), kalla Livsveiviseren. Vegvisaren skal ved hjelp av KI gjere det enklare for brukarane å raskt finne fram til informasjonen dei treng.

Dette er berre eit par eksempel, og det er mange andre verksemder vi kunne ha trekt fram. KS trekte mellom anna fram fleire spennande eksempel frå kommunane i rapporten Barrierer og muligheter i kommunal sektors arbeid med kunstig intelligens.

Verksemda må vere digitalt moden for å ta i bruk ny teknologi

Som vi skreiv om tidlegare i rapporten, må ei verksemd vere digitalt moden for å kunne ta i bruk KI og utnytte potensialet som ligg i generativ KI.

Digitalt modne leiarar er viktig

Gode leiarar skjønner at sjølv om dei ikkje treng å vere ekspertar på KI, må dei vere såpass digitalt modne at verksemdene deira klarer å nytte seg av alle moglegheitene KI kan tilby.

Ill: lieB.no

Bruk av KI er sjeldan «plug and play». For å sikre forsvarleg bruk som gir gode resultat, er det desto viktigare med ei iterativ tilnærming der ein lærer av feil og erfaringar undervegs. I erfaringsrapporten vår frå 2023 gjekk vi nærmare inn på kor viktig det er at verksemder trener på å lære av feila sine og på å levere tidlegare og hyppigare, og at leiarar viser at det er lov å eksperimentere og gjere feil.

Verksemdene må bygge kompetanse

Nesten alle vi snakkar med, fortel at dei treng å rekruttere meir IT-kompetanse. I rapporten frå i fjor skreiv vi også om korleis verksemdene blir nøydde til å vri kompetanseprofilen i organisasjonen, framfor å auke talet på tilsette. Med ny teknologi og KI blir det stadig viktigare å bygge intern kompetanse for framtida. Offentleg sektor må ruste seg med nødvendig kompetanse for å realisere utbyttepotensialet i KI.

Gode data i botn

KI er ikkje eit magisk verktøy som kan hentast ut av lause lufta og brukast på kva som helst. Data er inngangen for KI. For å utvikle KI må ein ha tilgang til store mengder data av god kvalitet. For å få gevinstar av bruk av KI gjeld det same. Dataa kan gjerne komme frå fleire kjelder. Det er viktig at dataa er lagt til rette for deling og gjenbruk. Ein hugseregel er at dataa skal vere FAIR. FAIR står for findable, accessible, interoperable og reusable. På norsk kan vi seie at dataa skal vere søkbare / moglege å finne att, tilgjengelege, samhandlande og moglege å bruke om att.

Nye måtar å bruke data på

Mange verksemder jobbar mot målet om å bli meir datadrivne, det vil seie å ta avgjerder basert på innsikt og analyse av eigne og andre sine data, heller enn erfaring eller intuisjon. Eit godt eksempel er når ei verksemd skal over på ei ny analyseplattform i skya og ser behovet for nye måtar å bruke data på. Vi har snakka med fleire verksemder om dette.

Noregs Bank har som mål å vere ein analyse- og datadriven sentralbank med effektiv tilgang til å kunne dele ulike typar data ved bruk av formålstenlege verktøy. Statens pensjonskasse har eit mål om å bli ei meir datadriven verksemd og vil utnytte dataanalyse i større grad i leveransane sine og til styringsinformasjon.

Nye, kraftige verktøy gir nye problemstillingar

Det å gå over på ei ny analyseplattform i skya eller ta i bruk annan skyteknologi blir ofte omtalt som "skyreisa". Når mange statlege verksemder no er i ferd med å starte eller har starta skyreisa, opplever dei at det fører med seg fleire nye problemstillingar. Kraftige analyseverktøy krev systematisk og god jobbing med dataforvaltning og datakvalitet. Kostnadene knytt til løysingar i skya blir basert på bruk, i motsetning til lisensar. Det krev at verksemdene må vurdere korleis det vil påverke mellom anna roller, ansvar og arbeidsformer i verksemda. For å lykkast må verksemdene utvikle kompetanse og forståing for korleis dei kan jobbe på nye måtar, få god kostnadskontroll på skytenestene sine og hente ut gevinstane av å ta i bruk nye verktøy.

Krevjande vurderingar før skyreisa kan starte

Dei vanskelegaste vurderingane må verksemda likevel gjere før ho kan starte på skyreisa og ta i bruk KI. Både store og små offentlege verksemder er forventa å vise stor endringsevne og ta i bruk ny teknologi og nye verktøy. Alle slit med vanskelege vurderingar, uavhengig av storleiken. Sjølv store etatar som Nav, Skatteetaten og Helsedirektoratet, som alle har tunge kompetansemiljø, konkluderer av og til ulikt, for eksempel om helseopplysningar i skya eller korleis persondata skal brukast.

Talet på vanskelege vurderingar vil berre auke når verksemdene ønsker å ta i bruk KI. Og vurderingane er trass alt ganske, sjølv om dataa kan vere ulike. Verksemdene treng ikkje å sitte kvar for seg og gjere desse vurderingane. Det kan hende at det er gode grunnar til at dei kjem fram til ulike konklusjonar, men norsk offentleg sektor hadde vore tent med eit større felles grunnlag og meir felles kompetansebygging for leiarar. Vi treng for eksempel eit kompetansemiljø som kan samordne og vere ei drivkraft – eit kompetansemiljø ein har tillit til, og som kan gjere vurderingar på vegner av fleire, eller hjelpe oss å gjere likare vurderingar.

Klimafrelsar og klimaversting?

KI blir omtalt som løysinga for det meste, mellom anna skal det løyse klimautfordringane og hjelpe oss gjennom det grøne skiftet. Det er spådd ein enorm vekst i bruken av KI. Samtidig veit vi at allereie dagens bruk av KI medfører eit skyhøgt energiforbruk. Energiforbruket og dermed energibehovet vil berre halde fram med å vekse. Verksemdene må ha eit bevisst forhold til kva miljøkonsekvensane av KI-bruk er.

Snart må alle verksemder rapportere om kvar energien kjem frå, og kor grøn han er. For å komme i forkant av berekraftsrapporteringa kan det vere lurt å ta rapportering på energiforbruk inn i avtalar med leverandørar. Det var ei av anbefalingane vi gav då Statens pensjonskasse var i rådet med den nye analyseplattforma si.

Behov for samla føringar

Vi meiner at det er behov for samla føringar for at offentleg sektor skal nå dette målet.

Digitaliserings- og forvaltningsminister Karianne Tung har heilt sidan ho tredde inn i ministerstillinga, vore tydeleg på målet om at ein større del av offentleg sektor skal ta i bruk KI.

Betre rammevilkår for å sikre gjennomføringskraft

Generativ KI er ein teknologi som ikkje berre påverkar offentleg sektor, men er gjennomgripande for heile samfunnet. For å sikre at vi går i riktig retning er det nødvendig med overordna strategiske føringar på høgt nok nivå, som også omfattar finansiering. Offentleg sektor treng ein meir smidig finansieringsmodell eller -prosess som hjelper offentlege verksemder med å ta ut potensialet i KI, eller potensialet i heilt ordinær digital teknologi for den saks skyld. Dagens rammevilkår blir opplevd som hinder for dette.

Då vi gav innspela våre til den nye strategien, var vi opptatt av å framheve at digitalisering og KI er verkemiddel for måloppnåing, ikkje mål i seg sjølv. Mykje av det som ikkje blei realisert i den førre strategien, handlar om mangelen på gjennomføringskraft. Det er framleis behov for større merksemd på gjennomføring.

Handtering av gammal teknisk gjeld kan skape nye verdiar

Den nye strategien omtaler ikkje teknisk gjeld. Store mengder gode data er stengt inne i eldre system og kan i liten grad gjerast tilgjengelege for deling, gjenbruk eller KI. Den tekniske gjelda hemmar derfor utviklinga av KI til nyttige formål. Verksemdene slit ofte med å få gjennomslag for finansiering til handtering av teknisk gjeld, men det er ofte nødvendig for at data skal kunne halde fram med å skape ny verdi.

Vi vågar å drøyme

Ny teknologi gir oss nye moglegheiter og opnar nye horisontar for oss som vi tidlegare berre kunne drøyme om eller sjå i science fiction. Samtidig kan vi ikkje ta hendene av rattet. KI er eit viktig verktøy. KI kan løyse brukarbehov og effektivisere oppgåveløysing, men er ikkje eit mål i seg sjølv.

Digitaliseringsrådet har som mandat å hjelpe leiarane for verksemdene å lykkast med digitalisering, og held fram med det. Vi gir anbefalingar, men vi lærer like mykje sjølv. Vi held fram med å vere nysgjerrige, og vi held fram med å samle inn erfaringar og dele dei med andre. Vi gler oss til å sjå den nye digitaliseringsstrategien bli tatt i bruk, og vi vågar å drøyme. Vi drøymer om at Noreg i 2030 har mange gode, nysgjerrige leiarar som held fram med å jobbe med den digitale modnaden sin, som jobbar med samskaping i økosystem, og som tar i bruk ny teknologi på effektivt og forsvarleg vis.