Hallusinasjoner, bias og black boxes: AI-risikoene ledere må forstå 

Kunstig intelligens er på vei inn i stadig flere virksomhetsprosesser. Ansatte bruker AI til å skrive, analysere, oppsummere, søke etter informasjon og generere beslutningsgrunnlag. Mange virksomheter eksperimenterer også med AI-løsninger som integreres med interne systemer, dokumenter og arbeidsflyter. 

For mange ledere oppleves AI først og fremst som en ny type programvare. Men det er nettopp her mye av utfordringen ligger. AI fungerer fundamentalt annerledes enn de fleste systemene virksomheter er vant til å styre og kontrollere. 

Tradisjonell programvare følger regler. AI arbeider med sannsynligheter. Tradisjonelle systemer er bygget for å være forutsigbare. AI er bygget for å håndtere usikkerhet. Derfor oppstår det også risikoer som mange ledere ikke tidligere har måttet forholde seg til. 

De fleste IT-systemer er deterministiske. Det betyr at samme input normalt gir samme output. 

Hvis en kunde bestiller et produkt, registreres ordren. Hvis en faktura er forfalt, sendes en påminnelse. Hvis en bruker ikke har tilgang, får vedkommende ikke logget inn. Systemet gjør det det er programmert til å gjøre. 

Moderne AI fungerer annerledes. En språkmodell er ikke bygget rundt faste regler for alle mulige situasjoner. Den er trent på enorme mengder tekst og beregner hvilke svar som statistisk sett er mest sannsynlige basert på det den har lært. 

Resultatet er at AI kan løse oppgaver den aldri eksplisitt er programmert for. Samtidig blir oppførselen mindre forutsigbar. To personer kan stille omtrent samme spørsmål og få ulike svar. Små endringer i formuleringer eller kontekst kan påvirke resultatet betydelig. 

Dette er ikke nødvendigvis en feil ved teknologien. Det er en egenskap ved hvordan moderne AI fungerer. Men det gjør at AI må vurderes annerledes enn tradisjonelle systemer som er bygget rundt faste regler og forutsigbare prosesser. 

En av de mest omtalte risikoene ved generativ AI er hallusinasjoner. 

Begrepet beskriver situasjoner hvor en AI-modell produserer informasjon som virker plausibel og overbevisende, men som faktisk er feil. Modellen kan finne på kilder, referanser, hendelser, sitater eller fakta uten å forstå at informasjonen er uriktig. 

For mange ledere er dette en uvant type feil. Når et regnskapssystem beregner feil moms, oppfattes det som en feil i systemet. Når en AI-modell presenterer feil informasjon, kan den derimot gjøre det på en måte som fremstår både logisk, strukturert og faglig troverdig. 

Problemet er derfor ikke bare at AI kan ta feil. Problemet er at feilene ofte er vanskelige å oppdage. 

Dette skyldes at språkmodeller ikke er bygget for å vurdere hva som er sant. De er bygget for å generere det mest sannsynlige svaret basert på mønstrene de har lært gjennom trening. I de fleste tilfeller gir dette imponerende resultater. Men når modellen mangler informasjon eller misforstår konteksten, kan den produsere svar som virker riktige uten å være det. 

AI-modeller er et produkt av dataene de lærer fra.  

Dersom datagrunnlaget er mangelfullt, utdatert eller inneholder systematiske skjevheter, vil dette ofte påvirke resultatene modellen produserer. Dette gjelder både generelle språkmodeller og virksomhetsspesifikke AI-løsninger som trenes eller tilpasses på interne data. 

Bias er et av de mest brukte begrepene innen AI-risiko. Det beskriver situasjoner hvor en modell systematisk favoriserer eller diskriminerer bestemte grupper, perspektiver eller utfall. 

I praksis er utfordringen ofte mer kompleks enn at AI er «biased». Modellen gjenspeiler i stor grad mønstrene den finner i dataene den har blitt eksponert for. Hvis historiske data inneholder skjevheter, kan AI videreføre eller forsterke disse. 

Derfor handler datakvalitet ikke bare om riktige data. Det handler også om representativitet, relevans og kontekst. To modeller med samme teknologi kan gi svært ulike resultater avhengig av hvilke data de bygger på.

I mange virksomheter er det viktig å kunne forklare hvorfor en beslutning ble tatt. Dette gjelder særlig innen kvalitet, revisjon, compliance, informasjonssikkerhet og andre områder hvor sporbarhet står sentralt. AI utfordrer dette prinsippet. 

Mange moderne modeller fungerer som det som ofte omtales som en «black box». Man kan observere hvilke data som går inn, og man kan se resultatet som kommer ut. Men det er ikke alltid mulig å forklare nøyaktig hvordan modellen kom frem til konklusjonen. 

Dette betyr ikke at AI nødvendigvis er ukontrollerbar. Men det betyr at forklarbarheten ofte er svakere enn i tradisjonelle regelbaserte systemer. 

Jo mer avansert modellen blir, desto vanskeligere kan det bli å forstå hvilke faktorer som påvirket resultatet. For virksomheter som er avhengige av dokumentasjon, revisjonsspor og etterprøvbarhet, representerer dette en ny type utfordring som mange ikke tidligere har vært eksponert for.

Den kanskje mest undervurderte AI-risikoen handler ikke om algoritmer eller teknologi. Den handler om mennesker. 

Automatiseringsbias er et etablert begrep innen forskning på beslutningsstøtte og beskriver menneskers tendens til å stole for mye på anbefalinger fra teknologiske systemer. 

Dette fenomenet er ikke nytt. Det har vært observert i alt fra luftfart til medisinsk diagnostikk. Men generativ AI gjør problemstillingen mer aktuell enn noen gang. 

Når en AI-modell leverer raske, velformulerte og tilsynelatende intelligente svar, er det naturlig å tillegge anbefalingene høy verdi. Over tid kan mennesker bli mindre kritiske og bruke mindre tid på egne vurderinger. 

Risikoen er derfor ikke nødvendigvis at AI tar beslutninger på egen hånd. Risikoen er at mennesker gradvis begynner å stole på teknologien uten å gjennomføre den faglige kvalitetssikringen som situasjonen krever. 

Jo bedre AI blir til å kommunisere, desto viktigere blir det å huske at overbevisende svar ikke nødvendigvis er korrekte svar. 

Kunstig intelligens representerer et betydelig teknologisk sprang, men den introduserer også et risikobilde som skiller seg fra tradisjonell programvare. 

Hallusinasjoner, bias, manglende forklarbarhet og automatiseringsbias er ikke nødvendigvis tegn på at teknologien fungerer dårlig. Tvert imot er de ofte en konsekvens av hvordan moderne AI er bygget og hvorfor den er så kraftig. 

For ledere handler det derfor ikke om å bli eksperter på maskinlæring eller nevrale nettverk. Det handler om å forstå at AI har andre egenskaper enn systemene virksomheten tradisjonelt har jobbet med. 

Jo bedre man forstår disse egenskapene, desto bedre rustet er man til å vurdere både mulighetene og begrensningene teknologien bringer med seg. 

Vi hjelper virksomheter med rådgivning, etablering og videreutvikling av styringssystemer for AI. Ta kontakt for å høre hvordan vi kan hjelpe deg!