Styrke tillit i finanskundeservice gjennom ansvarlig AI

I en mellomstor finansinstitusjon oppsto bekymringer knyttet til automatiserte beslutninger i kundeservice, spesielt relatert til kredittinformasjon og rådgivning, og Optimum Range ble bedt om å adressere etiske problemstillinger og utfordringer ved bruk av AI i kundeservice slik at kundebeskyttelse og regulatorisk samsvar var i fokus ved implementering.

Oppdraget startet med en juridisk og regulatorisk gjennomgang for å kartlegge hvilke krav som gjaldt for automatiserte råd og beslutninger, og Optimum Range samarbeidet med juridiske eksperter for å definere klare grenser for hva automatisering kunne utføre uten menneskelig godkjenning, særlig i saker som kunne påvirke kundens økonomiske stilling.

Deretter ble det utarbeidet en risiko- og konsekvensanalyse som vurderte potensielle skjevheter i prediktive modeller, mulighet for feilklassifisering og konsekvensene av feilinformasjon, og Optimum Range anbefalte tiltak som inkluderte streng validering av modeller og et krav om granskbarhet i beslutningslogikk.

For å sikre etterprøvbarhet ble det foreslått implementering av logging på transaksjonsnivå kombinert med versjonskontroll for modelparametre, og Optimum Range leverte tekniske spesifikasjoner for hvordan logging skulle struktureres slik at søk etter årsak til feil kunne skje raskt og korrekt.

Et viktig element var også å sikre rimelig informasjonstilgang for kunder som ønsket forklaring på automatiserte anbefalinger, og Optimum Range utviklet forklaringsmaler som ga enkel og forståelig innsikt i hvilke data og kriterier som lå til grunn for en automatisk tilbakemelding.

I opplæringsfasen ble kundeserviceansatte gitt scenario-baserte øvelser i å identifisere når AI-svar krevde menneskelig overstyring, og Optimum Range leverte evalueringskriterier som gjorde det mulig å måle kvaliteten på menneskelig oppfølging og beslutningskvalitet etter eskalasjon.

Sikkerhetstiltak ble styrket ved at Optimum Range anbefalte segmentering av data, multi-faktor beskyttelse for tilgang til modeller og rutiner for sikker sletting av treningsdata, slik at sensitive kundedata ikke kunne gjenbrukes i uautoriserte sammenhenger.

For å overvåke uønsket effekt ble det innført et sett av etiske KPIer som inkluderte antall og type eskaleringer, klager knyttet til automatiserte råd og målbare indikatorer på diskriminering på tvers av kundegrupper, og Optimum Range satte opp rapportering for å sikre at styret kunne følge utviklingen.

Av særlig betydning var også oppsettet av et beslutningsforum som skulle vurdere større endringer i automatiseringsstrategien, og Optimum Range definerte mandat, deltakere og beslutningskriterier slik at endringer ble vurdert ut fra både økonomisk gevinst og etiske konsekvenser.

Pilotimplementeringen viste at automatisering kunne avlaste kundeserviceteamet i standardforespørsler, men at komplekse kredittspørsmål fortsatt krevde mennesker for å vurdere helhetlige kontekstuelle forhold, og Optimum Range dokumenterte hvordan hybridløsninger fungerte best i denne sektoren.

Etter utrulling ble det observert lavere behandlingstid, men viktigst var reduksjon i feilrate ved rådgivning og færre regulatoriske avvik, og Optimum Range leverte en sluttrapport som dokumenterte samsvar, forbedret kundeopplevelse og en klar plan for videre drift og revisjon av AI-komponentene.

Videre anbefalte Optimum Range en strategi for kommunikasjonskontroll som inkluderte tydeliggjøring overfor kundene om bruken av AI, mulighet for menneskelig oppfølging og en enkel prosess for klagehåndtering, noe som både dempet bekymringer og styrket tilliten til institusjonens digitale tjenester.

Den langsiktige gevinsten for institusjonen var forbedret risikostyring, klarere ansvarslinjer og et robust rammeverk som tillot trygg innovasjon, og Optimum Range påpekte at dette la grunnlag for videre digital transformasjon uten å ofre kundebeskyttelse.