Kronikker gir uttrykk for skribentens egne meninger.
Få bransjer har tatt i bruk kunstig intelligens (KI) så raskt som finans. Ifølge det internasjonale pengefondet IMF vil sektorens investeringer i KI-programvare, -maskinvare og -tjenester mer enn dobles, til nær 100 milliarder dollar, innen 2027.
Men resultatet er usikkert. Undersøkelser viser at gjennomsnittlig avkastning i storskala KI-prosjekter er under seks prosent. Mange selskaper sliter med å måle en økonomisk gevinst i det hele tatt.
På toppen av dette kommer en trussel som ennå er lite synlig. Like fullt kan den undergrave stabiliteten i finansmarkedet, om den ikke tas på alvor. På fagspråket kalles denne faren for «KI-gjeld».
KI-gjelden beskriver de langsiktige kostnadene som tårner seg opp når aktører bygger opp komplekse KI-systemer raskt. Det vil si: Uten å sette av tid og ressurser til kontinuerlig å rette opp feilene som oppstår underveis.
Ordet er avledet fra programvareutviklingens begrep «teknisk gjeld»: Fremtidige ekstrakostnader som følger når utviklere velger lettvinte og ikke gode, langsiktige løsninger.
KI-gjelden beskriver de langsiktige kostnadene som tårner seg opp når aktører bygger opp komplekse KI-systemer raskt. Det vil si: Uten å sette av tid og ressurser til kontinuerlig å rette opp feilene som oppstår underveis.
Alle sektorer som bruker KI, samler slik gjeld på sine skuldre. De ukorrigerte feilene består av skjeve eller ufullstendige datasett (datagjeld), ugjennomsiktige eller utdaterte algoritmer (modellgjeld), uklar kontroll (styringsgjeld) og mangel på rettferdighet og åpenhet (etikkgjeld).
Finans er sektoren som i størst grad og tempo har tatt i bruk KI. Over 80 prosent av handelen i finansmarkedene utføres nå av algoritmer, uten at mennesker er involvert. Dette, pluss måten disse markedene er oppbygget på, kan gjøre KI-gjelden til en såkalt systemisk risiko.
Det vil si at en krise som oppstår ett sted, brått kan smitte over til hele sektoren.
Løftet fra KI-fagfolk er at KI vil gi bedre analyser, høyere effektivitet og dermed konkurransefortrinn. Men når små feil i data, modeller eller styring gjentas på tvers av bransjen, skapes en total risiko som er langt større enn summen av delene.
Det vil si at en krise som oppstår ett sted, brått kan smitte over til hele sektoren.
Banker, hedgefond og kapitalforvaltere investerer nå milliarder i KI-systemer som skal oppdage svindel, forutsi kredittap, optimalisere porteføljer og gjennomføre handler på millisekunder.
I løpet av millisekunder kommer også baksmellen, hvis KI-gjeld utløser en sektorovergripende krise. Da er det umulig for mennesker å gripe inn.
5. august 2024 falt aksjemarkedene i Japan og USA kraftig. Det er uklart hvor stor rolle KI spilte. Men rapporter tyder på at hedgefond handlet samtidig da sofistikerte algoritmer oppdaget nedgangstrender: Et forvarsel om at vi kan ha større dramatikk i vente når KI-modeller får enda større utbredelse.
Disse farene har finanssektoren ikke har tatt inn over seg. Som forskere innenfor datavitenskap, synes vi tiden er inne til å varsle bransjen om det skjulte problemet.
KI-gjeld oppstår lett og kan enkelt skjules. Finansiell gjeld er noe selskaper må oppgi og beskrive.
KI-gjeld, derimot, dukker ofte først opp under kriser eller ved selskapsgjennomganger forut for oppkjøp og fusjoner – nettopp når markedet har minst råd til det.
Akkurat som økonomisk gjeld, bygger også KI-gjeld opp «renter» over tid. Dårlige datasett eller modeller basert på «svarte bokser», utløser kanskje ikke tap i dag. Men gradvis øker de risikoen for feil, sanksjoner og omdømmetap.
5. august 2024 falt aksjemarkedene i Japan og USA kraftig. Det er uklart hvor stor rolle KI spilte. Men rapporter tyder på at hedgefond handlet samtidig da sofistikerte algoritmer oppdaget nedgangstrender.
Siden KI-gjeld starter ved prosjektets begynnelse og bygger seg opp derfra, kan den være et stort problem når den først blir synlig.
Brukt klokt kan KI-verktøy hjelpe institusjoner med å komme seg bort fra utdaterte systemer som har hemmet innovasjon i flere tiår. Men om KI skal gi maksimal verdi med minimal risiko, må håndtering av KI-gjeld bli like sentralt i finansiell planlegging som det kapitaldekning og likviditet er.
Dette betyr at oppsamlet data-, modell-, styrings- og etikkgjeld må spores og så reduseres gjennom ressursstyring og strategisk langsiktighet.
Finanssektoren har tidligere erfart konsekvensene av høy gjeldsgrad, lav likviditet og sammenkobling mellom banker. På samme måte må den nå også anerkjenne KI-gjeld som en systemisk risiko. Altså en fare som krever tidlig og målrettet håndtering.
Opprydding i KI-gjeld er ikke et valg finansbransjen kan utsette. Tvert imot. Det er en investering i robusthet som kan forhindre katastrofale tap.
Denne kronikken ble først publisert i Dagens Næringsliv 24. oktober
