Hva vil vi oppnå?
Mange av de viktigste beslutningene i samfunnet bygger på komplekse beregninger, spesialisert fagkunnskap og store datamengder som er krevende å få tilgang til og forstå. I AgentLab utforsker SINTEF Digital hvordan agentbaserte systemer kan gjøre denne kunnskapen mer tilgjengelig — som støtte for beslutninger, som bindeledd mellom fageksperter og sluttbrukere, og som verktøy for å øke effektivitet og forståelse på tvers av sektorer. Vi bygger også opp infrastruktur for sikker eksperimentering, både for oss selv og for samarbeidspartnere. AgentLab samler kompetanse på tvers av SINTEF Digital.
Infrastruktur for trygg utprøving
En agent som skal utrette noe reelt, må gis tilgang til data, kode og systemer. Da blir spørsmålene om avgrensning, logging og evaluering praktiske snarere enn prinsipielle. Vi arbeider derfor med å bygge kontrollerte miljøer der agenter kan settes på reelle oppgaver uten reelle konsekvenser: alt de gjør registreres og kan gjennomgås i ettertid, og resultater kan måles systematisk mot definerte oppgavesett i stedet for å vurderes ut fra enkeltinntrykk. Til dette hører rammeverk, metodikk og referansearkitekturer for hvordan slik utprøving kan settes opp.
Som uavhengig forskningsinstitutt kan vi gjøre denne utprøvingen sammen med partnere som verken kan eller bør eksperimentere direkte i egne produksjonssystemer. Vi vil bruke infrastrukturen både i egne prosjekter og i samarbeid med industri og offentlig sektor.
Hva jobber vi med nå?
Programvareutvikling er den første komplekse kunnskapsprosessen som i stor skala har blitt et treningsmål for agentiske systemer, dels på grunn av store mengder treningsdata og dels fordi kode har innebygd, maskinlesbar tilbakemelding som gjør det mulig for en agent å evaluere og forbedre sitt eget arbeid uten aktiv involvering fra et menneske. Vi er derfor spesielt opptatt av agentisk koding, der SINTEF Digitals brede kodebaser og faglige dybde gir et unikt utgangspunkt for å utforske hva denne teknologien faktisk kan utrette, og hva man må passe på.
Et annet sentralt område er agenter som grensesnitt mot avanserte beregningsmodeller, simulatorer og modellbaserte beslutningsstøtteverktøy. Her møtes to av SINTEFs styrker: dyp domenekunnskap og erfaring med komplekse modelleringsverktøy på den ene siden, og agentteknologi på den andre. Det samme prinsippet vil gradvis gjelde andre formaliserte fagprosesser som modellutvikling, dataanalyse, eksperimentplanlegging. Dette er en utvikling vi følger tett.
Et tredje område er kontekstuell formidling. Fagkunnskap må i dag skrives om for hver mottakergruppe, og med begrensede ressurser betyr det i praksis at mange mottakergrupper ikke vil få en tilpasset formidling. Vi arbeider med en annen arbeidsdeling: forskeren utformer og kvalitetssikrer et grunnlag, og agenter tilpasser fremstillingen til den enkelte leserens forkunnskaper og situasjon, fra fagfelle til beslutningstaker til allmennhet. Det som gjør dette vanskelig, er ikke å variere språket, men å bevare innholdet gjennom tilpasningen: forbehold må ikke forsvinne fordi de er kompliserte, og usikre resultater må ikke bli skråsikre fordi det leser bedre. Formidlingen skal fortsatt kunne føres tilbake til det forskeren faktisk står inne for.
Til sammen peker disse områdene mot det samme: KI-agenter som fungerer som assistenter i faglig arbeid i reell forstand, og kan være en samarbeidspartner som kan utføre oppgaver, vurdere kvaliteten på det som kommer ut, og diskutere alternativer. Det er en høy ambisjon, og den hviler på en forutsetning: vi stoler på menneskelige kolleger fordi de begrunner valgene sine, viser hvilke antakelser de har gjort, tåler å bli motsagt og står ansvarlig for arbeidet sitt. Skal en agent få en tilsvarende rolle i faglig arbeid, må den kunne det samme — og ansvaret må fortsatt ligge hos menneskene som velger å bygge på resultatet. Det er den forutsetningen mye av arbeidet vårt handler om å innfri.
Eksempler fra prosjekter
Under viser vi konkrete resultater i tre former: agenten som grensesnitt mot en validert simulator, agentisk koding brukt til å bygge verktøy rundt programvare vi har utviklet over mange år, og innledende eksperimenter der vi bygget ny programvare fra bunnen av på kort tid for å se hvor langt teknologien rekker. De siste er prototyper og demonstrasjoner, ikke validerte verktøy.
Vil du lære mer? Sjekk ut #SINTEFblogg om hvordan vi jobber med agenter i praksis, ta en titt på og prøv gjerne våre åpne kildekoder fra AgentLab på Github (spesielt JutulAgent), eller les om samarbeidet med Geoteric om agentisk kobling mellom seismisk inversjon og reservoarsimulering.
Ta gjerne kontakt om du vil høre mer om AgentLab-aktivitetene våre!