Norsk English

Agenter som medarbeidere i beregningsvitenskap

Vi utvikler teknologi som gjør KI-agenter til reelle medarbeidere i krevende teknisk arbeid, med simulering og beregningsvitenskap som utgangspunkt.

Kontaktpersoner

Målet vårt er teknologi som gjør KI-agenter til reelle samarbeidspartnere i krevende teknisk arbeid, som man diskuterer et problem med, delegerer en oppgave til, og får kvalifisert motstand fra. En agent er dermed ikke bare et grensesnitt som oversetter kommandoer, men en medarbeider som kan resonnere over resultater, foreslå neste steg og arbeide selvstendig et stykke i en gitt retning.

Da vi skrev denne siden første gang, sensommeren 2025, var selv det enkleste steget en visjon. Å kunne be en simulator om noe i naturlig språk gjør vi i dag som en del av det daglige arbeidet, men det er bare første steg.

Hva som gjenstår

Internasjonalt går dette ofte under navnet agentic scientific discovery, altså agenter som ikke bare utfører beregninger, men deltar i den vitenskapelige syklusen: formulere hypoteser, designe eksperimenter, tolke resultater, revidere modellen og prøve på nytt. Avstanden til dagens verktøy handler mindre om språkforståelse enn om tre ting:

  • Å vurdere sitt eget resultat. Å kjøre en simulering er lett. Å avgjøre om svaret er fysisk rimelig, om oppløsningen var tilstrekkelig, eller om avviket fra data skyldes modellen eller dataene, krever faglig skjønn.
  • Å holde retning over tid. Vitenskapelig arbeid er sjelden én oppgave, men hundre som bygger på hverandre. Agenten må huske hva som er prøvd, hvorfor det ikke virket, og hva som gjenstår.
  • Å vite når den skal spørre. En god kollega vet forskjell på et valg hen kan ta selv og et valg som må løftes.

Vi jobber mot dette skrittvis, med simulering som utgangspunkt. Det er der vi har den faglige dybden, og det er ett av få områder der agenten faktisk kan få vite om den tok feil.

Hvorfor simulatoren er nøkkelen

En agent som skal arbeide selvstendig, trenger noe å bli korrigert av. Uten tilbakemelding blir selvstendighet bare uovervåket gjetting.

Her ligger fordelen vår. Modne simulatorer som Jutul har typede grensesnitt, omfattende innebygde konsistenssjekker og informative feilmeldinger. Det gjør simulatoren til en pålitelig dommer over agentens arbeid. Simulatoren avgjør hva som er fysisk og numerisk gyldig, mens agenten står for oppsett, kjøring og tolkning i en løkke der den først tolker brukerens intensjon, deretter henter dokumentasjon og skriver kode, og til slutt kjører koden og leser solverdiagnostikken.

Jo bedre denne tilbakemeldingen er, desto lenger kan agenten gå på egen hånd. Dokumentasjon, feilmeldinger og API-design er dermed ikke lenger bare noe brukerne møter. Det er materialet agenten korrigerer seg selv mot, og dermed en direkte begrensning på hvor selvstendig den kan bli.

JutulAgent

JutulAgent er for tiden vårt viktigste FoU-verktøy på området. Det er et system der bruker og agent samhandler om å sette opp, kjøre og gradvis forbedre simuleringer mot et ønsket mål. Begge parter kan foreslå, innvende og revidere underveis, og agenten har simulatoren som ekstern autoritet på hva som faktisk er gyldig. Det er samtidig slik vi undersøker hvor grensene går for hva en agent kan ta ansvar for.

Systemet er bygget rundt Jutul, som i seg selv er en forskningsplattform skrevet i Julia. Jutul er vår utforskning av hvordan moderne simuleringsprogramvare bør konstrueres: modulær, fullt deriverbar, komponerbar på tvers av fysikkdomener og maskinvareakselerert. Hele familien deler datastrukturer, diskretisering og automatisk derivasjon, og den samme agenten virker derfor på tvers av fagfelt. Reservoarsimulering med JutulDarcy, geotermi med Fimbul, batterier med BattMo, karbonfangst med Mocca og avgasser fra hydrokarbontransport med VOCSim.

Agentisk koding rundt validert programvare

Agenter kan også brukes den andre veien, til å bygge verktøy rundt programvare vi allerede har utviklet og validert over år. I SUrbArea-prosjektet bygget en forsker og en KI-agent sammen et interaktivt 3D-grensesnitt for å utforske hvordan overvann beveger seg under kraftig nedbør. Agenten laget grensesnittlaget og koblet sammen datakilder, visualisering og brukerinteraksjon, mens beregningene fortsatt gjøres av SWIM, vårt åpne verktøy for rask overvannsmodellering.

Agenten bygger verktøyet, og en validert simulator gjør beregningene. Den arbeidsdelingen er etter vårt syn en av de mest ansvarlige måtene å ta agentisk KI i bruk på i vitenskapelig programvare.

SINTEF AgentLab

Arbeidet med agenter startet i vårt fagmiljø. I 2024 begynte vi å bygge opp en bredere satsing, og resultatet er SINTEF AgentLab, et initiativ som samler relevant aktivitet på tvers av hele SINTEF Digital, fra agentisk koding og simulatoragenter til navigasjon i forskningslitteratur og infrastruktur for sikker eksperimentering. For oss betyr det at metodikk og erfaring deles med miljøer som arbeider med helt andre fagområder, og at spørsmålene om tillit og etterprøvbarhet stilles på tvers.

Nasjonale KI-sentre

SINTEF er partner i flere av de nasjonale forskningssentrene for kunstig intelligens, og vi arbeider for at agentisk teknologi skal få en tydelig plass der. I aiD (Norwegian Centre on AI for Decision), leder vi arbeidspakken for disruptive teknologier og er med på å lede arbeidspakken for samspill mellom menneske og KI. I TRUST (Norsk senter for pålitelig KI), kobles arbeidet mot spørsmålet om hva som skal til for at et resultat produsert av en agent kan etterprøves og stoles på.

Det er en bevisst posisjon. Agentisk KI utvikler seg raskere enn de fleste forskningsprogrammer er innrettet for, og vi mener sentrene må forholde seg til teknologien mens den er i bevegelse, ikke i etterkant.

Samarbeid

Vi tar gjerne imot samarbeid. Det kan være å koble en agent til deres egne modeller og verktøy, å utforske hva agentisk koding kan gjøre i en konkret arbeidsflyt, eller å bruke sandkassene våre til å prøve teknologien i kontrollerte omgivelser.

Et eksempel er samarbeidet med Geoteric, der vi har koblet deres KI-baserte tolkning av seismiske data direkte til JutulDarcy gjennom JutulAgent. Steg som tradisjonelt krever eksport og manuell reformatering mellom fagapplikasjoner, går her i én arbeidsflyt, med hvert steg logget for etterprøving.

Hva vi har lært

Det vanskelige er ikke å få agenten til å gjøre noe, men å vite om det den gjorde var riktig. Agenten fyller uunngåelig inn valg brukeren ikke har nevnt, og velger tolkninger der beskrivelsen var tvetydig. Simulatoren kan bekrefte at resultatet er konsistent, men ikke at det er det brukeren mente. Jo mer selvstendig agenten skal arbeide, desto viktigere blir det skillet.

Sporbarhet er en forutsetning for selvstendighet, ikke et tillegg. Skal noen kunne stole på et resultat, må det være mulig å gå tilbake og se hva agenten faktisk gjorde: hvilke antakelser den la til grunn, hvilke alternativer den forkastet, hvor den snudde. Vi logger derfor hvert steg, både for at mennesker skal kunne ettergå arbeidet og for at andre agenter skal kunne bygge videre på det. Det gir også reproduserbarhet. To kjøringer fra samme beskrivelse kan gi to gyldige, men ulike modeller, og det er bare håndterbart hvis sporet er lesbart i ettertid.

Fagkunnskapen blir ikke mindre viktig, men den flytter seg. Fra å skrive hvert enkelt trinn, til å definere oppgaven, sette rammene og bedømme om resultatet holder. Det er samtidig grunnen til at vi tror ambisjonen over er innen rekkevidde nettopp her. Skal en agent kunne vurdere sitt eget arbeid, må vurderingskriteriene være kodet inn et sted, og hos oss ligger de i simulatorer vi selv har bygget.

Skill mellom det som varer og det som ikke gjør det. Feltet beveger seg raskere enn noe vi har vært med på før, og mye av det som ser ut som teknologisk framgang er stillasarbeid som kommer til å bli kastet. Vi behandler derfor agentlaget som ferskvare og er villige til å rive det, mens investeringene går i det som holder seg: simulatorene, den faglige dybden, kvaliteten på dokumentasjon og feilmeldinger, og evnen til å etterprøve et resultat. Vi utvikler i åpen kildekode og bygger på åpne standarder som MCP av samme grunn. Overgangen fra vår første prototyp JutulGPT til dagens JutulAgent på under et år illustrerer poenget. Agentarkitekturen ble skiftet ut nesten i sin helhet, mens verdien som besto lå i simulatorene under.

Les mer