For nøyaktig seks år siden, i juni 2020, kom det en særegen nyhet fra den lille byen Huancavelica i Peru. Åtte teknikere som var sendt til byen for å gjøre vedlikehold på en tele-antenne, var blitt kidnappet av en gruppe landsbybeboere.
Lokale medier meldte at landsbyboerne som holdt teknikerne fanget, bare ville løslate dem om de gikk med på å fjerne alle tele-antennene fra landsbyen. De hadde hintet om at 5G-antenner bidro til å spre covid-smitte.
Skaper digitale skogbranner
Pandemien hadde herjet i over et halvt år og tatt livet av flere hundre tusen mennesker. På sosiale medier hadde teorien om at det var en sammenheng mellom 5G-teknologi og spredning av virus spredd seg som ild i tørt gress. Og blitt til en skogbrann. En digital skogbrann, som forsker Daniel Thilo Schroeder ved SINTEF Digital kaller det.
– En digital skogbrann får vi når desinformasjon sprer seg raskt gjennom sosiale nettverk og ender i virkelige konsekvenser, forklarer Schroeder.
Han forsker på hvordan kunstig intelligens (KI) kan brukes til å påvirke mennesker gjennom sosiale medier. Schroeder er opptatt av demokratisk motstandskraft og samfunnssikkerhet.
– En digital skogbrann får vi når desinformasjon sprer seg raskt gjennom sosiale nettverk og ender i virkelige konsekvenser.
– Jeg har brukt mye av doktorgraden min, og også tiden som postdoc, til å studere 5G-teorien og hvordan den spredte seg, sier SINTEF-forskeren.
Forskerne så på Twitter-aktivitet før, under og etter toppen av konspirasjonen våren 2020. De så på hvordan brukerne kommuniserte og hvordan grupper, såkalte
Daniel Thilo Schroeder forsker på kunstig intelligens og beregningsbasert samfunnsvitenskap. Foto: SINTEF
communities, vokste og samhandlet over tid. De så hvordan fremtredende konspirasjonsteoretikere bidro til å forsterke påstandene. Det hele endte i at folk satte fyr på teleantenner, og kidnappet teleteknikere.
– Slike konspirasjonsteorier går fra sporadiske tvitringer til å bli en global spredning, med dramatisk oppskalering av desinformasjon, sier Schroeder.
Tech-giganter stenger ut forskerne
Tilbake i 2020 var store språkmodeller, det vi gjerne omtaler som KI, enda i startgropa. Nå, seks år senere, har kunstig intelligens blitt billig allemannseie. I kombinasjon med sosiale nettverk kan det gi digitale skogbranner av en helt annen karakter.
Samtidig har det blitt vanskelig for forskerne å følge med på hva som skjer. De store plattformene vil ikke lenger gi forskerne tilgang på data.
– Alle APIene (digitale kommunikasjonskanaler mellom dataprogrammer) fra de store mediaplattformene er blitt stengt. Vi har ikke lenger mulighet til å analysere innholdet og se hva som foregår der ute.
– Med agentisk KI er det ikke lenger bare snakk om at språkmodeller er gode til å overbevise deg og få deg til å endre oppfatning om et tema. Nå kan KI også koordinere selve kampanjen.
I en artikkel som involverte forskere fra en lang rekke prestisjefylte forskningssentre som Max Planck institutt i Tyskland, Oxford universitet i England og Harvard universitet i USA, har Schroeder pekt på hvordan agentisk kunstig intelligens – kunstig intelligens som ikke bare svarer på det du spør om, men som kan utføre oppgaver mer eller mindre på egen hånd – kan gi superkrefter til informasjonskampanjer og spredning av desinformasjon.
En ondsinnet KI-sverm er et sett av KI-styrte agenter som:
- Opprettholder vedvarende identiteter og hukommelse
- Koordinerer seg mot felles mål samtidig som de varierer tone og innhold
- Tilpasser seg i sanntid til brukerengasjement, signaler fra plattformene og menneskelige reaksjoner
- Opererer med minimal menneskelig overvåking
- Kan distribueres på tvers av plattformer
– De store språkmodellene, som ChatGPT, er kjent for å kunne uttrykke seg svært overbevisende. De er ikke flinke til å resonnere, men de er ekstremt gode på språk. De klarer å få til en samklang med hvordan mennesker tenker, sier forskeren.
KI-agenter i sverm truer oss
Forskerne advarer mot det de kaller svermer av samarbeidende, ondsinnete KI-agenter. Sluppet løs av politiske ledere som ønsker å påvirke opinionen og endre folks bilde av virkeligheten og deres politiske oppfatning.
– Med agentisk KI er det ikke lenger bare snakk om at språkmodeller er gode til å overbevise deg og få deg til å endre oppfatning om et tema. Nå kan KI også koordinere selve kampanjen, sier Schroeder.
I praksis handler det om å sette i sving et stort antall – tusenvis – av koordinerte KI-agenter med å infiltrere nettsamfunn og skape konsensus. KI-agentene utgir seg for å være ekte mennesker, de poster meldinger der de bruker slang og formuleringer som får de til å se ekte ut. De kunstige agentene kan koordinere seg, endre strategi underveis og være aktive i lang tid. De kan skrive blogger og sende e-mailer, velge hvilke kanaler de skal bruke ettersom hva som tjener dem best.
– Det er rett og slett skremmende hvor enkelt det er å KI-programmere slike ting og lage små bot-hærer som faktisk kan navigere på sosiale medier, bruke e-post og ta i bruk slike verktøy, sier Schroeder i et intervju med avisen The Guardian tidligere i år.
Påvirker samfunnet vårt
Han mener det er viktig å følge med forekomsten av slike KI-svermer, og støtter ideen om et KI-observatorium som kan undersøke hvordan kunstig intelligens påvirker samfunnet.
– Vi må få tilgang på data igjen, slik at det blir mulig å faktisk forske på det. Forskere og beslutningstakere må få mulighet til å utveksle data og resultater, slik at man kan utvikle nye mekanismer for å fange opp fenomenet.
– Det er rett og slett skremmende hvor enkelt det er å KI-programmere slike ting og lage små bot-hærer som faktisk kan navigere på sosiale medier, bruke e-post og ta i bruk slike verktøy.
Han mener det ikke er nok å følge med på innholdet på plattformene.
– Innholdsbasert deteksjon er ikke lenger nok, nå som store språkmodeller kan bestå Turing-testen (Turing-testen er en test foreslått av Alan Turing, der en maskins intelligens vurderes ut fra om den kan føre en samtale på en slik måte at et menneske ikke kan skille den fra et annet menneske) og lignende tester. Vi mener at man i stedet må undersøke atferdsmønstrene til slike svermer, for eksempel hvordan de koordinerer sine aktiviteter.
Schroeder sammenligner det med den russiske twitter-operasjonen i 2016, der russiske trollfabrikker ble brukt for å påvirke det amerikanske presidentvalget. Kampanjen hadde ikke særlig gjennomslagskraft. Den nådde få mennesker og hadde ingen synlig påvirkning på valgresultatet.
– Den gangen handlet det om å bruke script, små dataprogrammer, som tvitret det samme budskapet om og om igjen. De var lette å avsløre. Og de måtte bruke ekte mennesker til å utføre arbeidet. De nådde ut til veldig få. Vi mener dette har endret seg. For nå kan man oppskalere, sier Schroeder.
Kilder:
How malicious AI swarms can threaten democracy. The fusion of agentic AI and LLMs marks a new frontier in information warfare. https://www.science.org/doi/10.1126/science.adz1697
The 5G COVID-19 Digital Wildfire: An evolving network of Twitter contacts to explore phase transition metaphors in viral misinformation https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0343661
