Hvordan kan KI-svermer true demokratiet?

Fra enkeltboter til svermer

Botene fra forrige tiår var grove — repetitive, lette å flagge, billige å overse. Det medforfatterne mine og jeg beskriver i artikkelen vår i Science, er kategorisk annerledes: svermer av KI-agenter som skriver flytende, opprettholder vedvarende personaer, svarer på kontekst og — avgjørende — koordinerer seg med hverandre. Tusen kontoer som argumenterer som tusen ulike mennesker, men forfølger ett mål, er ikke en høylytt versjon av det gamle problemet. De er et nytt.

Produktet er konsensus, ikke påstander

Faktasjekk forutsetter at skadeenheten er en usann setning. En sverms egentlige produkt er noe annet: inntrykket av at «alle» sier noe, at et syn er i ferd med å vinne, at uenighet er sjelden og litt pinlig. Mennesker kalibrerer synspunktene sine mot opplevd konsensus — det er et av sosialpsykologiens eldste funn — så å fabrikkere konsensus er å kapre selve signalet borgere bruker for å justere det de tror. Derfor mener jeg dette er en kvalitativt ny trussel mot demokratisk debatt, ikke en gradvis.

Fire evner du kan se i arbeid

I artikkelen går vi gjennom hva koordinerte svermer kan gjøre med et sosialt nettverk: infiltrere begge sider av et skille og drive dem fra hverandre; omringe og kneble kritiske stemmer til de forlater offentligheten; bygge kunstige broer mellom grupper for å skape falsk konsensus; eller rett og slett oversvømme nettverket til felles grunn løses opp. Den interaktive demonstrasjonen på forsiden min simulerer nettopp disse fire strategiene på et levende nettverk — jeg bygde den for at dynamikken skulle kunne ses, ikke bare beskrives.

Hva som kan gjøres

Vi er ikke fatalister. Mottiltakene vi drøfter, spenner fra teknisk deteksjon og opphavsstandarder til plattformdesign og offentlighetens egen psykologiske motstandskraft — ingen tilstrekkelige alene, alle presserende sammen. Den samme infrastrukturen omformer også veien inn i radikalisering, og derfor må de to problemene studeres sammen. Denne agendaen er også institusjonell for meg: den er en grunnleggende bekymring for Center for Democracy & Information Integrity ved Handelshøyskolen BI, som jeg er med på å lede. Den bredere forskningskonteksten — hvem som er mottakelig for falske påstander og hvorfor — finner du i desinformasjonslinjen min.