How malicious AI swarms can threaten democracy

Artikkelen, kort fortalt

Argumentet

Skrevet med kolleger fra informatikk, nettverksvitenskap, psykologi og journalistikk spør denne artikkelen hva som endres når desinformasjon slutter å bli produsert av mennesker. Svaret vårt: skadeenheten flytter seg. Enkeltstående falske påstander kan sjekkes; en sverm av flytende, vedvarende og innbyrdes koordinerende KI-personaer fabrikkerer i stedet det sosiale signalet borgere bruker til å kalibrere egne syn — fornemmelsen av hva alle andre mener.

Hva som gjør svermer annerledes

Tidligere botnettverk var repetitive og lette å flagge. Agentene vi beskriver, holder konsistente personaer over tid, tilpasser seg kontekst og koordinerer strategi på tvers av tusenvis av kontoer. Kombinasjonen lar dem gjøre ting ingen trollfabrikk kunne opprettholde: infiltrere begge sider av et skille og trekke dem fra hverandre, omringe og utmatte kritiske stemmer, eller oversvømme et nettverk til felles grunn løses opp. Den interaktive demonstrasjonen på forsiden av dette nettstedet simulerer disse dynamikkene på et levende nettverk.

Hva som følger

Vi hevder at ingen enkelt mottiltak er tilstrekkelig: deteksjonsverktøy, opphavsstandarder, plattformdesign og offentlig motstandskraft må bevege seg sammen, og forskningsinfrastrukturen for å studere disse systemene finnes knapt. Å bygge den er en del av agendaen til Center for Democracy & Information Integrity ved Handelshøyskolen BI, som jeg er med på å lede.