Intelligent Systems, Vulnerable Minds: A Framework for Radicalization to Violence in the Age of AI
KI skaper ikke radikalisering ut av ingenting — men anbefalingssystemer, generativ KI og botsvermer forsterker kjente psykologiske mekanismer i hvert stadium av forløpet. Vi kartlegger det samspillet i et firestegs rammeverk, fra første eksponering til (sjelden) voldelig handling.
Artikkelen, kort fortalt
To litteraturer som ikke hadde møttes
Radikaliseringsforskningen har sterke prosessmodeller; KI-forskningen forstår systemene. Denne oversikten — skrevet med kolleger som Milan Obaidi og Anton Gollwitzer — fører dem sammen, og kobler stadiemodeller for radikalisering med hva anbefalingsalgoritmer, generativ KI og koordinerte botnettverk faktisk gjør, og med de psykologiske sårbarhetsfaktorene feltet har etablert: sosial isolasjon, usikker identitet, opplevd urettferdighet, og behovet for klarhet og sterk gruppetilhørighet.
Fire stadier
Rammeverket sporer forløpet gjennom fire stadier. Eksponering: engasjementsmaksimerende anbefalinger og viralitetsfunksjoner skaper den første kontakten med ekstremt innhold. Forsterkning: filterbobler og gruppeanbefalinger utnytter kognitive skjevheter til et ekkokammer herder overbevisningen. Gruppeintegrasjon: ideologisk homogene klynger, botsvermer som simulerer konsensus, og KI-følgesvenner som bekrefter ekstreme syn, leverer tilhørigheten radikalisering lever av. Og sjelden — det avgjørende ordet — voldelig ekstremistisk handling. Forløpet er ikke lineært, og det er dypt personlig.
Hvorfor det betyr noe
Poenget er ikke at algoritmer er ideologer; de utnytter sårbarheter uten noen ideologisk hensikt, bare ved å maksimere engasjement. Nettopp derfor kan styring virke: hvert stadium peker på konkrete spaker, fra utforming av anbefalinger til deteksjon av syntetisk konsensus. Rammeverket knytter ekstremismelinjen min til KI-sverm-arbeidet i Science, og det er kjernen i agendaen til Center for Democracy & Information Integrity, som jeg er med på å lede.