Intelligent Systems, Vulnerable Minds: A Framework for Radicalization to Violence in the Age of AI

Artikkelen, kort fortalt

To litteraturer som ikke hadde møttes

Radikaliseringsforskningen har sterke prosessmodeller; KI-forskningen forstår systemene. Denne oversikten — skrevet med kolleger som Milan Obaidi og Anton Gollwitzer — fører dem sammen, og kobler stadiemodeller for radikalisering med hva anbefalingsalgoritmer, generativ KI og koordinerte botnettverk faktisk gjør, og med de psykologiske sårbarhetsfaktorene feltet har etablert: sosial isolasjon, usikker identitet, opplevd urettferdighet, og behovet for klarhet og sterk gruppetilhørighet.

Fire stadier

Rammeverket sporer forløpet gjennom fire stadier. Eksponering: engasjementsmaksimerende anbefalinger og viralitetsfunksjoner skaper den første kontakten med ekstremt innhold. Forsterkning: filterbobler og gruppeanbefalinger utnytter kognitive skjevheter til et ekkokammer herder overbevisningen. Gruppeintegrasjon: ideologisk homogene klynger, botsvermer som simulerer konsensus, og KI-følgesvenner som bekrefter ekstreme syn, leverer tilhørigheten radikalisering lever av. Og sjelden — det avgjørende ordet — voldelig ekstremistisk handling. Forløpet er ikke lineært, og det er dypt personlig.

Hvorfor det betyr noe

Poenget er ikke at algoritmer er ideologer; de utnytter sårbarheter uten noen ideologisk hensikt, bare ved å maksimere engasjement. Nettopp derfor kan styring virke: hvert stadium peker på konkrete spaker, fra utforming av anbefalinger til deteksjon av syntetisk konsensus. Rammeverket knytter ekstremismelinjen min til KI-sverm-arbeidet i Science, og det er kjernen i agendaen til Center for Democracy & Information Integrity, som jeg er med på å lede.