Godinama se infiltrirala među neonaciste i džihadiste: "Algoritmi su naučili iskorištavati ljudsku psihologiju"

U TED govoru opisala je kako su te organizacije ovladale psihologijom digitalnog prostora i zašto generativna umjetna inteligencija otvara novu fazu tog procesa.

"Tokom većeg dijela svojih dvadesetih godina živjela sam dvostrukim životom", ispričala je Ebner, koja vodi Laboratorij za nasilni ekstremizam na Oxfordu i suizvršna je direktorica Instituta za strateški dijalog.

Kreirala je lažne identitete i internetske avatare, pridruživala se džihadističkim grupama, neonacističkim mrežama i nasilnim mizoginim zajednicama poznatim kao incel pokret. Željela je razumjeti radikalizaciju iznutra, prateći kako se ekstremističke ideje šire i kako pojedinci postupno prihvataju nasilje.

Godine 2016. pratila je pripadnike ISIS-a koji su raspravljali o izgradnji globalnog „cyber-kalifata“. Koristili su kodirane poruke kako bi izbjegli moderaciju društvenih mreža, automatizirane račune za regrutaciju i šifrirane aplikacije za međunarodnu koordinaciju.

Godinu kasnije infiltrirala se među evropske bijele nacionaliste okupljene oko pokreta Generation Identity. Njihova strategija podrazumijevala je provokativne akcije u javnom prostoru koje bi potom pretvarali u viralne internetske kampanje.

"Ekstremisti su bili tehnološki vrlo vješti, ali još važnije, pokazivali su izuzetnu sposobnost da tehnologiju koriste za iskorištavanje ljudske psihologije", kazala je Ebner.

Ignorirali su slona u sobi: algoritme

Prema njezinim riječima, godinama se politika suzbijanja ekstremizma svodila na uklanjanje spornih objava, dok su mehanizmi njihovog širenja ostajali gotovo netaknuti.

Ebner je tokom istraživanja razgovarala s ekstremistima različitih ideoloških, obrazovnih i društvenih profila. Iza njihovih različitosti prepoznala je slične psihološke obrasce: duboko nezadovoljstvo ili krizu identiteta, snažnu potrebu za grupnim pripadanjem i uvjerenje da neka druga društvena grupa predstavlja egzistencijalnu prijetnju.

U socijalnoj psihologiji jedan od tih mehanizama naziva se identity fusion, odnosno stapanje ličnog identiteta s identitetom grupe.

"To su stari sastojci, ali nove tehnologije su ih pojačale i ubrzale", objašnjava Ebner.

Društvene mreže omogućile su ekstremističkim organizacijama da prepoznaju nezadovoljstvo pojedinaca i prilagode im poruke. S razvojem generativne umjetne inteligencije takva propaganda postaje još jeftinija, brža i dostupnija na različitim jezicima.

Od propagande do umjetne inteligencije

Ebner navodi da je već 2022. pratila neonacističke i džihadističke grupe koje su eksperimentirale s AI alatima za proizvodnju propagande i ekstremističkih chatbotova.

Godinu kasnije, operacije povezane s Rusijom koristile su deepfake sadržaje i umjetno generirane internetske stranice za lažno predstavljanje stručnjaka i medija.

Posebno upozorava na nerede koji su izbili nakon napada u britanskom Southportu 2024. godine, kada su se dezinformacije iz malih ekstremističkih zajednica na Telegramu u svega nekoliko sati proširile i doprinijele nasilju na ulicama.

"Ono što me šokiralo nisu bili samo sadržaji, nego razmjeri i brzina", kazala je.

Može li se algoritam okrenuti protiv ekstremizma?

Ebner smatra da je jedan od najvećih problema digitalnog prostora način na koji se algoritmi prilagođavaju emocijama korisnika.

„Godinama su algoritmi maksimizirali angažman i optimizirali se prema duboko negativnim emocijama poput straha, bijesa i šoka.“

Ipak, odbacuje uvjerenje da tehnologija nužno mora produbljivati društvene podjele.

"Algoritmi nisu zakon prirode. Oni su rezultat dizajnerskih odluka."

Upravo zato predlaže razvoj takozvanih bridging algorithms, algoritama koji bi korisnicima preporučivali sadržaje i ljude koji dovode u pitanje njihove postojeće stavove, umjesto da ih neprestano potvrđuju.

Takvi sistemi već se razvijaju i eksperimentalno testiraju. Ideja je smanjivati neprijateljstvo među društvenim grupama, a da se pritom ne potiskuju legitimne političke razlike.

Ebner i njezini saradnici istražuju i mogućnost korištenja umjetne inteligencije za prepoznavanje jezičkih obrazaca povezanih s nasilnim ekstremizmom, među kojima su dehumanizacija drugih, osjećaj kolektivne ugroženosti i opravdavanje nasilja. Naglašava da takvi sistemi moraju ostati pod ljudskim nadzorom.

Nakon godina provedenih unutar ekstremističkih mreža, zaključuje da bi ista tehnologija koja danas olakšava manipulaciju mogla pomoći i u suzbijanju radikalizacije.

"Vjerujem da možemo koristiti umjetnu inteligenciju kako bismo taj mehanizam pokrenuli u suprotnom smjeru. Da smanjimo neprijateljstvo prema drugim grupama i vratimo ljude s rubova ekstremizma", zaključila je.

Dr. Julia Ebner međunarodno je priznata istraživačica online radikalizacije, nasilnog ekstremizma i prijetnji demokraciji. Vodi Laboratorij za nasilni ekstremizam na Univerzitetu Oxford i suizvršna je direktorica Instituta za strateški dijalog (ISD). Autorica je više knjiga o ekstremističkim pokretima, a njezina istraživanja temelje se i na višegodišnjem infiltriranju u radikalne organizacije pod lažnim identitetima.