Radikalizacija za svega nekoliko dana: Šta umjetna inteligencija radi mladim ljudima?

Dječak kojeg je australski sud identificirao pseudonimom RK imao je samo 14 godina kada je 2024. počeo pripremati teroristički napad u Sydneyju. Njegova radikalizacija, prema sudskim nalazima, započela je interesovanjem za historiju. Na TikToku je gledao snimke o križarskim ratovima, potom o napadima 11. septembra i ratovima koji su uslijedili. S vremenom su mu pažnju zaokupili sve nasilniji sadržaji.

"U početku je gledao historijske sadržaje koji su mogli imati političku tematiku. Gledao je snimke o križarima i njihovim carstvima", naveo je sudija Stephen Campbell u obrazloženju presude.

Dječak je kasnije priznao da mu je propaganda „isprala mozak“.

Na YouTubeu je gledao snimke o eksplozivnim napravama, putem Telegrama tražio dodatne informacije, a ChatGPT koristio za istraživanje sigurnosnih mjera oko Sidnejske opere, završetka Sidnejskog maratona i zatvora u kojima se nalaze osuđeni teroristi. Pokušao je kontaktirati i jednog od počinilaca napada na Bostonskom maratonu.

Sud je utvrdio da nije imao razrađen operativni plan niti pribavljen materijal za izradu bombe. Ipak, put kojim je prošao pokazuje koliko se lako različite digitalne platforme mogu naći u istoj priči o radikalizaciji.

Algoritam preuzima kontrolu

Claire McGuinness, zamjenica generalnog direktora australske obavještajne agencije ASIO, pred parlamentarnim odborom opisala je obrazac koji sigurnosne službe sve češće prepoznaju među mladima.

Prvi sadržaj može biti politički mem ili religijski konzervativan video. Ništa što bi samo po sebi upućivalo na terorizam. No, nakon prvih interakcija mijenja se ono što platforma korisniku preporučuje.

"Ali onog trenutka kada stupe u interakciju, algoritam preuzima kontrolu", upozorila je McGuinness.

Sadržaji postaju radikalniji, a dio korisnika prelazi u zatvorene zajednice na Telegramu i Discordu, gdje ekstremističke ideje cirkuliraju kroz humor, provokacije i osjećaj grupne pripadnosti.

Sandra Booth, vršiteljica dužnosti zamjenice komesara Australske federalne policije, upozorila je 21. oktobra da se radikalizacija koja je nekada trajala mjesecima ili godinama danas može dogoditi „za nekoliko dana“.

"Australska federalna policija duboko je zabrinuta da umjetna inteligencija ubrzava i smanjuje nivo vještina potrebnih za aktivnu manipulaciju i radikalizaciju žrtava na internetu", kazala je Booth.

Generacija pred algoritamskim ogledalom

Australska federalna policija saopćila je da su od 37 maloljetnika procesuiranih za teroristička krivična djela od 2020. godine čak 32 optužena tokom posljednje dvije godine.

Istraživači upozoravaju da se radikalizacija mladih ne može objasniti samo tehnologijom. Usamljenost, potreba za priznanjem, društvena izolacija i potraga za identitetom često prethode susretu s ekstremističkim zajednicama. Algoritmi, međutim, mogu učiniti da se takvi susreti ponavljaju i da određeni pogled na svijet postane gotovo jedini koji korisnik svakodnevno vidi.

Generativna umjetna inteligencija donosi dodatnu neizvjesnost. Chatbotovi danas mogu voditi duge, personalizirane razgovore, prilagođavati odgovore korisnikovim pitanjima i pomagati mu u pronalaženju informacija. Koliko takvi sistemi mogu doprinijeti usvajanju ekstremističkih uvjerenja još nije dovoljno istraženo. U australijskom slučaju nije utvrđeno da je ChatGPT izazvao dječakovu radikalizaciju.

Australski slučaj ponovo je skrenuo pažnju na utjecaj algoritama na odrastanje mladih. Roditelji često ne znaju kakvim su sadržajima njihova djeca izložena, dok digitalne platforme, prateći njihove interese i reakcije, sve preciznije određuju šta će im ponuditi. Koliko takav sistem utječe na formiranje političkih i društvenih stavova, pitanje je koje tek počinje dobivati ozbiljniju pažnju istraživača.