"Kompanije društvenih mreža sada rade za vlade, ne za korisnike"

Aliya Bhatia, viši politički analitičar u Centru za demokratiju i tehnologiju, i Mona Elswah, projektni saradnik u toj organizaciji, objašnjavaju za tekstu za Foreign Policy kako je indijska vlada iskoristila zakone o digitalnom upravljanju da prisili kompaniju Meta da ukloni vijesti i objave povezane s razvojem situacije između Indije i Pakistana nedavno. Indija je čak pozvala na blokadu cjelokupnog sadržaja porijeklom iz Pakistana.

U slučaju Indije, njen Zakon o informacionim tehnologijama (tzv. IT pravila) daje ovlasti policiji i drugim vladinim tijelima da zahtijevaju od kompanija društvenih mreža da uklone sadržaj koji generišu korisnici "u interesu suvereniteta i integriteta Indije", kao i da predaju podatke o korisnicima.

Ovaj zakon se i ranije koristio. U septembru 2024. godine, odjeli za sajber kriminal u okviru regionalnih policijskih uprava koristili su zakon da traže uklanjanje sadržaja nakon što je na Facebooku i mreži X (bivšem Twitteru) počeo da se širi haštag koji je optuživao muslimansku manjinu u južnoj Indiji da su navodno donijeli slatkiše s masnoćom životinjskog porijekla u jedan od najvećih hinduističkih hramova u zemlji. Haštag je dodatno podgrijao već postojeće napetosti — ali situaciju je pogoršao netransparentan i loše upravljan odgovor policijskih agencija. Sedam korisnika mreže X je krivično gonjeno jer su netačno identifikovali slatkiše kao proizvode lanca Amul, velikog proizvođača mliječnih proizvoda, a regionalna policija je naredila uklanjanje bezbroj mimova koji su nastali kao reakcija.

Kao dio većeg projekta o moderaciji sadržaja na globalnom jugu, Centar za demokratiju i tehnologiju je ustanovio da većina redovnih korisnika digitalnih servisa na tamilskom jeziku sumnja da su bili žrtve moderacije s ciljem da se utiša njihovo mišljenje i politička uvjerenja. Kreatori sadržaja, aktivisti i novinari često su ponavljali ove sumnje, a potvrdili su ih i bivši zaposlenici platformi, koji su opisali rastuću saradnju između vlada i kompanija u cilju suzbijanja govora.

Iako je istraživanje bilo ograničeno na Indiju i Šri Lanku, stručnjaci ističu da se alati i taktike koje su dokumentovali pojavljuju širom svijeta, te navode: "Ako platforme žele zadržati korisnike i njihovo povjerenje, moraju biti iskrenije i transparentnije kada vlade utiču na moderaciju i kako to čine".

"Automatizirana poslušnost"

Novi zakoni usvojeni u Indoneziji, Keniji, Brazilu, Evropi i drugim dijelovima svijeta značajno su povećali ovlasti državnih službenika, policije i sudova da zahtijevaju ili naređuju uklanjanje pojedinih objava ili čitavih kategorija objava.

Kompanije bilježe ogroman porast takvih zahtjeva: Facebook je izvijestio o eksponencijalnom rastu zahtjeva vlada za ograničenje sadržaja između 2023. i 2024. godine, a Google je saopćio da je u periodu 2021–2023. primio 87% više zahtjeva za uklanjanje sadržaja. Indonezijski propis MR5 rezultirao je s više od 140 miliona zahtjeva upućenih Facebooku samo za geoblokiranje objava i komentara — većinom vezanih za kockanje, ali i za "podijeljene političke govore".

Upravljanje zahtjevima vlada za ograničavanje sadržaja postalo je ogroman posao za kompanije, ali utvrđivanje koji su zahtjevi opravdani, a koji ne, sve je niže na listi prioriteta. Nalozi o zabrani objavljivanja (gag orders), masovna otpuštanja osoblja za sigurnost i povjerenje, kao i ogroman broj zahtjeva, guraju kompanije ka pristupu "automatizirane poslušnosti", umjesto da procjenjuju kada zahtjev treba odbiti.

Osim što smanjuje troškove, ispunjavanje zahtjeva vlada može biti i politička prilika. Arsenal kojim vlade utiču na odluke kompanija prevazilazi formalne zahtjeve za uklanjanje sadržaja. Politike i procesi moderacije sadržaja sve više postaju predmet pregovora koje kompanije i vlade koriste kako bi izbjegle buduće regulacije, smanjile pravnu odgovornost i osigurale nesmetano poslovanje.

Razgovarajući s bivšim zaposlenicima platformi zaduženim za sigurnost i moderaciju, Bhatia i Elswah pišu da shvatili da vlade utiču na moderaciju na više načina.

Prvo, timovi mijenjaju politike kako bi se što više uskladili s preferencijama i politikama vlade. Drugo, moderatori unaprijed uklanjaju govore kako bi preduhitrili vladine zahtjeve, uključujući i zakonski dopuštene govore za koje smatraju da bi mogli izazvati kontroverzu. Druga istraživanja pokazala su da moderatori također postupaju prema prijavama koje dolaze iz tijela za provođenje zakona, poput netransparentno nazvanih "internih referalnih jedinica", koje prijavljuju sadržaj za koji smatraju da krši interne uslove korištenja. Također, kompanije pokreću tzv. "break-glass" mjere, odnosno izvanredne mjere ubrzane moderacije kada su pod dodatnim pritiskom vlade ili kad im je zaprijećeno zatvaranjem platforme. Ove metode su uglavnom ad hoc i neregulisane.

"Produžena ruka vlade"

Želja kompanija da udovolje vladama nije nova pojava, iako je sada očitija nego ikad, ali ono što se uistinu pogoršava jeste sve veći nedostatak transparentnosti. Prije deset godina, direktori su hvalili ulogu svojih platformi tokom Arapskog proljeća, pozicionirajući ih kao alat za rušenje represivnih režima i javno se obavezivali — makar retorički — na poštivanje ljudskih prava.

Platforme su se tada često javno suprotstavljale ograničenjima sadržaja koje su tražile vlade i objavljivale te zahtjeve u Lumen bazi podataka, čime su omogućavale javnosti i korisnicima da razumiju šta njihova vlada radi i da procijene da li zakoni zaista služe sigurnosti ili političkim ciljevima. Danas kompanije direktno pomažu vladama uklanjanjem objava i predajom korisničkih podataka, često bez ikakvog obavještenja javnosti ili pogođenih korisnika.

Sve češće korisnici optužuju društvene mreže da su produžena ruka vlade i da uklanjaju više sadržaja nego što vlasti uopće traže, na štetu društvenih pokreta. Korisnici se također osjećaju neprestano nadgledano i preispituju zašto uopće koriste te servise — posebno kada se radi o političkim temama.

Kao odgovor, razvijaju metode zaobilaženja nadzora: izrezuju slike, obrću slova ili koriste "algospeak" — specifične izraze koji izbjegavaju automatsku cenzuru, poput korištenja izraza "cute winter boots" umjesto da se direktno govori o Trumpovoj imigracijskoj politici — čime dodatno otežavaju iskrenu i dobronamjernu moderaciju.

Dozvoljavanjem, pa čak i podsticanjem daljnjeg preuzimanja kontrole od strane vlada, kompanije narušavaju vlastitu reputaciju, što može imati finansijske i druge posljedice. Predvidivi, pouzdani i na ljudska prava usmjereni moderacijski procesi povezani su s većim prihodima za online servise koji hostuju korisnički generisan sadržaj.

Nasuprot tome, kako je platforma X naučila nakon promjene vlasništva i politike, nestabilna moderacija može otjerati korisnike i oglašivače. U isto vrijeme, investitori sve više zahtijevaju veću odgovornost i poštovanje međunarodnih standarda ljudskih prava na godišnjim skupštinama dioničara.

Štaviše, popuštanje kompanija pred zahtjevima vlada može biti u sukobu s njihovim obavezama prema UN-ovim Smjernicama o poslovanju i ljudskim pravima, kao i s vlastitim izjavama o zaštiti ljudskih prava i sigurnosti korisnika. S povećanom neformalnom i indirektnom ekspanzijom vladinog nadzora online i sve manje prostora za slobodan govor van domašaja vlada, korisnici sve više gube mogućnost da govore slobodno. Još gore, gube pravo da traže pravnu zaštitu od svojih vlada ako ni ne znaju da je upravo njihova vlada razlog uklanjanja sadržaja.

Šta treba učiniti

Bhatia i Elswah smatraju da kompanije mogu učiniti više da povrate povjerenje korisnika.

Prvo, mogu dosljedno objavljivati vladine naloge gdje god je to moguće ili tražiti od vladinih tijela da ih učine javnim, u skladu sa svojim obavezama iz oblasti ljudskih prava, navode, ističući da se akademici, zagovornici ljudskih prava i stručnjaci oslanjaju na ove podatke kako bi razumjeli koliki uticaj na informacijski prostor imaju i društvene mreže i vlade.

Drugo, mogu obavještavati korisnike kada je njihov govor moderiran zbog vladine naredbe ili pritiska. Korisnici često ostaju u mraku i ne znaju da je njihov sadržaj uklonjen zbog zahtjeva vlade, što podstiče teorije zavjere.

Također, mogu se usprotiviti kada vladine naredbe krše ljudska prava. Većina velikih kompanija to je u prošlosti znala učiniti. Postojeći okviri, koje su razvili Ujedinjene nacije i Globalna inicijativa za mreže (Global Network Initiative), omogućuju timovima za sigurnost i povjerenje da odvagaju sve rizike i posljedice u slučaju pritisaka.

Također ističu da bi, pored pojedinačnih zahtjeva vlada, kompanije trebale češće komunicirati s korisnicima kako bi ublažile strahove od vladinog nadzora. Informisanje korisnika o pravilima ponašanja online, promjenama pravila i onima koji nadgledaju njihov govor pomaže korisnicima da donose informisane odluke o svojoj digitalnoj sigurnosti.

Bhatia i Elswah na kraju pišu da, kako se kompanije i vlade sve više povlače od prethodno dogovorenih obaveza prema slobodama i pravima građana, zaboravljaju na korisnike koji njihove platforme čine održivim i uspješnim.

"Kompanije bi trebale biti na strani korisnika, umjesto da izvršavaju naloge vlada — naročito kada same vlade odustaju od vlastite odgovornosti da štite građane", ističu.

Zatim citiraju jednog moderatora sadržaja na tamilskom jeziku: "To što platforma ukloni tvoj sadržaj je zapravo samo neprijatnost. Prava opasnost je demokratska klima u zemlji".

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad