Više od 400 aplikacija za ljubimce i vježbanje krilo je alat za lažne gole fotografije

Istragu je u ponedjeljak objavio američki magazin Wired. Prema njegovim nalazima, iza mreže od više od 400 povezanih domena i aplikacija stoji jedna kineska kompanija, KeLing Technology, koja je svoj identitet skrivala iza generičkih naziva i politika privatnosti. Aplikacije su bile dostupne i u Appleovom App Storeu i na Google Playu, a neke su ondje bile oko godinu dana.

Za recenzente aplikacija za ljubimce, za korisnike alat za deepfake

Trik je bio u tome što aplikacija nije uvijek prikazivala isti sadržaj. Prilikom pregleda u trgovini radila je kao bezazlen alat, na primjer Viefur, aplikacija za "oblačenje" kućnih ljubimaca na fotografijama. Nakon instalacije aplikacija bi serveru poslala podatke o tome odakle je korisnik došao, koji jezik koristi i jedinstveni identifikator, a server je onda odlučivao hoće li prikazati običnu aplikaciju ili skriveno sučelje.

To skriveno sučelje od fotografije koju korisnik učita pravilo je eksplicitne slike i video snimke, uključujući scene seksualnog nasilja i prijetnje nožem. Korisnici su mogli preuzeti desetine šablona i kupovati kredite za generisanje. Jedan od okidača, prema Wiredu, bila je instalacija nakon klika na oglas na Facebooku ili Instagramu, gdje je mreža objavila hiljade video oglasa.

Šta su uradili Apple, Meta i Google

Apple je uklonio 19 aplikacija nakon što mu je Wired poslao podatke. Glasnogovornik Adam Dema rekao je da kompanija pregleda svaku aplikaciju prije objave i da su ove aplikacije u tom trenutku bile u skladu s pravilima. Prema Appleu, programeri su kasnije promijenili izvor sadržaja i reklamirali ga pornografskim oglasima na drugoj platformi. Apple tvrdi da je nedavno pooštrio pravila protiv ovakve zamjene sadržaja.

Meta navodi da je poduzela mjere protiv više od 10.000 oglasnih naloga povezanih s ovim domenima. Google je, prema Wiredu, većinu aplikacija uklonio prije nego što ga je magazin kontaktirao, ali na upite nije odgovorio. Wired upozorava da su se slični oglasi i aplikacije pojavljivali i dok je istraga privođena kraju.

Provjera u trgovini nije dovoljna garancija

Slučaj pokazuje slabost na koju se oslanja većina korisnika: aplikacija iz zvanične trgovine nije nužno ono što je bila na dan objave, jer se sadržaj može mijenjati sa servera bez novog ažuriranja. Nije poznato jesu li ove aplikacije bile dostupne i korisnicima u BiH.

Nekoliko stvari ipak može pomoći, posebno roditeljima:

• budite oprezni s aplikacijama koje ste našli preko oglasa na društvenim mrežama, a ne pretragom u trgovini;
• provjerite ko je programer i ima li druge aplikacije s istim opisom i različitim nazivima;
• na dječijim telefonima uključite roditeljsko odobravanje instalacije (Ask to Buy na iPhoneu, Family Link na Androidu);
• sumnjivu aplikaciju prijavite direktno u trgovini, opcijom za prijavu problema.

Ko otkrije da je njegova fotografija zloupotrijebljena, može zatražiti uklanjanje od platforme na kojoj je objavljena i prijaviti slučaj policiji.