Po novem poročilu človekoljubne organizacije, TikTok otroškim uporabnikom preko svojega algoritma priporoča pornografijo in močno seksualizirane vsebine.
Raziskovalci so ustvarili lažne otroške račune in vključili varnostne nastavitve, vendar so kljub temu prejemali predloge za iskanje spolno eksplicitnih vsebin. Predlagani iskalni pojmi so vodili do vsebin, ki so vključevale eksplicitne videoposnetke spolnosti.
TikTok pravi, da je zavezan zagotavljanju varnih in starosti primernih izkušenj ter da je takoj ukrepal, ko je bil o težavi obveščen.
Kako je potekala raziskava
V poznih julijskih in začetku avgustovskih dneh letošnjega leta so raziskovalci organizacije Global Witness ustanovili štiri račune, ki so se predstavljali kot 13-letniki. Uporabili so izmišljene datume rojstva, brez potrebe po dodatni identifikaciji.
Vključili so tudi “omejeni način”, za katerega TikTok trdi, da uporabnike ščiti pred temami za odrasle, kot je spolno sugestivna vsebina. Kljub temu so raziskovalci — brez kakršnihkoli lastnih iskanj — takoj prejeli priporočila za izrazito seksualizirane iskalne pojme v razdelku »morda vas zanima«.
Ti pojmi so vodili do posnetkov, v katerih so ženske simulirale masturbacijo, razkazovale spodnje perilo na javnih mestih ali kazale prsi. V najhujših primerih so bili prikazani eksplicitni pornografski videi spolnosti, skriti v sicer nedolžni vsebini, da bi se izognili moderiranju.
Ava Lee iz Global Witness je dejala, da je ekipo odkritje “močno pretreslo”. »TikTok ne le da otrokom ne preprečuje dostopa do neprimernih vsebin — te jim celo predlaga takoj, ko ustvarijo račun.«
TikTok: “Ukrepali smo”. Raziskovalci pa: “Pojav se ponavlja”
Global Witness je o problemu obvestil TikTok, ki je sporočil, da je takoj ukrepal. A ko je skupina kasneje ponovila raziskavo, se je težava ponovila — aplikacija je še vedno priporočala seksualizirano vsebino otroškim profilom.
TikTok trdi, da ima več kot 50 varnostnih funkcij za zaščito mladih in da odstrani 9 od 10 videov, ki kršijo pravila, še preden so gledani. Po obvestilu raziskovalcev je TikTok sporočil, da je odstranil kršitvene vsebine in izboljšal funkcijo predlogov iskanja.
Novi zakoni in poziv k ukrepanju
25. julija letos so začeli veljati otroški zaščitni kodeksi v okviru britanskega Zakona o spletni varnosti, ki uvajajo pravno obveznost zaščite otrok na spletu. Platforme morajo uporabljati učinkovito preverjanje starosti, da preprečijo dostop do pornografije, in prilagoditi algoritme, da blokirajo vsebine, ki spodbujajo samopoškodovanje, samomor ali motnje hranjenja.
Global Witness je svojo drugo raziskavo izvedel po začetku veljavnosti novih pravil.
“Vsi se strinjamo, da moramo zaščititi otroke na spletu… Zdaj je čas, da ukrepajo regulatorji,” pravi Ava Lee.
Raziskovalci so med delom opazili tudi, da so običajni uporabniki postavljali vprašanja o nenavadnih predlogih iskanja, ki so jih prejemali, npr.:
»A mi lahko nekdo razloži, kaj je narobe z mojimi predlogi iskanja?«
»Kaj je narobe s to aplikacijo?«
Vir: BBC News