Potrivit mărturiilor unora dintre cei aproximativ 10.000 de moderatori angajați de compania-mamă ByteDance, pentru a modera conținutul potențial ofensator distribuit pe TikTok, jobul implică vizionarea până la 12 ore pe zi a unui flux exagerat de mare dec clipuri, inclusiv scene de violență extremă, precum crima, violul, decapitarea, canibalismul și alte forme de violență extraordinară.
ByteDance, compania din spatele rețelei TikTok, este dat în judecată de foști moderatori care acuză traume psihologice, rezultate din expunerea repetată la scene care arată „acte explicite de violență extremă”. Foștii moderatori reproșează în special lipsa consilierii psihologice și presiunea angajatorului de a lucra „continuu” în ture de până la 12 ore, urmărind aproape fără pauză nenumărate scene cu puternic impact emoțional.
Succesul rețelei TikTok, care anul trecut a atras mai mulți vizitatori chiar și decât Google, are o latură întunecată pe care doar echipele de moderatori o cunosc cu adevărat. Aparent, nu puține dintre videoclipurile încărcate pe TikTok arată scene atât de extreme încât angajații care trebuie să le vizioneze ca răspuns la rapoartele trimise de utilizatori sau declanșate de algoritmii automati ai platformei ajung să aibă cele mai grave traume psihologice comparabile cu cele întâlnite de victime și soldați care au petrecut mult timp în zonele de conflict.
Potrivit acuzațiilor depuse de Ashley Velez și Reece Young, moderatorii TikTok întâlnesc scene de pornografie infantilă și bătăi împotriva copiilor, împușcături și alte situații în care este practic imposibil să rămâi indiferent emoțional. Cu toate acestea, moderatorii TikTok trebuie să urmărească astfel de scene ca parte a unui flux continuu de clipuri trimise pentru verificare, de câteva secunde pentru a determina dacă materialul încalcă regulile de postare ale platformei, trecând imediat la următorul clip.
Ca urmare a activității desfășurate pentru angajator, „reclamanta are probleme cu somnul și, când doarme, are coșmaruri groaznice”, se arată în datele din procese.
Imitând strategia întâlnită deja în alte companii de social media (Facebook și YouTube) care s-au confruntat cu probleme similare în rândul echipelor de moderatori, TikTok a publicat un set de recomandări pentru a ajuta moderatorii să facă față activităților potențial traumatice. Sugestiile includ limitarea turelor moderatorilor la patru ore și sprijin psihologic gratuit prin angajarea de consilieri calificați. Dar toate acestea sunt doar recomandări, pe care ByteDance și potențialii parteneri angajați pentru moderarea conținutului pe TikTok nu le respectă cu adevărat.