Jak ohlídat kvalitu obsahu nahrávaného běžnými uživateli je problém starý jako internet sám a v éře sociálních médií je o to naléhavější. Do určitého počtu uživatelů je možné spolehnout se na ruční moderování, se kterým mohou pomoci samotní uživatelé. Postupem času začne být takový systém drahý a hlavně neefektivní. To je v současnosti problém napříkladTikToku, který je o to ožehavější, že mezi jeho uživatele patří primárně děti a mládež. I když se jedná o čínskou společnost, jeho „Safety Team“ sídlí v USA, aby mohl lépe moderovat obsah podle tamních podmínek.

V následujících týdnech tak přejdou nejdříve severoameričtí a následně i další uživatelé na systém, kdy vhodnost nahrávaných videí bude kontrolovat automat. Podle zástupců TikToku má sice prozatím asi 5% chybovost, nicméně je důležitější, že měří všem uživatelům stejně. Nejspíše proto bude první provinění doprovázeno pouze varováním. Další provinění už budou následována zákazem přidávat nová videa či komentáře po dobu jednoho nebo dvou dnů. Další stupeň už zahrnuje kompletní pauzu na delší dobu s varováním, že při dalším provinění může být účet zrušen.

TikTok také připomíná, že při některém druhu chování bude uživatel vymazán okamžitě, například při sdílení obsahu zahrnujícího zneužívání dětí. Zároveň varuje, že blokace se bude vztahovat na zařízení, takže nepůjde obejít založením nového účtu.