O TikTok tem vindo a acelerar a automatização da moderação na sua plataforma, o que significa extinguir centenas de postos de trabalho.
O debate sobre os riscos da substituição de moderadores humanos por sistemas inteligentes voltou a ganhar força no Reino Unido, depois de o TikTok ter anunciado uma reorganização profunda no seu modelo de controlo de conteúdos. A decisão, apresentada como uma aposta na tecnologia para reduzir a exposição dos trabalhadores a imagens traumáticas, levanta agora alguns receios sobre falhas graves na proteção dos utilizadores.
John Chadfield, responsável pelo setor tecnológico do sindicato britânico CWU, não escondeu a sua preocupação. Para o sindicalista, esta mudança representa uma ameaça real para milhões de utilizadores: “Os trabalhadores do TikTok têm vindo a alertar há muito tempo para os custos reais de reduzir as equipas de moderação humana em favor de alternativas de IA apressadamente desenvolvidas e ainda imaturas.” Por sua vez, Lloyd Richardson, diretor de tecnologia do Centro Canadense de Proteção à Criança, sublinha que a inteligência artificial continua incapaz de identificar certos conteúdos particularmente sensíveis, desde o abuso sexual de menores até representações de crueldade. “Se começarmos a usar IA para reduzir a equipa de moderação, isso diminuirá a segurança nas redes sociais”, avisa. Também Zhanerke Kadenova, moderadora sediada no Cazaquistão, testemunha diariamente as limitações destes sistemas ao afirmar que “não se pode confiar nas sugestões da IA, na maioria das vezes não correspondem à realidade”.
A defesa da empresa passa pelo argumento de que a inteligência artificial serve, sobretudo, para proteger a saúde mental dos próprios moderadores, muitas vezes expostos a material gráfico perturbador. Contudo, o risco de um controlo mais superficial coincide com a entrada em vigor de novas regras, como a Lei de Segurança Online britânica, que exige maior rigor na filtragem de conteúdos nocivos.
Infelizmente, o plano do TikTok não se limita ao Reino Unido. Desde setembro de 2024, a empresa tem vindo a reduzir equipas de moderação em vários países europeus. Por exemplo, na Holanda, foram extintos 300 postos de trabalho, na Malásia mais 500 em outubro, e na Alemanha, cerca de 150 empregos foram ameaçados, levando mesmo à convocação de greves. Em território britânico, a empresa garante que algumas funções vão-se manter, assegurando prioridade de reintegração para os trabalhadores afetados em escritórios como Dublin ou Lisboa, ou através de contratos externos.
