O TikTok disse que tem políticas para impedir que conteúdos que tenham desumanização racial circulem na plataforma, [assim como] ameaças de danos físicos a um grupo ou pessoa. A empresa também afirma participar do C2PA, a coalizão de grupos de tecnologia que está tentando criar um jeito de identificar conteúdos gerados por IA na plataforma
Helton Simões Gomes
Em episódio do Deu Tilt, o podcast do UOLpara os humanos por trás das máquinas, Diogo Cortiz apontou que o caso evidencia uma falha na moderação de conteúdo do TikTok. Segundo ele, independentemente de os vídeos terem sido feitos por IA ou não, eles já violam os próprios termos de uso da plataforma.
Mas não só isso. A produção desse tipo de vídeo evidencia ainda a dificuldade em implementar nas ferramentas de inteligência artifical os chamados “guardrails”, mecanismos de segurança embutidos no próprio código para limitar usos abusivos ou prejudiciais.
Do ponto de vista de segurança e ética, o Veo 3 não está pronto. O Google colocou no mercado uma ferramenta que, se não fosse a corrida louca pela inteligência artificial, provavelmente não teria sido lançada neste momento
Diogo Cortiz
Apesar das denúncias, esses conteúdos continuam circulando. Cortiz ressalta ainda um segundo agravante:
Quando eram produzidos de forma artesanal, a quantidade [desses vídeos] era limitada. Agora, com a IA, esse tipo de conteúdo contra grupos específicos vai inundar ainda mais as redes, e elas terão de se preocupar com isso. Ou seja, as empresas de tecnologia criaram um problema que elas mesmas não estão conseguindo resolver
Diogo Cortiz