Um exemplo dessas consequências é o termo DeepFake. O processo envolve a criação de conteúdos de áudio ou vídeo fabricados que podem ser utilizados para fins maliciosos e disseminação de desinformação.
Vídeos de Drauzio Varella e Pedro Bial vendendo pílulas contra a calvície, que viralizaram no Instagram e TikTok, são exemplos desse fenômeno. Os dois nunca gravaram esses conteúdos – muito menos deram permissão. Criminosos fabricaram esses vídeos para aplicar golpes na Internet.
Embora o conceito de DeepFakes esteja difundido, ainda assim continuam criando uma espécie de realidade paralela e afetam como as pessoas percebem o mundo. Porém, quero discutir nesta coluna um efeito ainda mais sutil, pouco discutido, mas que está presente no dia a dia de todos nós: as edições e criações feitas por IA que modificam conteúdos reais de nossas vidas.
Diferente daquilo que é totalmente fabricado, essas alterações acontecem, muitas vezes, sobre imagens autênticas. Há uma série de aplicativos que oferecem ferramentas para remover pessoas das fotos, inserir sorrisos, mudar o fundo da imagem ou até simular um clima diferente do dia em que ela foi tirada.
A situação fica especialmente mais sensível com as IAs que criam vídeo. A partir de uma fotografia, o modelo inventa uma continuidade da vida que nunca existiu.
São edições e animações aparentemente inofensivas, feitas pela própria pessoa para melhorar a imagem ou trazer mais imersão por meio da criação de um vídeo. O problema é que essas alterações podem distorcer memórias genuínas e reconfigurar experiências vividas.
Nesta semana está acontecendo a conferência ACM CHI, principal fórum acadêmico de pesquisas na área de interação humano-computador. Um dos artigos que ganhou o prêmio de melhor trabalho foi justamente o que mostrou que as fotos e vídeos editados por IA podem implantar memórias falsas e distorcer a realidade.