A Inteligência Artificial (IA) não surgiu agora, mas seu uso e aplicações seguem em ritmo acelerado, com novidades e modificações que surpreendem a cada dia. Um dos subprodutos da IA atende pelo apelido de deepfake (em ingês) e promete gerar mais polêmica, principalmente se for utilizado para ancorar estratégias políticas, disputas eleitorais, brigas comerciais e disputas no campo pessoal – com a ética sendo deixada de lado. Com esse tipo técnica, sabemos, é possível modificar imagens em movimento, alterar cenários e trocar situações por outras, totalmente contraditórias ou distintas. Vai muito além das tradicionais manipulações – algumas até grosseiras – que se faz há anos com programas como Photoshop, dentre outros.

Um exemplo do potencial de confusão que esse fenômeno pode causar, em particular no ambiente das mídias sociais, teve a ver com um vídeo que viralizou recentemente: nele, uma criança pequena é mostrada caminhando no que seria um peitoril, com uma grade, tendo abaixo de si um abismo que a levará à morte por qualquer passo em falso que dê. E ela tropeça, no caso da imagem. Seu impacto foi grande (nas redes) e deixou muita gente emocionada e assustada.

Na prática, o vídeo foi modificado por meio de deepfake, visto que o menino caminhava originalmente segurando numa grade, mas ao nível da rua e o tropeço dele, portanto, em nada resultou. O abismo era pura manipulação gráfica.

Transpondo esse tipo de artifício visual para um ambiente envenenado politicamente ou mesmo em disputas pessoais ou comerciais, imaginamos o potencial danoso que o uso desse tipo de técnica de IA. Questiona-se, por exemplo, se os poderes e instituições eleitorais têm preparo e capacidade para debelar o uso desse tipo de intervenção no ambiente eleitoral, como é o caso da disputa deste ano.

Não se espere um período de brigas ideológicas feito com base na ética e nos cuidados, e isso não é algo novo, pois o ensaio das trapaças e manipulações nessa linha tiveram como marco o ano de 2018 – no campo do que se popularizou como ambiente das fake news, que seria um parente próximo do estilo deepfake. Um, no caso, envolve todo o processo de manipulação da informação, enquanto o outro seria mais restrito a alterações que poderiam amplificar uma informação ou notícia notadamente falsa. Seria uma arma letal com mais um potencial, o do vídeo, digamos assim.

É bom lembrar que o uso da Inteligência Artificial e das técnicas deepfake não é novo e o cinema é o melhor exemplo desse processo de tratamento das imagens no plano digital. A produção de inúmeros filmes e animações depende do uso de manipulações digitais, visto que os cenários são transpostos, alterados, modificados, enquanto os personagens estão em estúdio, simulando movimentos que apenas as máquinas farão na finalização dos vídeos. Isso facilita muito a produção, cria cenários incríveis, possibilita inovações e assusta todo mundo que vê o resultado nas telas ou em casa. Faz parte do processo e todo mundo acaba gostando, de uma forma ou de outra.

O nó da questão é, de fato, o desvio que se pode fazer com esse fenômeno em momentos de forte tensão política. Ainda mais se somarmos a isso a circulação em larga escala de montagens, das mais simples, grosseiras e até aquelas com aparente ‘infantilidade’, ao uso por campanhas políticas e disputas de caráter comercial e ideológico.

Certamente não estamos preparados para o fenômeno que se avizinha, mesmo que seja possível usar o que sempre se recomenda quando alguém mandar aquele vídeo suspeito via WhatsApp, por exemplo: checar, comparar com outros vídeos da pessoa ou do local onde acontece a cena, buscar em sites especializados e, claro, questionar quem enviou sobre a veracidade ou a fonte. Se receber como resposta o clássico “recebi pelo Zap“, desconfie. Pode ser cilada, pode ser deepfake. Pode ser falso. É isso!

Olho aberto e cuidado redobrado é o mínimo para sobrevivermos ao que virá!