Imagem criada no Canva.

Há cerca de seis anos, escrevi sobre um novo “vírus” para o jornalismo. Vários anos se passaram e ainda não temos o “antivírus” contra as deepfakes, que avançaram e se aperfeiçoaram, e o próximo passo é a simplificação do processo de produção desses vídeos falsos. Até então, era preciso conhecer programas específicos para criar as deepfakes. O desenvolvimento de novas aplicações baseadas em inteligência artificial (IA), mais fáceis de usar, está levando à produção em massa das deepfakes. Nas últimas eleições presidenciais nos Estados Unidos, houve mais cheapfakes (ou falsificações de baixo custo) do que deepfakes (as falsificações “profundas”) — a principal razão era que as falsificações de baixo custo eram facilmente produzidas por qualquer pessoa. E conforme as deepfakes ficam mais fáceis de serem produzidas, não é preciso muita convicção ou cálculos para dizer que, em eventos importantes como eleições, elas serão a principal ameaça no mundo da informação, já que a manipulação dessa tecnologia se torna cada vez mais viável em termos tecnológicos.

As deepfakes são conteúdos visuais falsos baseados em inteligência artificial (IA), nos quais uma pessoa real é apresentada dizendo ou fazendo algo que nunca de fato fez. Nesses anos de existência, as deepfakes foram produzidas para fins de entretenimento ou de conscientização, mas também há casos em que a manipulação do público através das deepfakes tem motivações políticas ou econômicas.

As deepfakes estão mais fáceis de se produzir, o que torna urgente o aumento da conscientização sobre elas. Um exemplo recente ocorrido na região dos bálcãs é o vídeo erótico usando uma apresentadora da TV albanesa, Luana Vjollca, que coloca seu rosto num corpo diferente com o uso da IA. O jornalista albanês Blendi Fevziu publicou uma deepfake de si próprio para fins de sensibilização, onde aparece falando em chinês, árabe, russo e português. Outros vídeos falsos foram publicados na região durante 2022, como aquele onde Elon Musk fala em albanês e sérvio.

São exemplos que mostram como a produção das deepfakes está muito mais fácil do que há alguns anos. Se levarmos a análise para além dessa região, há uma deepfake da modelo americana Bella Hadid que viralizou, na qual ela supostamente apoiava as ações de Israel na guerra contra o Hamas, fala que ela afirmou não ter feito. A deepfake de Hadid teve mais de 28 milhões de visualizações no X (antigo Twitter). O desenvolvimento de tecnologias e programas fáceis de usar baseados em IA está criando uma nova ameaça à verdade.

Agora, a verdade está à beira da “morte” porque, com o aumento das deepfakes em circulação, será cada vez mais difícil entender qual informação é verdadeira. Considerando a crise de credibilidade da mídia, o jornalismo será desafiado ainda mais no futuro próximo. No entanto, tudo isto pode ser melhor combatido com jornalismo profissional, com jornalismo que adere às práticas profissionais e que coloca o interesse público em primeiro lugar. Caso contrário, o jornalismo sensacionalista e caça-cliques alimentará ainda mais a desconfiança na mídia e levará as pessoas a se sentirem inseguras com as informações que recebem, criando espaço para outros atores no ambiente da informação. Nessa situação, se beneficiam os que operam nas sombras, lucrando com uma abordagem obscura, sem pensar nos danos causados à sociedade.

A popularização das deepfakes decorrente do desenvolvimento da programação baseada em IA abre um novo capítulo na circulação de informações e nas comunicações, tanto para o emissor quanto para o receptor das informações. Devido a esse importante e rápido desenvolvimento, esforços precisam ser feitos para tornar o método de verificação num processo mais simples e rápido do que é agora.

Existem atualmente alguns programas que ajudam a detectar este fenômeno que faz com se viva inconscientemente numa realidade falsa, como o FakeCatcher e o Sentinel, mas ainda não existem ferramentas abertas para uso amplo e gratuito à disposição. Além disso, é importante que os métodos de detecção avancem para acompanhar o progresso das deepfakes, pois a tecnologia que está permitindo a produção delas está se desenvolvendo em um ritmo veloz. Atualmente, essas plataformas não detectam manipulações de áudio, elemento importante nas manipulações audiovisuais, porque já há casos em que a imagem é real, mas o som é gerado por IA.

O conhecimento sobre as deepfakes e a consciência do fenômeno ajudam a sociedade a ser mais crítica em relação a qualquer vídeo a que esteja exposta. As ferramentas para detectar as deepfakes são importantes, mas combater a desinformação também requer um grande compromisso dos indivíduos e das organizações da sociedade civil para tornar a sociedade ciente da existência e das implicações dessas falsificações na vida cotidiana.

Por outro lado, não é necessário um novo sistema legal para as deepfakes, pois já existem leis que regulam o conteúdo destinado a enganar, difamar ou prejudicar indivíduos, empresas ou a sociedade como um todo. No entanto, devido à velocidade da sua distribuição, viralização e potencial de ameaça, é importante que as deepfakes sejam priorizadas.