Deepfake – Um Grande Risco com a Chegada da Inteligência Artificial

Fonte do Material deste Post

O tema deste artigo foi editado a partir de uma publicação do Comprova – um website cujo slogan é “jornalismo colaborativo contra a desinformação”.

Deixamos aqui o link do site, e também da matéria original publicada no website em questão (https://projetocomprova.com.br/publica%C3%A7%C3%B5es/saiba-o-que-e-deepfake-tecnica-de-inteligencia-artificial-que-foi-apropriada-para-produzir-desinformacao/).

O que Está Acontecendo? Entenda a Situação

Vídeos vêm sendo manipulados, e seus conteúdos distorcidos a partir dessa prática chamada Deepfake - que usa Inteligência Artificial para copiar vozes e rostos.

Por meio da tecnologia, é possível produzir vídeos realistas, em que pessoas aparecem fazendo e/ou falando coisas que nunca fizeram e/ou disseram.

O que é Deepfake?

Consiste numa técnica de criação de conteúdos sintéticos/artificiais (não reais/falsos) - podendo ser áudios, vídeos e imagens, produzidos com o auxílio de Inteligência Artificial (IA).

Esta técnica vem sendo usada há quase 5 anos. São mídias artificiais geradas a partir de uma grande quantidade de arquivos reais de uma determinada pessoa.

Com a utilização de um algoritmo de Aprendizado de Máquina (Machine Learning), a Inteligência Artificial combina, une ou sobrepõe áudios, vídeos e imagens para criar arquivos falsos, em que quaisquer pessoas podem ser inseridas em uma situação, que não é a real e verdadeira.

A Origem do Termo Deepfake

O Professor do Instituto de Computação da Unicamp - Anderson de Rezende Rocha, explica que, originalmente, o termo Deepfake referia-se ao nome de um usuário que se autodenominava “Deepfake”.

Essa pessoa criou um software, baseado em técnicas de Machine Learning, que conseguia sintetizar a face de um indivíduo no lugar de outra pessoa. Isso era feito a partir de um banco de dados cheio de fotos.

Com o tempo, o termo passou a designar uma técnica que gera algum tipo de falsificação a partir de uma grande quantidade de fotos, vídeos ou arquivos de áudio de uma determinada pessoa a partir de um algoritmo de Aprendizado de Máquina.

Segundo Rocha, esse recurso funciona por meio de muitas camadas, parâmetros e opções de escolha. Por isso, diz-se que é um algoritmo “deep” (profundo).

O Professor Moacir Antonelli Ponti - Pesquisador na área de Aprendizado de Máquina, explica que a origem técnica do termo se refere aos algoritmos usados para a geração desse tipo de conteúdo.

Esses algoritmos pertencem a um conjunto de métodos chamados de “Deep Learning”. Como o conteúdo é “fake” (falso), criou-se o nome Deepfake.

A Tecnologia por trás do Deepfake

Para criar esse tipo de material enganoso, é preciso ter acesso a arquivos verdadeiros — fotos, vídeos ou áudios - da pessoa-alvo da manipulação.

Este material serve para alimentar a Inteligência Artificial, que aprende com o conteúdo fornecido e, com isso, consegue reproduzir padrões (movimentos, expressões, vozes e outras características do indivíduo).

Existe ainda o Shallowfake - que também gera conteúdo artificial, mas que não se utiliza de Inteligência Artificial no processo de criação. A palavra shallow significa superficial.

Propósitos e Objetivos do Deepfake

Disseminar conteúdos com informações falsas – ou seja, desinformação
Influenciar campanhas eleitorais e outros assuntos políticos
Distorcer a realidade, forjando situações e cenários confusos
Manipular a opinião pública
Causar danos/prejuízos morais a alguém
Criar conteúdo pornográfico virtual
Em alguns casos, é usada com propósitos humorísticos ou sarcásticos

Um brasileiro pioneiro do Deepfake

No Brasil, o Deepfake ganhou popularidade a partir de aplicativos e de conteúdos criados por Bruno Sartori, jornalista, humorista e influenciador digital (kkk), tido como pioneiro na criação de sátiras utilizando a técnica.

Ele conta que, em dezembro de 2017, acabou conhecendo a tecnologia e quis acrescentá-la a seus trabalhos. “Visualmente, você via que era montagem, mas dava um efeito muito legal.”

“Fiz um vídeo que viralizou em maio de 2018 - que era o Bolsonaro de Chapolin Colorado. Fui percebendo que as pessoas acreditavam neste tipo de conteúdo.”

O TheWebGuardian não tem comentários sobre o comentário acima...

Casos Reais de Uso de Deepfake

Em agosto deste ano, o Comprova mostrou ser falso um vídeo publicado no TikTok que se utilizava da técnica. Nele, o âncora do Jornal Nacional - William Bonner, supostamente chama de “bandidos” o ex-presidente Lula e seu candidato a vice Geraldo Alckmin.

Neste caso, foi utilizada uma técnica chamada Text to Speech (TTS), capaz de gerar áudios sinteticamente a partir de um conteúdo em texto e que utilizou um banco de dados com dezenas de áudios de Bonner.

Deepfake na Política

Atualmente, o uso da tecnologia ainda é tímido, mas tem ganhado força, principalmente por causa dos aplicativos que possibilitam a criação deste tipo de conteúdo.

O jornalista Bruno Sartori acredita que, daqui a quatro anos, nas próximas eleições, a técnica terá sido aperfeiçoada, com possibilidade de ser largamente explorada em campanhas eleitorais.

Quando Mais Exposto, Mais Material Disponível para Deepfakes

Em vários Post do TheWebGuardian, salientamos a importância de resguardar seus dados e informações pessoais, e evitar se expor na internet - principalmente nas mídias sociais.

Compartilhar muito de nós é facilitar para os malfeitores, golpistas e cybercriminosos. Eles não tem que fazer muito esforço para achar material, e com ele fazer mau uso - aplicando golpes.

Quando trata-se de Deepfake, é como se fosse uma fraude cibernética... Assim, quanto mais pública é a personalidade, maior será a qualidade do Deepfake.

Quanto mais a pessoa tiver conteúdo disponível publicamente, mais dados o algoritmo terá para produzir conteúdo realista. Para a IA, mais é melhor.

Como identificar o Deepfake

Dependendo do grau de sofisticação do Deepfake, pode ser muito difícil identificá-lo. Aqui vão algumas dicas:

Ficar atento às transições entre o rosto e o restante da cabeça, entre lábios e dentes
Perceber se existe um eventual padrão robótico na movimentação
Conscientizar-se sobre o conteúdo em si (o que está sendo dito e quem está dizendo) e não à forma (aparência ou sonoridade)
Habituar-se a observar o movimento labial – e se há delay (atraso) em relação ao áudio
Observar discrepâncias entre o rosto e a imagem no fundo
Verificar falta de nitidez e incompatibilidade entre luz e sombra

A professora da PUC-SP Lúcia Santaella explica que, para o ser humano, é difícil duvidar daquilo que está vendo - cenas em vídeo costumam ser tomadas como verdade.

Além disso, vídeos manipulados normalmente são vistos na pequena tela de um smartphone, o que dificulta a identificação de detalhes que denunciem a edição.

Os Riscos da Prática

Para Santaella, o combate à desinformação passa pela educação. Ela afirma que o cidadão precisa aprender a desenvolver a “arte da suspeita”, ou seja - o hábito de desconfiar e verificar o conteúdo que recebe no celular.

“O que é isso? Você recebe uma informação e vai checar. Isso é uma obrigação que surgiu no mundo das redes. Principalmente quando as mentiras começaram a se disseminar.”

“Não tem outro caminho senão uma educação consciente, uma educação que consiga mostrar que a realidade ficou extremamente complexa, porque nós estamos enredados, nós estamos num emaranhado de informações, e a educação tem que ir nessa direção.”

Com relação aos riscos da tecnologia, Sartori diz que, antigamente, para se colocar uma potência como os Estados Unidos em risco, eram necessários jatos, tanques de guerra e um grande exército.

Atualmente, um deepfake bem construído pode ser suficiente para ameaçar uma nação.

A peça pode causar uma revolta popular, inventando uma história em que o presidente morreu, que o líder político está com uma grave doença, ou o envolvendo em um escândalo sexual.

Leia esse artigo entitulado “Deepfake: Inteligência artificial da Samsung transforma fotos em vídeos” (link: https://www.showmetech.com.br/deepfake-ia-transforma-fotos-em-videos/)

NOS VEMOS NOS PRÓXIMOS POSTS!