O que é Deepfake e como pode ser usado para fazer vídeos falsos

Deepfakes são a forma mais perigosa de crime por meio da inteligência artificial, considerada por agentes de cibersegurança e pesquisadores.

Deepfake: o que é como a inteligência artificial faz vídeos falsos

Você já ouviu o termo “deepfake” e sabe o que significa? Em suma, deepfake se refere a um vídeo em que uma inteligência artificial (IA) foi usada para fazer uma pessoa parecer dizer algo que não disse.

Não basta os invasores ransomware e killware que afetam a cibersegurança, mas agora alguns estão recorrendo à inteligência artificial à medida que buscam novas maneiras de dominar a web.

Uma área de preocupação particular é o uso da tecnologia “deepfake” baseada em IA para criar imitações realistas de áudio ou vídeo de pessoas reais que podem enganar e ajudar a fraudar usuários desavisados. Saiba mais a seguir sobre essa tecnologia tão perigosa.

Quando essa tecnologia surgiu?

Os deepfakes apareceram pela primeira vez em 2017, coincidentemente um ano repleto de fake news. Desse modo, um usuário do Reddit publicou suas primeiras criações pornográficas usando algoritmos e bancos de imagens gratuitos com resultados surpreendentes.

Em sincronia com o surgimento do TikTok e os aplicativos de envelhecimento ou rejuvenescimento facial, a técnica deste usuário anônimo tornou-se popular e logo surgiu o primeiro aplicativo aberto que permitia incorporar qualquer rosto a um vídeo existente.

Desde políticos ao icônico Chapolin Colorado a, a internet se encheu de vídeos com propósitos basicamente humorísticos, embora a esmagadora maioria ainda fosse imprópria.

Pouco tempo após seu surgimento, a melhora em sua qualidade é notável. Em agosto de 2020, um fã publicou sua própria versão das cenas de Robert De Niro jovem em “O Irlandês”.

Para estas criações é utilizado um autocodificador, que cria uma imagem latente com apenas algumas variáveis (como por exemplo sorriso, sobrancelhas franzidas, etc.) e substitui a imagem final por outras.

Como funciona a deepfake?

Vídeos deepfakes contam com técnicas de síntese de imagem que podem converter o conteúdo de um conteúdo de vídeo no estilo de outro virtualmente sem falhas.

Em uma falsificação profunda, a filmagem de um político ou figura pública pode ser facilmente alterada. Então, podem utilizá-la para que ele ou ela pareça estar dizendo mentiras de maneira convincente.

Além disso, já existem técnicas que podem gerar deepfakes automaticamente sem a necessidade de intervenção humana. Alimentado por IA e aprendizado de máquina, o sistema pode copiar as expressões faciais de um sujeito em um vídeo e, em seguida, mapear os dados em imagens em outro.

Por que a deepfake é uma ameaça real?

Mesmo que a tecnologia deepfake ainda não tenha se tornado a tendência em ataques cibernéticos a empresas, todos precisam permanecer alertas para a ameaça potencial.

Isso porque um dos principais efeitos dos deepfakes na sociedade é que distorce o que é verdade. Com efeito, os telespectadores perderão a capacidade de diferenciar entre notícias autênticas e fabricadas.

Todavia, o oposto também pode ocorrer, ou seja, a deepfake pode fornecer aos criminosos e outras pessoas uma chance de se safar de crimes. Por exemplo, se em um vídeo uma pessoa está falando algo passível de repreensão da lei, ele pode alegar que as evidências autênticas são falsas.

Portanto, o problema social é que o benefício da dúvida em favor do criminoso cresce em proporção direta à consciência e suspeita do público quanto a falsificações profundas.

Por fim, em tempos de confusão e incerteza, as organizações criminosas procurarão explorar e influenciar a opinião dos vulneráveis ​​por todos os meios possíveis, como as deepfakes.

Há benefícios no uso dessa tecnologia?

Muitos acreditam que a tecnologia deepfake pode inaugurar a próxima era do cinema. A tecnologia Deepfake poderia ser tão transformadora para a indústria cinematográfica na década de 2020 quanto a computação gráfica nos anos 90.

No momento, a maioria dos deepfakes tem uma grande limitação técnica. Ou seja, os rostos feitos pela inteligência artificial não podem ser maiores que 256 pixels de altura por 256 pixels de largura.

Essa resolução é adequada para rostos falsos que aparecem nos fancasts postados no YouTube e em pornografia falsa com celebridades, porque esses vídeos são normalmente vistos em telas pequenas.

Entretanto, se fosse o caso do cinema, os rostos falsos pareceriam borrados. Eles seriam de baixa resolução em comparação com a nitidez do resto da imagem.

Então, para usar a inteligência artificial a favor do cinema, seria preciso trabalhar para melhorar a qualidade e o tamanho dos deepfakes. Aliás, é exatamente nisso que os cientistas da computação da Disney Research Studios têm trabalhado.

Em 2020, eles anunciaram que, usando novos algoritmos neurais e outras técnicas avançadas de aprendizado de máquina, eles foram capazes de aumentar a resolução de uma face falsa em 16 vezes. Portanto, a deepfake não é tão pervesa quanto aparenta.

Como reconhecer um vídeo falso feito por uma IA?

Há algumas dicas que você pode usar para identificar uma deepfake, algumas delas são:

  • Repare na boca e no movimento que a pessoa faz, se ele corresponde a exatamente aquilo que está sendo dito;
  • Observe o movimento dos olhos e veja se eles piscam de forma aparentemente natural;
  • Se concentre também na entonação e voz que está ouvindo, veja se parecem sons naturais;
  • Observe a frequência de respiração, pois a IA tem certa dificuldade ao reproduzir esse aspecto com perfeição;
  • Por fim e o mais importante, veja se a mensagem condiz com a pessoa que está falando; ademais procure outros vídeos e informações confiáveis sobre o assunto em questão.

Então, gostou de saber mais sobre os vídeos falsos feitos pela inteligência artificial? Pois, leia também: Curiosidades sobre tecnologia – 16 fatos sobre a história da informática

Outras postagens