O que é um Deepfake e como ele pode afetar nossa segurança cibernética?

Agora estamos chegando ao final do ano, o que significa que é hora dos especialistas em segurança cibernética começarem a anotar suas previsões para 2020. Você pode ter certeza de que eles tentarão alertar as pessoas sobre todas as coisas óbvias - ransomware, criptojacking, segurança da Internet das coisas etc. Nos últimos anos, no entanto, eles testemunharam o surgimento de outra ameaça que poderia ser igualmente sinistra. Eles são chamados de deepfakes, e os efeitos que podem ter na vida das pessoas são absolutamente horríveis.

O que é um deepfake?

Em essência, um deepfake é um vídeo manipulado. Com essa tecnologia, você pode capturar o rosto de uma pessoa e alterar sua expressão, da maneira que desejar. Você também pode colocá-lo no corpo de outra pessoa.

Verdade seja dita, isso não é realmente inovador. Durante anos, contamos com especialistas que, com tempo e dinheiro suficientes, podem realizar os mesmos truques, e os resultados são surpreendentemente realistas. As palavras-chave aqui, no entanto, são "tempo", "dinheiro" e "especialistas". Com a tecnologia deepfake, os amadores podem obter resultados semelhantes mais rapidamente e com um orçamento muito menor.

O termo "deepfake" é um portmanteau de "deep learning" e "fake". O aprendizado profundo faz parte do aprendizado de máquina, que, por sua vez, é um subconjunto da inteligência artificial (IA). Essas palavras estão muito na moda e muitas pessoas as usam e abusam sem uma perfeita compreensão do que elas realmente envolvem. Vamos evitar cair nessa armadilha e ver o que realmente está acontecendo.

No núcleo da tecnologia por trás do deepfakes, existem algoritmos que coletam milhares de pontos de dados diferentes, os analisam e os usam para manipular as imagens, para que pareçam convincentes. Em outras palavras, o processo incrivelmente complexo de produzir um vídeo falso de aparência realista é automatizado. E como todos sabemos, quando as coisas são automatizadas, elas exigem menos tempo, dinheiro e conhecimento.

Lembre-se, não é tão fácil quanto clicar com o mouse algumas vezes. Algumas ferramentas que criam vídeos deepfake estão disponíveis gratuitamente, mas o processo é extremamente intensivo em recursos e a produção de um vídeo de aparência convincente pode levar vários dias, além de edição adicional com software especializado. Em comparação com os métodos tradicionais para fazer esse tipo de manipulação de vídeo, no entanto, é brincadeira de criança, e uma pesquisa rápida no YouTube mostra que muitas pessoas estão fazendo isso. Mas por que eles se incomodam?

O que você pode fazer com um deepfake?

Os vídeos do Deepfake podem ser usados para fins de entretenimento. A troca de rostos de vídeo geralmente pode chamar um sorriso, especialmente se você estiver substituindo uma estrela de Hollywood por outra, o que é uma prática bastante comum e principalmente inocente na comunidade deepfake.

Por que, então, a divisão de IA do Facebook está tentando encontrar uma maneira de ajudá-lo a detectar e remover vídeos do deepfake com mais eficiência? Porque os deepfakes nem sempre são usados para colocar o rosto de Silvester Stalone no corpo do jovem Macauley Culkin.

As ferramentas do Deepfake tornaram-se amplamente disponíveis no final de 2017 e no início de 2018, e o abuso começou quase imediatamente. Plataformas como Reddit e Twitter foram forçadas a ir atrás de usuários que colocavam rostos de celebridades nos corpos de atrizes pornográficas. Embora rapidamente tenha ficado claro que os vídeos não eram genuínos, alguns deles se tornaram virais, e as redes sociais se apressaram a proibir as pessoas que os compartilhavam. Isso, é claro, está longe de ser o único delito pelo qual os deepfakes podem ser usados.

A tecnologia pode ser uma arma poderosa nas mãos de pessoas que tentam distribuir notícias falsas. Sabemos a rapidez com que os vídeos se espalham hoje em dia e você pode imaginar o caos que um clipe de político profundo pode causar, por exemplo. O mesmo vale para outras figuras de alto perfil. Um vídeo em profundidade do CEO de uma grande empresa pode colocar a empresa em crise e causar sérios danos monetários em um período extremamente curto.

Você pode pensar que apenas os ricos e famosos precisam ter deepfakes em seu modelo de ameaças, mas isso não é rigorosamente verdade. Como já mencionamos, embora seja um processo demorado e exija uma configuração de hardware forte, um vídeo deepfake pode ser criado com ferramentas prontamente disponíveis. Enquanto isso, o volume de imagens que compartilhamos com o mundo cresce a uma taxa constante, o que é uma boa notícia para quem tenta nos colocar em uma situação embaraçosa.

É certo que, com exceção dos vídeos adultos que foram compartilhados no início de 2018, não houve realmente nenhum incidente relacionado ao deepfake. Porém, isso não significa que você não esteja ao virar da esquina, portanto, esteja preparado para isso.