Deepfake: Simplesmente não acredite em nada!

Nós estamos chegando em um momento da história em que não se poderá acreditar em praticamente nada e, pasmem, graças ao avanço da tecnologia.

Podemos tentar contextualizar esse momento com uma citação de Edgar Allan Poe:

Apenas acredite na metade do que vê, e em nada do que escuta.

Enquanto aguardava o desfecho das eleições para voltar a publicar neste blog, afinal, quem consegue competir num cenário tão tempestuoso destes, prova disto é um evento que conseguiu despertar minha atenção e antecipar minha volta, o emplacamento de um Deepfake durante a corrida eleitoral do segundo turno no Brasil, mas primeiramente precisamos entender o que é isso.

O que é Deepfake?

Vídeos chamados de "deepfake" são produzidos com programas de Inteligência Artificial que criam versões computadorizadas do rosto de alguém, que inclusive são capazes de manipular a fala, ou seja, literalmente colocar “palavras na boca” desse alguém.

Na data de ontem ou quem sabe até antes, circulou um vídeo do candidato para o governo do estado de São Paulo que foi vítima dessa modernidade, algo que pode ser feito por pessoas que sequer detêm conhecimento avançados de edição e manipulação de vídeos. E este tipo de pratica nem é novidade, pois já é bem difundido em sites com conteúdos pornográficos, onde você pode encontrar centenas de estrelas de Hollywood em corpos de atrizes pornô. Isso mostra o avanço da tecnologia de "aprendizado da máquina" em sua capacidade de mapear imagens do rosto humano e replicar para o vídeo.

Este é um texto em defesa do candidato, claro que não! Minha preocupação aqui é com o potencial de uso desta tecnologia para os mais variados tipos de golpes em um futuro bem próximo. Já que podemos encontrar esses programas facilmente e eles podem ser operados por qualquer um, e isso nos leva ao tão famigerado phishing.

Phishing 

Phishing é o termo designado para tentativas de obtenção de informações pessoais identificáveis, através de atribuição a uma falsa identidade por parte de criminosos em contextos tecnológicos (engenharia social). A palavra é um neologismo criado a partir do inglês fishing (pesca) devido à semelhança entre as duas técnicas, serve-se de uma isca para apanhar a vítima.

Eu poderia enumerar dezenas de golpes valendo-se deste artifício, pois o phishing é tudo sobre personificação e essa tecnologia fornece uma vantagem desleal nesse jogo. O quão fácil seria para o cibercriminoso enganar você para revelar informações pessoais, como senhas ou cartão de crédito, CPF e número de contas bancárias tudo isso em tempo real, digamos se passando por um gerente ou alguém responsável por transações financeiras via uma chamada em vídeo. Eu afirmo que do ponto de vista técnico, qualquer vídeo pode ser produzido, eu repito qualquer tipo de vídeo.

Para criar esse tipo de vídeo o usuário só precisa encontrar uma série de fotos do rosto que deseja transplantar, então o algoritmo de inteligência artificial analisa todos os movimentos da face no filme que receberá o transplante. Cada sorriso ou mesmo o franzir de testa. Quadro a quadro a cena é analisada e, o novo rosto, com base em fotos, replicado. Alguns exemplos nos mostram que é possível recriar a fala praticamente em tempo real, se gravações de áudio antes podiam ser manipuladas imagine isso aplicado em vídeos ou mesmo uma chamada de vídeo conferencia.

Isso se torna um pesadelo latente para quem tinha que lidar com falsificações em emails ou mesmo telefonemas. Tentativas que fingiam em ter como origem portais sociais, instituições bancárias ou administradores de sistemas. O deepfake logo quando surgiu se mostrou perigoso meses atrás usando as celebridades ou mesmo políticos e conforme avança chega cada dia mais perto do cotidiano. Fique atento, seu candidato pode até perder as eleições, mas evite cair em golpes futuros.

Eu tenho interesse em assuntos ligados a segurança, inclusive já fiz alguns relatos sobre problemas deste tipo neste blog ou em redes que participo, um deles muito acessado e compartilhado foi: Páginas falsas de banco? Cuidado você esta sendo vítima de golpe.