Notícias

Aug 31, 2023

O que são deepfakes? Como detectar áudio e vídeo falsos de IA

Os computadores têm se tornado cada vez melhores na simulação da realidade. A mídia gerada pela inteligência artificial (IA) tem ganhado manchetes sérias – especialmente vídeos projetados para imitar alguém,

Os computadores têm se tornado cada vez melhores na simulação da realidade. A mídia gerada pela inteligência artificial (IA) tem ganhado manchetes sérias – especialmente vídeos projetados para imitar alguém, fazendo parecer que alguém está dizendo ou fazendo algo que não está.

Um streamer do Twitch foi pego em um site conhecido por fazer pornografia de seus colegas gerada por IA. Um grupo de estudantes de Nova York fez um vídeo de seu diretor fazendo comentários racistas e ameaçando estudantes. Na Venezuela, os vídeos gerados estão sendo usados ​​para disseminar propaganda política.

Nos três casos, o vídeo gerado por IA foi feito com o objetivo de convencer você de que alguém fez algo que nunca fez. Existe uma palavra para esse tipo de conteúdo: Deepfakes.

Deepfakes usam IA para gerar vídeo ou áudio completamente novo, com o objetivo final de retratar algo que realmente não ocorreu na realidade.

O termo “deepfake” vem da tecnologia subjacente – algoritmos de aprendizagem profunda – que ensinam sozinhos a resolver problemas com grandes conjuntos de dados e podem ser usados ​​para criar conteúdo falso de pessoas reais.

“Um deepfake seria uma filmagem gerada por um computador que foi treinado através de inúmeras imagens existentes”, disse Cristina López, analista sênior da Graphika, empresa que pesquisa o fluxo de informação através de redes digitais.

Deepfakes não são apenas imagens falsas ou enganosas. O papa gerado pela IA com uma jaqueta inflável ou as cenas falsas de Donald Trump sendo preso que circularam pouco antes de sua acusação são geradas pela IA, mas não são deepfakes. (Imagens como essas, quando combinadas com informações enganosas, são comumente chamadas de “shallowfakes”.) O que separa um deepfake é o elemento da contribuição humana.

Quando se trata de deepfakes, o usuário só decide no final do processo de geração se o que foi criado é o que ele deseja ou não; além de adaptar os dados de treinamento e dizer “sim” ou “não” ao que o computador gera após o fato, eles não têm qualquer palavra a dizer sobre como o computador escolhe fazê-lo.

Observação: Tecnologias assistidas por computador, como Photoshop e CGI, são comumente usadas para criar mídia, mas a diferença é que os humanos estão envolvidos em todas as etapas do processo, exceto desenvolvimentos recentes, como a ferramenta generativa Firefly da Adobe. “Você tem muita assistência de IA com CGI, mas no final das contas há um ser humano com um ponto de vista humano controlando qual será o resultado”, disse López.

Existem vários métodos para criar deepfakes, mas o mais comum depende do uso de redes neurais profundas que empregam uma técnica de troca de rosto. Primeiro você precisa de um vídeo alvo para usar como base do deepfake e, em seguida, de uma coleção de videoclipes da pessoa que deseja inserir no alvo.

Os vídeos podem não ter nenhuma relação; o alvo pode ser um clipe de um filme de Hollywood, por exemplo, e os vídeos da pessoa que você deseja inserir no filme podem ser clipes aleatórios baixados do YouTube.

O programa adivinha a aparência de uma pessoa de vários ângulos e condições e, em seguida, mapeia essa pessoa na outra pessoa no vídeo alvo, encontrando características comuns.

Outro tipo de aprendizado de máquina é adicionado à mistura, conhecido como Generative Adversarial Networks (GANs), que detecta e melhora quaisquer falhas no deepfake em várias rodadas, tornando mais difícil para os detectores de deepfake decodificá-las.

Embora o processo seja complexo, o software é bastante acessível. Vários aplicativos facilitam a geração de deepfakes, mesmo para iniciantes – como o aplicativo chinês Zao, DeepFace Lab, FakeApp e Face Swap – e uma grande quantidade de softwares deepfake podem ser encontrados no GitHub, uma comunidade de desenvolvimento de código aberto.

A tecnologia Deepfake tem sido historicamente usada para fins ilícitos, inclusive para gerar pornografia não consensual. O FBI divulgou um anúncio de serviço público em junho de 2023 alertando o público sobre os perigos da IA ​​generativa e como ela é usada para “criação explícita de conteúdo”, “sextorsão” e “assédio”.