Contente
- O que é deepfake?
- Como funciona o deepfake?
- As origens
- Os perigos
- Encontrando uma solução
- Conteúdo popular do deepfake
O conteúdo do Deepfake está criando caos entre as pessoas que cresceram com a ideia de que ver é acreditar. Fotos e vídeos, antes considerados inegáveis evidências de que algo está acontecendo, agora estão sendo questionados pelas massas. Isso é de se esperar depois de descobrir o vídeo incrivelmente realista de Barack Obama chamando o presidente Trump de um "total e completo imbecil ****" não passa de uma criação profunda.
O conteúdo do Deepfake está criando caos entre as pessoas que cresceram com a ideia de que ver é acreditar.
Edgar CervantesA tecnologia envolvida está levantando as sobrancelhas e gerando perguntas, e é por isso que estamos aqui para dar a você um resumo completo do que é, como funciona e se há realmente um motivo para se preocupar.
O que é deepfake?
O Deepfake é uma técnica de inteligência artificial que usa aprendizado de máquina para criar ou manipular conteúdo. É frequentemente usado para criar montagens ou sobrepor o rosto de uma pessoa em cima de outra, mas seus recursos se estendem muito além disso. Essa tecnologia possui muitas outras aplicações. Isso inclui manipular ou criar sons, movimentos, paisagens, animais e muito mais.
Como funciona o deepfake?
O conteúdo do Deepfake é criado por meio de uma técnica de aprendizado de máquina conhecida como GAN (rede adversária generativa). Os GANs usam duas redes neurais: um gerador e um discriminador. Estes estão constantemente competindo entre si.
O gerador tentará criar uma imagem realista, enquanto o discriminador tentará determinar se é falso ou não. Se o gerador engana o discriminador, ele usa as informações coletadas para se tornar um juiz melhor. Da mesma forma, se o discriminador determinar que a imagem do gerador é falsa, o gerador ficará melhor ao criar uma imagem falsa. O ciclo interminável pode continuar até que uma imagem, vídeo ou áudio não seja mais visivelmente falso para a perspectiva humana.
As origens
Os primeiros vídeos deepfake foram obviamente pornô!
Edgar CervantesOs primeiros vídeos deepfake foram obviamente pornô! Mais especificamente, era comum ver rostos de celebridades sobrepostos a atrizes pornôs. Os memes de Nicholas Cage também eram populares, entre outras invenções divertidas.
A palavra deepfake tornou-se sinônimo dessa técnica em 2017, graças a um usuário do Reddit que recebeu o nome de "deepfakes". O usuário foi acompanhado por outras pessoas no momento banido r / deepfakes subreddit, onde compartilharam suas criações com o mundo.
O verdadeiro criador de redes contraditórias generativas é Ian Goodfellow. Juntamente com seus colegas, ele introduziu o conceito na Universidade de Montreal em 2014. Ele passou a trabalhar para o Google e atualmente trabalha na Apple.
Os perigos
Nas mãos erradas, a criação do deepfake pode ser usada para falsificar muito mais do que os bobos memes de Nicholas Cage.
Edgar CervantesEmbora a manipulação de conteúdo não seja novidade, costumava exigir habilidades sérias. Você precisava de um computador potente e de um bom motivo (ou muito tempo livre) para criar conteúdo falso. Um software de criação do Deepfake como o FakeApp é gratuito, fácil de encontrar e não requer muita energia do computador. E como ele faz todo o trabalho por si só, você não precisa ser um editor qualificado para criar mídia deepfake incrivelmente real.
É por isso que o público em geral, celebridades, entidades políticas e governos estão preocupados com o movimento deepfake. Nas mãos erradas, a criação do deepfake pode ser usada para falsificar muito mais do que os bobos memes de Nicholas Cage. Imagine alguém criando notícias falsas ou evidências incriminadoras de vídeos. Você pode adicionar pornografia falsa e vingativa ao problema. As coisas podem ficar bagunçadas bem rápido.
Outro motivo para se preocupar com o conteúdo do deepfake é que personalidades importantes também podem negar ações passadas. Como os vídeos do deepfake parecem tão reais, qualquer um poderia reivindicar que um clipe real é um deepfake.
Leia também: As complexidades da ética e da IA
Encontrando uma solução
Embora muito próximo do real, um olho treinado ainda pode detectar um vídeo falso prestando muita atenção. A preocupação é que, em algum momento no futuro, não consigamos perceber a diferença.
Twitter, Pornhub, Reddit e outros tentaram, sem sucesso, se livrar de tal conteúdo. No lado mais oficial, a DARPA (Agência de Projetos de Pesquisa Avançada de Defesa) está trabalhando com instituições de pesquisa e com a Universidade do Colorado para criar uma maneira de detectar falhas profundas.
O melhor que podemos fazer para combater os vídeos do deepfake é ser mais atento e menos ingênuo.
Edgar CervantesAté termos um software que consiga detectar irregularidades nesses vídeos, o melhor que podemos fazer é ser mais atento e menos ingênuo. Faça sua pesquisa antes de assumir que um vídeo, imagem ou áudio é real. Isso é algo que já deveríamos estar fazendo, de qualquer maneira.
Conteúdo popular do deepfake
Jordan Peele se junta ao Buzzfeed para montar este vídeo, que visa criar consciência.
A especialista em manipulação on-line Claire Wardle nos mostra o quão realistas esses vídeos podem parecer ao aparecer como Adele nos primeiros 30 segundos do vídeo. Este vídeo do The New York Times nos dá uma grande visão sobre o assunto.
A Watchmojo oferece uma curadoria de alguns dos vídeos mais populares do deepfake. É um vídeo divertido com muitos ótimos exemplos.
Você está preocupado com as consequências dos vídeos deepfake? Certamente é um tópico que devemos ter em mente, enquanto também trabalhamos para encontrar soluções.
