Os primeiros deepfakes foram gerados em 2017 na Universidade de Washington. A simulação foi conduzida com o ex-presidente dos EUA, Barack Obama, falando sobre os perigos da informação e das notícias falsas. O vídeo é falso, seu ator e diretor é Jordan Peele, e foi criado a partir de seus gestos faciais com as características faciais de Obama. Tudo isso é feito por meio do uso de deepfakes.
Por um lado, um novo estudo está agora disponível e explica que rostos criados por inteligência artificial não são apenas indistinguíveis de rostos reais, mas também geram mais confiança entre as pessoas. Pesquisadores mostraram a um grupo de pessoas imagens de rostos reais e digitais. "Não estamos dizendo que todas as imagens geradas são indistinguíveis de um rosto real, mas um número significativo delas é", afirma Sophie Nightingale, professora de psicologia na Universidade de Lancaster, no Reino Unido, e coautora do estudo publicado na revista Proceedings of the National Academy of Sciences, nos Estados Unidos.
Os cientistas alertam para os perigos da falta de distinção entre pessoas reais e deepfakes. "Incentivamos aqueles que desenvolvem essas tecnologias a considerar se os riscos associados superam os benefícios. Se for o caso, desaconselhamos o desenvolvimento dessa tecnologia", explica Nightingale.
Por outro lado, os deepfakes estão se tornando populares na Coreia do Sul. Campanhas políticas estão usando essa tecnologia para alcançar novos públicos e apoiadores. Isso é agravado pelo fato de este ser um país com internet de alta velocidade. O avatar em questão é quase idêntico ao candidato, mas usa linguagem mais ousada e piadas criadas para transformá-los em memes. Essa é uma tentativa de atrair eleitores jovens que obtêm suas informações por meios não tradicionais.