O termo vem da palavra ultrafake, um acrônimo para fake (falso) e deep learning (aprendizado profundo), que significam falsificação e aprendizado profundo, respectivamente. Tecnicamente, refere-se à forma como a inteligência artificial permite a edição de vídeos falsos de pessoas que parecem reais. Tudo isso é alcançado por meio de algoritmos de aprendizado não supervisionado. Os primeiros deepfakes foram gerados em 2017 na Universidade de Washington. A simulação apresentava o ex-presidente dos EUA, Barack Obama, falando sobre os perigos da desinformação e das notícias falsas. O vídeo é falso; seu ator e diretor é Jordan Peele, e foi criado usando seus gestos faciais combinados com as características faciais de Obama. Tudo isso foi alcançado por meio da tecnologia deepfake. Por outro lado, um novo estudo está disponível explicando que rostos criados por inteligência artificial não são apenas indistinguíveis dos reais, mas também geram mais confiança entre as pessoas. Pesquisadores mostraram a um grupo de pessoas imagens de rostos reais e digitais. \"Não estamos dizendo que todas as imagens geradas são indistinguíveis de um rosto real, mas um número significativo delas é\", afirma Sophie Nightingale, professora de psicologia da Universidade de Lancaster, no Reino Unido, e coautora do estudo publicado na revista Proceedings of the National Academy of Sciences, nos EUA. Cientistas alertam para os perigos da dificuldade em distinguir entre pessoas reais e deepfakes. \"Incentivamos aqueles que desenvolvem essas tecnologias a considerarem se os riscos associados superam os benefícios. Caso positivo, desaconselhamos o desenvolvimento dessa tecnologia\", explica Nightingale. Por outro lado, os deepfakes estão se tornando cada vez mais populares na Coreia do Sul. Campanhas políticas buscam a oportunidade oferecida por essa tecnologia para alcançar novos públicos e apoiadores. Isso é ainda mais amplificado pelo fato de ser um país com internet de alta velocidade. O avatar em questão é quase idêntico ao candidato, mas usa uma linguagem mais ousada e piadas criadas para se tornarem memes. Trata-se de uma tentativa de atrair eleitores jovens que se informam por meio de mídias não tradicionais.