Com as novas ferramentas de IA para computadores, vídeos e notícias falsas já são possíveis e o que estamos vendo hoje é apenas um primeiro antegozo do que será possível no futuro. Aqui temos o primeiro caso de uso concreto, porque alguém estava usando um algoritmo para inserindo o rosto da estrela de "Mulher Maravilha" Gal Gadot em um vídeo pornô - e os resultados são terrivelmente convincentes.
O usuário do Reddit, Deepfakes, treina redes neurais nos rostos de celebridades e, em seguida, insere as animações faciais em movimento em pornografia real usando detecção de rosto - contanto que eu interprete os vídeos corretamente, não os vinculo aqui, você pode descobrir por si mesmo. O resultado é um pornô autêntico estrelado por sua atriz favorita. A pornografia falsa via Photoshop é tão antiga quanto a Internet e, realisticamente, provavelmente tão antiga quanto o próprio Photoshop, só que aqui o processo é automatizado e funcionará sob demanda no futuro. Embora os codificadores de IA devam instalar mecanismos de segurança que impeçam uma IA de “roubo de identidade”, também haverá hacks e cracks para isso. O conceito não vai desaparecer e provavelmente também não vai parar com as atrizes. Bem vindo ao futuro.
Até agora, deepfakes postou vídeos pornôs hardcore com os rostos de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot no Reddit. Entrei em contato com as empresas de gestão e / ou publicitários que representam cada um desses atores, informando-os sobre os vídeos falsos, e irei atualizar se eu tiver uma resposta. [...]
De acordo com deepfakes - que se recusou a me fornecer sua identidade para evitar o escrutínio público - o software é baseado em várias bibliotecas de código aberto, como Keras com back-end TensorFlow. Para compilar os rostos das celebridades, deepfakes disse que usou a busca de imagens do Google, fotos de ações e vídeos do YouTube. O aprendizado profundo consiste em redes de nós interconectados que executam cálculos autonomamente nos dados de entrada. Nesse caso, ele treinou o algoritmo em vídeos pornôs e no rosto de Gal Gadot. Depois de bastante desse “treinamento”, os nós se organizam para completar uma tarefa específica, como manipular vídeos dinamicamente de maneira convincente. O pesquisador de inteligência artificial Alex Champandard me disse em um e-mail que uma placa de vídeo decente para o consumidor poderia processar esse efeito em horas, mas uma CPU funcionaria tão bem, só que mais lentamente, ao longo dos dias. [...]
"Acabei de encontrar uma maneira inteligente de fazer a troca facial", disse ele, referindo-se ao seu algoritmo. “Com centenas de imagens de rosto, posso facilmente gerar milhões de imagens distorcidas para treinar a rede”, disse ele. "Depois disso, se eu alimentar a rede com o rosto de outra pessoa, a rede pensará que é apenas mais uma imagem distorcida e tentará fazer com que pareça o rosto de treinamento."
Em um tópico de comentário no Reddit, deepfakes mencionou que está usando um algoritmo semelhante ao desenvolvido por pesquisadores da Nvidia que usa aprendizado profundo para, por exemplo, transformar instantaneamente um vídeo de uma cena de verão em um de inverno. Os pesquisadores da Nvidia que desenvolveram o algoritmo se recusaram a comentar sobre esta possível aplicação.