Fake videos of real people -- and how to spot them
Supasorn Suwajanakorn
[1] 00:12Look at these images.
Olhem para estas imagens.
[2] 00:14Now, tell me which Obama here is real.
Agora, digam-me qual desses Obama aqui é real.
[5] 00:22clean energy
energia limpa
[7] 00:26Supasorn Suwajanakorn: Anyone?
Supasorn Suwajanakorn: Alguém?
[8] 00:28The answer is none of them.
A resposta é: nenhum deles.
[10] 00:31None of these is actually real.
Nenhum deles é, na verdade, real.
[11] 00:33So let me tell you how we got here.
Vou contar a vocês como chegamos até aqui.
[12] 00:35My inspiration for this work
Minha inspiração por este trabalho
[14] 00:42from the survivors.
a partir dos sobreviventes.
[15] 00:44It's called New Dimensions in Testimony,
É chamado "New Dimensions in Testimony",
[16] 00:47and it allows you to have interactive conversations
e permite conversas interativas
[19] 00:55(Video) Hologram: How did I survive?
(Vídeo) Holograma: Como sobrevivi?
[20] 00:57I survived,
Eu sobrevivi,
[22] 01:01because providence watched over me.
porque Deus me protegeu.
[24] 01:09Yet the effect is astounding.
Mas o efeito é surpreendente.
[27] 01:19that makes it much more profound
que a torna muito mais profunda
[28] 01:22and personal
e pessoal
[30] 01:28So I saw this and began to wonder,
Vi isso e comecei a me perguntar:
[33] 01:37So I set out to see if this could be done
Comecei a ver se isso poderia ser feito
[34] 01:39and eventually came up with a new solution
e, finalmente, propus uma nova solução
[36] 01:45existing photos and videos of a person.
fotos e vídeos existentes de uma pessoa.
[38] 01:51just photos and video that are out there,
fotos e vídeos que estão por aí,
[39] 01:53that's the key to scaling to anyone.
esse é o segredo para representar qualquer um.
[40] 01:56By the way, here's Richard Feynman,
A propósito, esse é Richard Feynman,
[47] 02:19even if they're no longer with us?
mesmo que não estejam mais conosco?
[51] 02:31and to me, that's very exciting.
e, para mim, isso é muito empolgante.
[52] 02:34And here's how it's working so far.
E é assim que está funcionando até agora.
[55] 02:42without ever 3D-scanning the person.
sem nunca fazer um exame em 3D da pessoa.
[57] 02:49This also works on videos,
Também funciona para vídeos,
[59] 02:54and generating a moving 3D model.
e gerando um modelo em 3D em movimento.
[63] 03:07a large photo collection of the person beforehand.
uma grande coleção de fotos da pessoa.
[67] 03:19in fine details, like creases and wrinkles.
em detalhes distintos, como marcas e rugas.
[68] 03:23What's fascinating about this
O fascinante sobre isso
[71] 03:30or where you took those photos.
ou onde você tirou aquelas fotos.
[72] 03:32What matters is that there are a lot of them.
O que importa é que haja muitas delas.
[73] 03:35And we are still missing color here,
Ainda falta cor aqui.
[76] 03:42and produces sharp facial textures and colors.
e produz texturas faciais e cores definidas.
[77] 03:45And this can be done for any expression.
Isso pode ser feito para qualquer expressão.
[84] 04:10SS: And here's another fun demo.
SS: Aqui está outra demo divertida.
[85] 04:11So what you see here are controllable models
O que vemos aqui são modelos controláveis
[88] 04:19we can actually drive the entire party.
podemos, na verdade, conduzir o grupo todo.
[90] 04:23because there's a lot of moving parts,
porque há muitas partes móveis,
[92] 04:31(Applause)
(Aplausos)
[93] 04:32SS: So coming back a little bit,
SS: Voltando um pouquinho,
[97] 04:43to imitate the way someone talks
a imitar a maneira como alguém fala
[102] 04:58(Video) BO: The results are clear.
(Vídeo) BO: Os resultados são claros.
[104] 05:05over 75 straight months.
mais de 75 meses consecutivos.
[106] 05:10and here's how we do it.
e é assim que fazemos.
[107] 05:12Our pipeline uses a neural network
Nosso canal usa uma rede neural
[124] 06:10to detect fake images and videos,
para detectar imagens e vídeos falsos,
[125] 06:12fighting against my own work.
lutando contra meu próprio trabalho.
[128] 06:21automatically, right in the browser.
automaticamente, direto no navegador.
[129] 06:24(Applause)
(Aplausos)
[131] 06:30fake videos could do a lot of damage,
mesmo antes de alguém ter a chance de verificar.
[132] 06:32even before anyone has a chance to verify,
Por isso, é muito importante
[137] 06:49and before we can ensure the safety of this technology.
Mas estou animado e esperançoso,
[138] 06:53But I'm excited and hopeful,
porque, se usarmos de forma correta e cuidadosa,
[139] 06:54because if we use it right and carefully,
essa ferramenta pode permitir
[141] 07:02to be massively scaled
seja medido em larga escala
[143] 07:07Thank you.
Obrigado.
[144] 07:08(Applause)
(Aplausos)