Neste ano, um usuário com o nome Deepfake começou a postar vídeos de conteúdo explícito de pessoas famosas nos fóruns. Para isso, ele utilizava softwares de deep learning, que aplicava rostos de pessoas famosas, em cenas inusitadas. Alguns casos ficaram famosos, como o da Gal Gadot e da Emma Watson. Após esses eventos no Reedit, a prática de vídeos editados usando machine learning e outras possibilidades de IA começou a ser chamada de Deepfake. E, com isso, a tecnologia passou a ser estudada com muita cautela, já que ela pode, assim como no seu início, ser usada de formas não muito ortodoxas.
O problema do Deepfake
Os algoritmos, por mais bem desenvolvidos que sejam, não são perfeitos. Porém, essa prática pode enganar muita gente, e é aí que mora o perigo. A má utilização e a má índole podem fazer com que pessoas possam ser colocadas em situações que elas não estiveram. O alerta veio quando a prática começou a envolver políticos, com falas que eles mesmos não disseram. E, hoje em dia, com a informação correndo muito rápido e fake news se propagam de forma mais rápida, fica muito fácil espalhar informações falsas de acordo com interesses próprios, fundamentadas por supostas provas em vídeo. Por mais que muitos utilizem como brincadeira, esta prática e a disseminação desse tipo de conteúdo podem representar um perigo. Além disso, esses vídeos poderiam, inclusive, ameaçar a credibilidade de tudo o que é publicado. No caso de vídeos íntimos fakes, isso gera diversos problemas éticos e legais. As criações enganosas podem prejudicar a vida de uma pessoa, seja ela famosa ou anônima, e, por enquanto, a lei prevê penalidades para o chamado pornô revenge.
Onde a Samsung entra nessa história
A Samsung, no entanto, decidiu também implementar uma nova IA que irá desenvolver a mesma técnica. O porém, vem em como a tecnologia é utilizada por usuários, e como os algoritmos irão aprender as informações. Antes de partir para a prática, o algoritmo irá começar com um longo estágio de meta-aprendizado. Isso significa que o algoritmo irá assistir a vários vídeos para poder aprender como os rostos humanos se comportam. Em seguida, aplica-se o que é aprendido a um único ou um pequeno apanhado de fotos para produzir um vídeo razoavelmente realista. Ao contrário de um verdadeiro deepfake, os resultados dessa IA pretendem deixar imperfeições à vista. Isso fará com que a imagem pareça que foi alterada, para que ela não perca sua confiabilidade. Por exemplo, o vídeo de Marilyn Monroe utilizando a tecnologia, a sua pinta no rosto foi retirada. Isso foi feito para que seja claro que aquilo é falso, dando totalmente a credibilidade. Confira o vídeo abaixo: Mesmo com todos os problemas, a Samsung ainda aposta que o algoritmo ainda assim consiga reproduzir com fidelidade as imagens, mesmo que deixe as marcas claras de que o vídeo foi gerado por uma IA. Fonte: Cnet
