O que é deepfake? Quais são os efeitos do deepfake nas redes sociais?
Um deepfake pode ser definido como: um vídeo ou gravação de áudio que substitui o rosto ou a voz de alguém pelo rosto ou a voz de outra pessoa, de uma forma que parece muito real. Você pode achar que a manipulação de mídia não é nada novo, mas com o tempo, o termo deepfake mudou. Enquanto em 2017 e 2018 era usado apenas para imagens que foram explicitamente criadas pelo Deepfake nas redes sociais com inteligência artificial, a partir de 2022 passou a ser usado para descrever imagens e vídeos que são explicitamente ou presumivelmente falsificados por algum tipo de inteligência artificial. O primeiro e mais comum deepfake pode ser rastreado pelo uso de troca de rostos para criar vídeos de troca de rostos, que são muito comuns hoje em dia. Deepfake nas redes sociais pode ser muito perigoso hoje e pode levar a abusos fraudulentos usando as vozes e imagens das pessoas para fazer coisas ilegais
Por que é importante a gente estudar o efeito do deepfake nas redes sociais?
As redes sociais como TikTok, YouTube, Instagram, etc. se tornaram um dos espaços para publicar esses deepfakes online de forma super fácil. Dada a velocidade da sua disseminação, elas têm um papel chave na publicação ou controle desses deepfakes
Implicações éticas dos deepfakes nas redes sociais podem fazer com que as pessoas e usuários que estão nessas plataformas percam a confiança nelas ao ver conteúdo falso sendo publicado. Essas notícias falsas, que podem ser divulgadas nas redes sociais com base em deepfakes, afetam a cultura pública e até causam danos psicológicos ou sociais aos indivíduos, destruindo a confiança geral dos usuários no conteúdo online, por isso esse assunto precisa ser levado a sério. Aqui, oferecemos uma visão abrangente dos efeitos e do funcionamento desse efeito midiático crescente e em expansão, além de apresentarmos soluções legais para combatê-lo
O que são estruturas de Deepfake em geral e como elas funcionam?
A tecnologia de deepfake nas redes sociais consegue colar qualquer pessoa do mundo em um vídeo ou foto em que ela nunca participou. O principal elemento dos deepfakes é o aprendizado de máquina, que tornou possível produzir deepfakes muito mais rápido e a um custo menor. A rede neural pode ensinar o computador todas as informações necessárias sobre como o rosto daquela pessoa funciona em diferentes ângulos e iluminações, e usando essas informações e ferramentas, pode criar uma imagem semelhante ao mesmo rosto. Uma série de deepfakes é feita usando um algoritmo chamado GAN (redes generativas adversariais) que são muito profissionais e fazem as imagens e rostos parecerem mais naturais. Mas agora, muitos deepfakes em vídeos de redes sociais não são mais feitos nem mesmo com GAN, porque são demorados e difíceis de fazer com ele
Hoje, todo esse processo pode ser feito de forma fácil e mais rápida do que antes com a existência da inteligência artificial. Claro que é preciso dizer que a inteligência artificial ainda não conseguiu chegar a uma composição crível que a pessoa que vê esses vídeos ou imagens criados acredite de imediato na autenticidade deles. Na continuação de fazer esses deepfakes, o próprio produtor precisa usar ferramentas manuais para mudar muitos dos parâmetros que o programa em questão não conseguiu capturar bem. Esse processo é bem simples e poderoso, embora seja difícil
Por exemplo, em 2018, Jordan Peele (um famoso comediante e diretor) publicou um vídeo deepfake do Barack Obama, o ex-presidente dos Estados Unidos, onde ele aparecia dizendo palavras ofensivas sobre Donald Trump (o então presidente). O objetivo dele era mostrar como é fácil usar a tecnologia Deepfake nas redes sociais para criar palavras que parecem totalmente críveis e reais, mesmo vindo de um ex-presidente
Como é que o Deepfake entrou nas redes sociais?
Deepfake nas redes sociais era inicialmente pra entretenimento. Deepfake nas redes sociais tinha um aspecto de entretenimento, programas de entretenimento como Reface, Zao ou FaceApp permitiam que os usuários copiassem facilmente sua imagem no corpo de celebridades, atores ou personagens famosos com algumas ferramentas gráficas simples. Esses vídeos e manipulações de Deepfake rapidamente viralizaram no TikTok e Instagram por causa da diversão e entretenimento, e muita gente de todo o mundo começou a usar esse efeito sem saber que é a mesma coisa. É deepfake
Plataformas como TikTok, Instagram e YouTube tornam esses deep fakes fáceis de criar e espalhar na internet usando mercados simples e acessíveis. Quando um conteúdo nessas redes sociais pode viralizar de um jeito chocante, o algoritmo deles faz com que viralize e mais pessoas vejam esses deep fakes nas redes sociais. Eles podiam fazer isso antigamente, mas hoje em dia, com algumas fotos de ângulos diferentes e cliques, eles podem ser feitos facilmente do jeito que quiserem
Deepfake começou como uma tecnologia interessante, mas depois de entrar nas redes sociais, virou uma ferramenta para entretenimento, publicidade e às vezes abuso sério
Impactos Positivos Potenciais
Deepfake, com todas as informações que te contamos sobre como funciona, como é feito e seu propósito, tem sido muito útil para algumas áreas gráficas no mundo e tem se mostrado muito eficaz. A princípio, usar deepfake pode parecer perigoso e ilegal, mas se usado corretamente, pode ser uma ferramenta poderosa e eficaz. Aqui vamos dar uma olhada em algumas dessas informações
Cinema e Entretenimento
No campo do cinema e documentário, usar deepfake para reconstruir ou rejuvenescer rostos, criar efeitos especiais O realismo se tornou possível sem a necessidade de CGI pesado, e isso facilitou para os criadores nessa área se concentrarem em criar filmes mais envolventes e de qualidade
Educação e História
Reconstituir o rosto e a voz de figuras históricas para educação interativa ajuda a tornar os tópicos educacionais mais atraentes e mais compreensíveis e concretos para os alunos
Medicina e saúde mental
Produzindo vídeos educativos para pacientes com a cara de um médico de verdade, na língua e dialeto locais, pra que eles fiquem mais informados sobre o processo de operação e tratamento. Por exemplo, durante treinamentos difíceis e complicados nas universidades, o uso de deep fakes é bem eficaz pra ensinar cirurgia ou lidar com situações psicológicas. Ou ajudando pacientes com demência ao reconstruir rostos familiares
Publicidade e marketing
Criando conteúdo personalizado e atraente sem precisar de pessoas de fundo e custos exorbitantes de acordo com o gosto dos clientes A possibilidade de produzir anúncios em diferentes idiomas sem precisar gravar várias vezes
Acessível a todos
Ajudando a traduzir e dublar vídeos enquanto mantém expressões naturais de boca e rosto (sincronização labial com IA). Aumentando a acessibilidade para surdos ou deficientes auditivos convertendo fala em movimentos faciais
Implicações Éticas dos Deepfakes nas redes sociais
Assim como qualquer coisa pode ter vantagens, também pode ter desvantagens, e o deepfake nas redes sociais não é exceção. Com a maior disponibilidade da tecnologia de deepfake, golpistas agora podem se passar por executivos, funcionários ou clientes com uma precisão alarmante, criando vulnerabilidades significativas para os negócios. Mas usar deepfake fora das regras e regulamentos do deepfake viola as questões éticas do deepfake, levando a muitos abusos e golpes nessa área, e é importante estar ciente desses problemas para se proteger das consequências
Mas além das perdas financeiras diretas, as consequências para a reputação também são igualmente prejudiciais, já que a mídia manipulada pode manchar a imagem de uma empresa e causar ataques às reputações de indivíduos (pessoais ou públicas). Mesmo que o golpe seja exposto pela empresa, o dano já foi feito. Indústrias que dependem de confiança, como finanças, direito e saúde, são particularmente suscetíveis. Deepfakes são basicamente imitações, então são uma maneira popular de enganar CEOs usando vozes artificiais
A queda da confiança pública no conteúdo (Cultura pós-verdade) Com todos esses vídeos e imagens falsas viralizando no mundo digital e online, isso pode acabar minando a confiança nas redes sociais, que se tornaram uma fonte de receita e branding para grandes empresas ou negócios. Também é importante notar que criminosos e golpistas estão sempre encontrando novas maneiras de usar deepfakes, incluindo extorsão, chantagem e espionagem industrial. Empresas, organizações e indivíduos precisam ficar atentos
A emergência da tecnologia Deepfake nas redes sociais
causou preocupação em pessoas ao redor do mundo que trabalham em certos campos e que construíram um nome e endereço para si mesmas e têm uma certa reputação em relação a essa questão Especialmente em relação ao consentimento dos indivíduos responsabilidade e a inadequação das leis atuais Isso fez com que muitas pessoas tivessem várias perguntas especializadas sobre como proteger indivíduos e sociedades de seu uso indevido
Uma das questões éticas do deepfake é se as pessoas cujos rostos e informações de aparência são usadas deram consentimento para isso ou não? Muitos vídeos usam deepfake e vídeos manipulados - incluindo celebridades, políticos ou até pessoas comuns - sem o consentimento delas. Esses vídeos podem usar os rostos de outras celebridades para transmitir comportamentos inadequados, fazer comentários ofensivos ao público nas redes sociais e causar a perda de credibilidade pessoal e danos ao seu status, posição e personalidade, etc. Além das perdas financeiras e de identidade para os indivíduos, essa questão deixa efeitos psicologicamente prejudiciais nas pessoas. Enquanto em muitos países, as vítimas não têm uma maneira legal específica para lidar com isso. Aqui surge a pergunta: quem é responsável pelas consequências morais do deepfake? O criador do conteúdo? A plataforma que o publicou? Ou o usuário que o repostou? Atualmente, não há um padrão claro e global para determinar a responsabilidade. Por outro lado, a lei que existe a esse respeito é muitas vezes ineficaz e incompleta e não pode compensar as perdas incorridas. Essa lacuna legal abriu a porta para abusos generalizados. O Ato de IA da UE é uma das primeiras tentativas legislativas de regular conteúdo gerado por IA. Ele exige que os criadores sejam transparentes sobre se um vídeo foi manipulado ou gerado artificialmente. Outros países, como os EUA, China e Reino Unido, também estão explorando soluções semelhantes, embora a tendência global em relação a leis e regulamentos sobre deepfake ainda não seja uniforme
O Papel das Plataformas Sociais no Controle de Deepfake nas redes sociais
Com o uso crescente de deepfake nas redes sociais, o papel das plataformas em identificar e controlar esse tipo de conteúdo se tornou mais importante do que nunca. As redes sociais têm se esforçado para controlar a publicação desse conteúdo, o que tem sido um pouco útil. Um dos métodos comuns é a rotulagem de conteúdo. Se muitas plataformas detectam um conteúdo deepfake, elas marcam com avisos como pode ter sido editado ou informação enganosa. Alguns algoritmos usam inteligência artificial para reconhecer facilmente o conteúdo criado com deepfakes. Mas com o progresso diário, esses deepfakes se tornam mais reais e alguns deles podem ficar escondidos dos olhos dos algoritmos
Como reconhecer tecnologia deepfake nas redes sociais
Deepfake geralmente provoca uma sensação estranha e revela falhas sutis que traem sua autenticidade. Treinando o olho humano para detectar essas inconsistências—como movimentos faciais não naturais, iluminação irregular ou pistas de áudio e vídeo inconsistentes—e combinando essa habilidade com técnicas de verificação confiáveis, é possível distinguir deepfake de conteúdo real
Tem algumas coisas bem simples que você pode procurar quando tenta identificar um deepfake:
Movimento ocular anormal
Movimentos dos olhos que não parecem naturais — ou a falta de movimento ocular, como não piscar — são sinais de alerta. É difícil replicar o ato de piscar de uma forma que pareça natural. Também é complicado imitar os movimentos oculares de uma pessoa de verdade. Isso acontece porque os olhos de alguém geralmente seguem a pessoa com quem estão conversando
Expressões faciais anormais
Quando algo não parece certo em um rosto, pode indicar uma distorção facial. Isso acontece quando um simples recorte de uma imagem foi sobreposto a outra
Posicionamento estranho dos traços faciais
Se a cara de alguém tá virada pra um lado e o nariz tá apontando pro outro, fica esperto com a autenticidade do vídeo
Falta de emoção
Você também pode notar distorção facial ou emenda de imagem se o rosto de alguém não parecer estar mostrando a emoção que deveria acompanhar o que eles supostamente estão dizendo
Corpo ou postura parece estranha
Outro sinal é que a forma do corpo da pessoa não parece natural ou há uma posição estranha ou inconsistente da cabeça e do corpo. Isso pode ser uma das inconsistências mais fáceis de perceber porque a tecnologia deepfake geralmente se concentra nas características faciais em vez do corpo todo
Movimento corporal anormal
Se alguém parece distorcido ou estranho quando vira de lado ou move a cabeça, ou se os movimentos são desajeitados e desconexos de um quadro para o outro, você deve suspeitar que o vídeo é falso
Cor de pele anormal
Tom de pele anormal, descoloração, iluminação estranha e sombras fora do lugar são todos sinais de que o que você está vendo provavelmente é falso
Cabelo que não parece real
Você não vai ver cabelo frizz ou voando, já que imagens falsas não conseguem criar essas características individuais
Dentes que não parecem reais
Os algoritmos podem não conseguir gerar dentes individuais, então a falta de contornos de dentes individuais pode ser uma pista
Desfoque ou irregularidade
Se as bordas das imagens estiverem embaçadas ou as imagens estiverem desiguais — por exemplo, onde o rosto e o pescoço de alguém se encontram com o corpo — você saberá que algo está errado
Áudio inconsistente e barulho
Os criadores de deepfake normalmente passam mais tempo nas imagens de vídeo do que no áudio. O resultado pode ser uma sincronia labial ruim, vozes robóticas, pronúncias estranhas, ruído de fundo digital ou até mesmo nenhum áudio.
Imagens que parecem artificiais quando desaceleradas
Se você tá assistindo a um vídeo numa tela maior que a do seu smartphone ou tem um software de edição de vídeo que consegue desacelerar o vídeo, você pode dar um zoom e examinar as imagens mais de perto. Por exemplo, dar um zoom nos lábios vai te ajudar a ver se eles tão realmente falando ou se a sincronia labial tá ruim
Disputas de Hashtags
Tem um algoritmo criptográfico que ajuda criadores de vídeo a mostrar que seus vídeos são autênticos. Esse algoritmo é usado para inserir hashtags em lugares específicos ao longo de um vídeo. Se as hashtags forem alteradas, você deve suspeitar que o vídeo foi manipulado
Digital Fingerprinting:
A tecnologia de blockchain também pode criar uma impressão digital para vídeos. Embora essa verificação baseada em blockchain não seja infalível, pode ajudar a estabelecer a autenticidade de um vídeo. Veja como funciona. Quando um vídeo é criado, o conteúdo é registrado em um livro-razão que não pode ser alterado. Essa tecnologia pode ajudar a provar a autenticidade de um vídeo
Busca de Imagem Reversa
Procurando uma imagem original ou uma busca reversa de imagem assistida por computador pode revelar vídeos semelhantes online para ajudar a determinar se uma imagem, áudio ou vídeo foi alterado de alguma forma. Embora a tecnologia de busca reversa de vídeo ainda não esteja disponível publicamente, investir em uma ferramenta assim pode ser vantajoso
O vídeo não é reportado por fontes de notícias confiáveis
Se o que uma pessoa diz ou faz em um vídeo é chocante ou importante, os meios de comunicação vão noticiar isso. Se você procurar informações sobre o vídeo e nenhuma fonte confiável estiver falando sobre ele, pode significar que o vídeo é um deepfake
English 
Danish 
Dutch 
French 
Italian 
Spanish 
Polish 
Swedish 
Portuguese 
German