DEEPFAKE
Maio 2023

A sofisticação e velocidade na criação de imagens, áudios e vídeos a partir de tecnologias sintéticas impressiona e assusta.

Deepfake é o termo usado para vídeos ou imagens realistas de pessoas que não existem ou de pessoas reais fazendo ou dizendo coisas que nunca fizeram ou disseram de verdade, borrando a linha entre o real e o faz de conta. E esses conteúdos têm aparecido nas manchetes com mais frequência do que qualquer solução para regulamentação ou que a alfabetização midiática muito necessária nesse momento.

Recentemente, o "compositor", conhecido como @ghostwriter, usou software treinado para reproduzir as vozes dos artistas Drake e The Weekend para compor a música “Heart On My Sleeve”. Indo na contramão do esperado, a música viralizou nas redes sociais, atraindo os fãs da dupla que há tempos não viam um feat entre os dois. Foi reproduzida mais de 11 milhões de vezes.

Mesmo com o sucesso, a canção foi removida das plataformas de streaming por questões legais de direitos autorais, mas já existem vídeos de outros criadores de conteúdo mostrando como a música foi feita ou como fazer uma música com inteligência artificial generativa.

Por que isso nos chamou atenção?

Os riscos da IA não se limitam ao que a tecnologia pode fazer, eles também incluem a forma como a sociedade responde a essas ferramentas. O The Atlantic aborda que o sucesso dos conteúdos gerados por IA (Donald Trump fugindo da Polícia ou jogando vídeo games) está na entrega moldada para o entretenimento, e é algo que conversa e muito com o que a internet gosta de consumir. Por mais que o fato não tenha acontecido na vida real, talvez ele esteja de alguma forma no imaginário coletivo, o que pode fazer com que a veracidade seja até mesmo relevada (lembra um pouco as eleições, não?).

Em uma tradução livre, a jornalista afirma que:

"As imagens mentem com tanta veemência que, mesmo depois que você percebe a falsidade, fica difícil desviar o olhar. As imagens canalizam uma das premissas do showman: um espetáculo, quando bem manejado, não apenas complementa a realidade, mas compete com ela." 

Megan Garber

Então, também estamos falando sobre emoções e em como uma ferramenta como esta pode mexer ou influenciar nossos viéses e nossa confiança nos conteúdos que chegam até nós. Ao mesmo tempo, como imagens impossíveis podem mexer com nosso imaginário e acessar espaços do nosso inconsciente (alô último episódio de Succession, da HBO?)

Obviamente, nem todo o deepfake que circula tem o objetivo de confundir ou enganar, o ponto aqui é exatamente refletirmos sobre esses possíveis impactos. Existem possibilidades incríveis com esse tipo de produção, como a diminuição de custos na execução de um vídeo e com certeza, o potencial criativo, que é um dos fatores que nos atrai tanto. Na arte e a cultura, os deepfakes estão sendo usados como intervenções, gerando maior envolvimento de público e experiências personalizadas em museus. E o melhor: você com certeza não precisa ser um profissional da tecnologia para gerar um bom deepfake, ferramentas acessíveis ao público estão aí para facilitar o processo.

E o design nisso tudo?

Pode ser impactado de tantas formas que é até complexo listar, mas podemos ressaltar como pontos principais a autenticidade e a confiança. Uma das questões que mais se lê sobre IA e o mercado de trabalho, é o quanto precisamos aprender a colocar essas ferramentas como aceleradores das nossas entregas, que o que não se deve fazer é ignorar. Afinal, é preciso estarmos cientes de que o aumento de consumo deste tipo de conteúdo pode afetar a forma como o público percebe as imagens e consome, e de forma cíclica isso também impactará no que e como devemos produzir.

Um dos termos encontrados durante a produção deste conteúdo foi a alfabetização midiática, que é a capacidade de analisar, avaliar e criar esse tipo de conteúdo. Nós já somos consumidores deste tipo de ferramenta de forma indireta e talvez de forma direta sem nem mesmo sabermos. Precisamos entender que também somos responsáveis por sua evolução.

O tecmundo fez a seguinte pergunta: Será que você seria enganado por uma deepfake? Eles afirmam que sim, mas se você tem dúvidas veja esta lista de vinte melhores exemplos de deepfakes já lançadas e tire suas próprias conclusões.

Até a próxima! 🙂

Links utilizados:

Deepfakes de celebridades: a onda de falsificações está só começando

Você seria enganado por uma deepfake? A resposta é sim!

Rapper Drake tem nova música criada por Inteligência Artificial

Drake fala em “gota d’água” e pede ações contra IA após música com sua voz recriada viralizar

20 of the best deepfake examples that terrified and amused the internet
Are Deepfakes Good for Business?

Recebeu este e-mail de alguém?

Inscreva-se aqui e receba a One Bite a cada 15 dias!

A One Bite é a nossa newsletter quinzenal.

Nos inspiramos nas porções de degustação - aquelas que trazem uma nova sensação a cada mordida - e escolhemos uma palavra ou um conceito que tem aparecido de forma relevante nas nossas pesquisas, projetos e conversas para compartilhar junto com nosso ponto de vista. Você pode conferir conferir todas as edições anteriores aqui.