Deepfakes com IAs: o futuro preocupante das fake news

Você já se imaginou conversando com o presidente da Ucrânia? Ou vendo ele se rendendo aos russos? Ou sendo enganado por ele? Pois saiba que isso já aconteceu com algumas pessoas, mas não da forma que você pensa. Essas pessoas foram vítimas de deepfakes, uma tecnologia que usa inteligência artificial para criar vídeos falsos que manipulam a aparência e a voz de pessoas famosas ou comuns.

Os deepfakes são uma forma de desinformação que pode ter consequências graves para a segurança, a política e as fake news, pois podem enganar, difamar, extorquir ou até mesmo provocar uma guerra.

Neste artigo, vamos mostrar alguns exemplos reais de como os deepfakes já afetaram a guerra na Ucrânia e como eles podem afetar o futuro do Brasil. Também vamos explicar o que são os deepfakes, como eles são feitos, como podemos detectá-los e nos proteger deles, e como podemos regular essa tecnologia.

Explicando melhor os casos com o presidente Zelensky

O presidente da Ucrânia se rendeu aos russos? Não, isso foi um deepfake que circulou nas redes sociais e em um site de notícias hackeado em março de 2022. O vídeo falso mostrava o presidente Volodymyr Zelensky pedindo para que as tropas ucranianas se rendessem aos soldados da Rússia, que tentavam invadir o país vizinho. O vídeo foi criado por hackers que queriam desestabilizar a situação política e militar na Ucrânia e favorecer os interesses da Rússia. O próprio Zelensky teve que desmentir o vídeo e reafirmar que continuaria resistindo à agressão russa. Esse foi um dos primeiros casos de deepfake usado como arma de guerra, mas não foi o único.

E o presidente do Banco Federal dos EUA, Jerome Powell, conversou com o presidente da Ucrânia? Também não, isso foi outro deepfake que dessa vez enganou o presidente do Federal Reserve (o banco central dos EUA), Jerome Powell, em janeiro de 2023. Powell participou de uma videochamada sobre a economia global com russos que se passaram pelo presidente Zelensky. Os impostores aproveitaram a semelhança física entre Zelensky e um dos envolvidos russos, Vladimir Kutznetsov, e usaram uma rede neural para imitar a voz do presidente ucraniano. Eles conseguiram enganar Powell por cerca de 20 minutos, até que ele percebeu a farsa. Powell não revelou nenhuma informação confidencial ou sensível, mas o episódio mostrou como os deepfakes podem ser usados para tentar influenciar as autoridades e os mercados financeiros.

Esses são só dois dos exemplos, já tornados públicos, de como os deepfakes podem manipular as pessoas e até mesmo serem usados para golpes.

Afinal, como os deepfakes são feitos?

Para fazer um deepfake, é preciso ter acesso a um software especializado e a uma grande quantidade de vídeos da pessoa que se quer imitar. Esses vídeos são usados para treinar uma rede neural que aprende a gerar imagens e sons semelhantes aos da pessoa original. Depois, é preciso ter um vídeo da pessoa que se quer substituir. Esse vídeo é usado para alimentar outra rede neural que aprende a extrair as características faciais e vocais dessa pessoa.

Em seguida, as duas redes neurais são combinadas em um processo chamado de síntese. Nesse processo, a rede neural que gerou as imagens e sons da pessoa imitada substitui as características faciais e vocais da pessoa substituída no vídeo original. O resultado é um vídeo falso que mostra a pessoa imitada dizendo ou fazendo algo que nunca disse ou fez.

É possível detectar deepfakes?

Nem sempre é fácil detectar os deepfakes, pois eles estão ficando cada vez mais realistas e sofisticados. Mas existem algumas pistas que podem nos ajudar a identificar os vídeos falsos, como:

Erros na sincronização labial ou na expressão facial: às vezes, os movimentos da boca ou dos olhos não combinam com o som ou com a emoção transmitida pelo vídeo.
Distorções na imagem ou no som: às vezes, há falhas na qualidade da imagem ou do som, como borrões, ruídos ou cortes.
Inconsistências no contexto ou no conteúdo: às vezes, há elementos no vídeo que não condizem com o cenário, o tempo ou a situação retratada pelo vídeo
Fontes duvidosas ou desconhecidas: às vezes, os vídeos falsos são divulgados por sites, canais ou perfis que não têm credibilidade ou verificação.

E no Brasil?

Imagine se alguém criasse um vídeo falso de algum candidato na corrida eleitoral dizendo algo polêmico, participando de algum ato de corrupção ou incitando violência? Isso pode influenciar o resultado das urnas, a legitimidade do processo eleitoral e gerar uma crise institucional ou até mesmo um conflito civil.

Pode parecer uma ficção distópica, mas é um cenário possível. E algo assim pode acontecer em breve no Brasil se não tomarmos cuidado. Os deepfakes são uma ameaça real para a democracia e para a sociedade brasileira. Já tivemos vários casos de vídeos falsos, editados a partir de falas reais de pessoas, que afetaram a opinião pública (como o famoso vídeo falso e editado em que Lula teria defendido quem rouba celulares para comprar cerveja, mas que foi produzido a partir de outras falas o presidente falando sobre assuntos diferentes). E se isso já era ruim, os deepfakes podem ser muito mais sofisticados e convincentes do que as montagens tradicionais. Eles podem manipular a opinião pública sobre temas sensíveis, como a pandemia, o meio ambiente, os direitos humanos ou a economia. Eles podem afetar o bem-estar social e o desenvolvimento do país.

Podemos regular os deepfakes no Brasil?

O tema é complicado e envolve questões de liberdade de expressão, direito à informação, privacidade e responsabilidade civil e penal. Mas os projetos de lei que já se discutem para regulamentar e responsabilizar plataformas são um passo importante.

Esses projetos ainda estão em tramitação no Congresso e podem sofrer alterações ou vetos. Mas eles mostram que há uma preocupação com o tema e uma necessidade de regulá-lo.Obstáculos existem, como pressão das plataformas e de agentes políticos interessados na desinformação, mas a pressão popular também pode fazer a diferença para que essa regulamentação aconteça.

O papel do jornalismo no combate a deepfakes

Os deepfakes são uma tecnologia que pode ter usos positivos ou negativos, dependendo da intenção e da ética de quem os cria e os compartilha. Eles representam um grande desafio para o futuro da segurança, da política e das fake news, pois podem manipular a opinião pública e causar danos irreparáveis à reputação e à dignidade das pessoas, além do risco de romperem com nosso senso do que é real ou não.

Por isso, é preciso estar atento e informado sobre os riscos e as formas de combater os deepfakes, além de apoiar o jornalismo responsável e a regulação das redes sociais. Nessa luta, o jornalismo é uma das principais fontes de informação confiável e independente que temos. Enquanto profissionais que se dedicam a apurar, checar e divulgar os fatos de forma ética e transparente, jornalistas têm um papel fundamental na manutenção da confiança e dos fatos em um cenário tomado por deepfakes. Além disso, o jornalismo responsável pode ajudar a construir um contexto e uma análise crítica sobre temas que afetam a sociedade, inclusive contribuindo para que um vídeo muito absurdo seja reconhecido como deepfake não por uma questão de falha na tecnologia, mas por contexto: faz sentido que essa pessoa esteja dizendo o que este vídeo mostra? Que interesses poderiam ser beeficiados com um vídeo desse? É o jornalismo que pode ajudar a construir questionamentos desse tipo.

Por isso, é importante valorizar e consumir o jornalismo de qualidade, que respeita as normas e os princípios da profissão. E também é importante cobrar das autoridades e das plataformas digitais que garantam a liberdade de imprensa e o direito à informação.Na luta contra os deepfakes, vale o mesmo que valia contra fake news, mas com ainda mais intensidade: foco no jornalismo responsável e profissional; e desmonetização de quem disseminar desinformação e regulamentação de plataformas que permitem que conteúdos falsos circulem.

Quer refletir mais sobre como as IAs podem impactar o jornalismo, a produção de conteúdo e as profissões relacionadas à criação?

Então confira nosso site para saber mais!