Os deepfakes são uma forma avançada de manipulação de mídia digital e têm ganhado notoriedade nos últimos anos. Desde suas aplicações iniciais em vídeos de comédia até sua utilização preocupante na disseminação de desinformação, essa tecnologia revolucionária tem gerado diversos debates. Neste artigo, vamos explorar esse universo, desde o que são até suas implicações sociais, éticas e políticas.
O Que São Deepfakes?
Os deepfakes são produtos de programas que se utilizam da capacidade de aprender – machine learning – para sintetizar conteúdo de mídia digital, como vídeos, áudios e imagens, para criar material que simula autenticidade. Utilizando-se de redes neurais artificiais para aprender e replicar características humanas, como voz, expressões faciais e movimentos corporais.
Apesar da tecnologia poder ser reaproveitada no cinema, por exemplo, rejuvenescendo atores para atuação em determinada cena ou até mesmo trazendo quem já se foi para as telonas, o primeiro caso registrado de deepfake foi em 2017, onde um usuário do Reddit, de nickname “Deepfakes”, publicou vídeos de conteúdo adulto.
🚨 Vagas abertas para o nosso grupo de ofertas que vai te fazer economizar MUITO!
Em sua maioria os vídeos continham conteúdos de atrizes famosas como, Daisy Ridley, conhecida por seu papel em Star Wars, Sophie Turner, famosa pela série Game of Thrones e Emma Watson, protagonista na série de filmes Harry Potter.
Aplicações e Preocupações
Os deepfakes têm uma ampla gama de aplicações. Como dito antes, o cinema vem utilizando os recursos para auxiliar nas produções, mas não é preciso de uma produção ‘Hollwoodiana’ para utilizar a tecnologia.
No fim de 2020, milhões de espectadores sul-coreanos estavam assistindo ao canal MBN e acompanharam as últimas notícias através da jornalista, Kim Joo-Ha, mas existia uma questão que muitos não sabiam, Kim ‘não estava na tela’.
Ela tinha sido substituída por deepfake, sua imagem e voz foram totalmente produzidas por inteligência artificial.
Além do entretenimento, eles são usados em dublagem de filmes estrangeiros, melhorias na qualidade de vídeo e até mesmo em pesquisas médicas para simular pacientes. No entanto, é a natureza enganosa dessa tecnologia que gera preocupações.
A ferramenta gera um enorme potencial para a disseminação de desinformação. Com deepfakes, é possível criar vídeos convincentes de políticos, celebridades ou figuras públicas dizendo ou fazendo coisas que nunca fizeram. Isso pode ser usado para manipular eleições, difamar pessoas e prejudicar a reputação de empresas.
Pesquisadores da Universidade de Washington produziram uma representação foto realista do ex-presidente dos Estados Unidos, Barack Obama. Inteligência artificial foi utilizada para modelar com precisão o movimento da boca ao falar. A técnica permite colocar qualquer palavra na boca de sua representação. .
Desafios na Detecção de Deepfakes
A detecção de deepfakes é um campo em constante evolução. À medida que os algoritmos de criação se tornam mais sofisticados, a tarefa de identificá-los se torna ainda mais complexa. Apesar de pesquisadores e empresas de tecnologia estarem investindo em métodos de detecção mais eficazes, um estudo da UCL (University College London) relatou que em apenas 73% das vezes um ser humano foi capaz de captar uma deepfake.
As abordagens para detecção de deepfakes incluem a análise de artefatos de processamento de imagem, a verificação da autenticidade dos metadados e o uso de redes neurais para identificar padrões de manipulação. Como conclusão, os pesquisadores entenderam que treinar seres humanos para detecção de deepfakes não é eficiente, porém os softwares erraram em 25,3% das ocasiões.
Profissionais da área acreditam que detectar deepfakes dependerá de uma junção entre a evolução das ferramentas de IA e o grande mercado. Empresas como Facebook, Apple e Microsoft podem fazer totalmente a diferença no combate à desinformação.
A Responsabilidade da Sociedade e da Indústria Tecnológica
A batalha contra os deepfakes não deve ser travada apenas pelos especialistas em segurança e tecnologia. A sociedade como um todo desempenha um papel fundamental na conscientização e na não disseminação de conteúdo enganoso. É importante educar as pessoas sobre como identificar deepfakes e incentivar a verificação de fontes antes de acreditar em informações duvidosas.
Além disso, as empresas de tecnologia têm a responsabilidade de desenvolver ferramentas e políticas que limitem o uso indevido de deepfakes em suas plataformas. Isso envolve a criação de diretrizes claras para o uso ético da tecnologia e a implementação de medidas para detectar e remover deepfakes prejudiciais.
Porém a demanda é crescente e vários sites têm surgido para atendê-la. Isso acaba tornando a tecnologia acessível para o público em geral.
Um desses sites é o HeyGen. Com uma interface amigável e uma gama de ferramentas, HeyGen permite que os usuários carreguem suas imagens e vídeos para criar deepfakes convincentes. Além disso, o site oferece opções para personalizar as características desejadas nos vídeos falsos. Outra opção é o Deepware Scanner, que se concentra na criação de deepfakes para áudio. Os usuários podem usar essa plataforma para imitar vozes, gerar dados falsos e criar diálogos personalizados com uma gama impressionante de vozes disponíveis.
No entanto, é importante lembrar que o uso irresponsável dessas tecnologias pode ter implicações éticas e legais. Portanto, é fundamental exercer a responsabilidade ao explorar essas ferramentas e entender os limites da criação de deepfakes.
Conclusão
Os deepfakes são uma demonstração impressionante do poder da inteligência artificial e do aprendizado profundo. No entanto, sua disseminação levanta questões éticas e sociais significativas que não podem ser ignoradas. À medida que a tecnologia continua a evoluir, é crucial que a sociedade e a indústria tecnológica trabalhem juntas para proteger a integridade da informação e a autenticidade da mídia digital.
