O Google proibiu recentemente os algoritmos deepfake no Google Colaboratory, um dos seus serviços gratuitos de computação com acesso a GPUs. O gigante tecnológico não é o único a regulamentar os deepfakes: vários estados americanos regulamentaram leis contra este perigo; a China apresentou um projeto de lei onde exige a identificação de materiais criados por computadores; e o futuro regulamento da UE sobre IA poderá vir a incluir uma cláusula sobre o tipo de tecnologia.

Mas o que são os deepfakes? Os especialistas da Kaspersky explicam o porquê de haver tanta controvérsia em torno de deepfakes, partilhando algumas sugestões para os utilizadores se protegerem:

• Deepfakes referem-se a conteúdos produzidos por computadores, com redes neuronais complexas, e pessoas. Deepfakes são vídeos, fotografias e gravações de voz, que em vez de utilizarem técnicas tradicionais de edição de imagem, reduzem drasticamente o esforço e as competências necessárias para criar uma falsificação convincente.
• Originalmente, o termo referia um tipo particular de software que se tornou popular no Reddit. Este software permitiu que a feição e as expressões de uma pessoa fossem exibidas num vídeo com outra pessoa. Era geralmente utilizado quase exclusivamente para criar conteúdos pornográficos não consensuais com celebridades. De acordo com algumas estimativas, até 96% de todas os deepfakes são pornográficos, destacando as preocupações de que estejam a ser utilizadas para abuso, extorsão e desprezo do público.
• Esta tecnologia também pode beneficiar os cibercriminosos, visto que em pelo menos dois casos, no Reino Unido e em Hong Kong, a falsificação da voz tem sido utilizada para enganar empresas, fazendo-se passar por gestores, com o objetivo de transferir fundos para os autores das fraudes.
• Outro dos problemas dos deepfakes é a confiança no conteúdo áudio e vídeo, uma vez que podem ser utilizadas para fins criminosos. Por exemplo, num caso recente, uma entrevista falsa com Elon Musk foi utilizada para promover um esquema de moeda criptográfica. Vários peritos e instituições, como a Europol, advertem que o aumento das falsificações poderá contribuir para o crescimento da desinformação na Internet.
• Mas nem tudo são más notícias. A manipulação de imagens é tão antiga como as próprias imagens, e a CGI (Computer Generated Imagery) existe há décadas. Em ambos os casos, foram também utilizados de forma legítima. Por exemplo, num vídeo recente de Kendrick Lamar,Heart Part 5, a tecnologia deepfake foi adaptada para transformar a face do rapper nas de outras celebridades, tais como Kanye West. No filme Top Gun: Maverick, foi utilizado um algoritmo para dar voz à personagem Val Kilmer depois do ator ter perdido a voz. Deepfake foi também utilizado para criar uma série viral no TikTok protagonizada por um falso Tom Cruise. Agumas startups já estão à procura de novas formas de utilizar esta tecnologia, por exemplo, criando avatares metaversos altamente realistas.

Com todas as problemáticas em torno dos deepfakes, os especialistas da Kaspersky partilham algumas sugestões sobre como os utilizadores podem detetá-los e proteger-se:

• Um deepfake convincente, como a de Tom Cruise, requer muita experiência e esforço, e por vezes até necessário um duplo profissional. Os Deepfakes utilizados para falsificações ainda são de baixa qualidade e podem ser detetados por movimentos não naturais dos lábios, cabelos mal representados, formas de rosto desajustadas, pouco ou nenhum piscar, cor de pele diferente, etc. Erros na roupa ou uma mão na cara também são sinais de uma falsificação amadora.
• Se vir uma pessoa famosa a afirmar ou a oferecer algo suspeito, verifique a informação com fontes fiáveis, mesmo que o vídeo pareça real. Esteja ciente de que os atacantes podem intencionalmente codificar vídeos para esconder as falhas dos deepfakes. Por esta razão, a melhor estratégia não é procurar pistas no vídeo, mas usar o bom senso para verificar se o conteúdo é autêntico.
• Uma solução de segurança de confiança pode proteger da eventualidade de um conteúdo falsificado de alta qualidade convencer os utilizadores a descarregar um ficheiro ou programa malicioso, ou visitar links suspeitos ou sites de phishing.
• Se for vítima de pornografia fraudulenta, os especialistas recomendam que contacte o website em questão para lhes pedir que removam o vídeo (muitos sites proíbem a publicação de deepfakes). Também aconselham o contacto com uma agência de aplicação da lei, uma vez que criar falsificações profundas é uma infração penal já em vigor em algumas legislações.

“Os deepfakes são um excelente exemplo de como a tecnologia por vezes avança muito mais depressa do que nós somos capazes de compreender. Isto torna difícil a gestão dos inconvenientes que este tipo de conteúdos pode causar. É também um instrumento de desinformação que nos desafia enquanto sociedade,” conclui Vladislav Tushkanov, Senior Data Scientist na Kaspersky.