Todos os meses o Facebook recebe 500 mil alertas de conteúdo de “revenge porn”, que se pode traduzir por pornografia de vingança. São vídeos ou imagens íntimas colocadas na rede sem autorização das pessoas que lá aparecem, e que acontece sobretudo depois de o final de uma relação: um membros do casal “vinga-se” publicando conteúdos sexuais em que aparece a sua ou seu companheiro.

Muitas vezes estas “vinganças” podem acabar com uma carreira ou com a própria vida dos envolvidos. O problema não é de agora e há muito que o Facebook e outras redes sociais o tentam mitigar.

A rede social tem agora uma equipa de 25 pessoas, sem contar com os moderadores espalhados por todo o mundo, a trabalharem exclusivamente para evitar que este tipo de conteúdos varra a rede. Combinam a sensibilidade do ser humano com a capacidade que a inteligência artificial tem para operar a grande escala.

Se, por um lado, o desafio vai muito além do Facebook – há casos em todas as redes e até sites dedicados a isto -, por outro, a empresa de Zuckerberg tem uma responsabilidade maior, porque é nas suas plataformas, onde se inclui o Instagram, que se joga grande parte do capital social.