O Papa alertou esta semana para a evolução dos sistemas de “inteligência artificial”, que está a “modificar de forma radical” a informação e a comunicação e, através delas, “algumas bases da convivência Civil”, defendendo a adoção de um tratado internacional regulador.

Na sua mensagem para o Dia Mundial das Comunicações Sociais, que se assinala em 12 de maio, o pontífice considerou que esta modificação “afeta não só os profissionais, mas todos”.

“A rápida difusão de maravilhosas invenções, cujo funcionamento e potencialidades são indecifráveis para a maior parte de nós, suscita um espanto que oscila entre entusiasmo e desorientação e põe-nos inevitavelmente diante de questões fundamentais: O que é então o homem, qual é a sua especificidade e qual será o futuro desta nossa espécie chamada ‘homo sapiens’ na era das inteligências artificiais? Como podemos permanecer plenamente humanos e orientar para o bem a mudança cultural em curso?”, questionou Francisco, antes de lançar diversos avisos.

Considerando que “convém limpar o terreno das leituras catastróficas e dos seus efeitos paralisadores”, o Papa alertou que “embora o termo ‘inteligência artificial’ já tenha suplantado o termo mais correto utilizado na literatura científica de ‘machine learning’ (aprendizagem automática), o próprio uso da palavra ‘inteligência’ é falacioso”.

“É certo que as máquinas têm uma capacidade imensamente maior que os seres humanos de memorizar os dados e relacioná-los entre si, mas compete ao homem, e só a ele, descodificar o seu sentido. Não se trata, pois, de exigir das máquinas que pareçam humanas, mas de despertar o homem da hipnose em que cai devido ao seu delírio de omnipotência, crendo-se sujeito totalmente autónomo e autorreferencial, separado de toda a ligação social e esquecido da sua condição de criatura”, acrescentou Francisco.

Segundo o Papa, “o homem sempre teve experiência de não se bastar a si mesmo, e procura superar a sua vulnerabilidade valendo-se de todos os meios”.

“Partindo dos primeiros instrumentos pré-históricos, utilizados como prolongamento dos braços, passando pelos meios de comunicação como extensão da palavra, chegamos hoje às máquinas mais sofisticadas que funcionam como auxílio do pensamento”, escreveu na sua mensagem intitulada “Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana”.

Porém, avisou que “cada coisa nas mãos do homem torna-se oportunidade ou perigo, segundo a orientação do coração. O próprio corpo, criado para ser lugar de comunicação e comunhão, pode tornar-se instrumento de agressão. Da mesma forma, cada prolongamento técnico do homem pode ser instrumento de amoroso serviço ou de domínio hostil”.

“Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Por exemplo, podem tornar acessível e compreensível um património enorme de conhecimentos, escrito em épocas passadas, ou permitir às pessoas comunicarem em línguas que lhes são desconhecidas. Mas simultaneamente podem ser instrumentos de ‘poluição cognitiva’, alteração da realidade através de narrações parcial ou totalmente falsas, mas acreditadas – e partilhadas – como se fossem verdadeiras”, acrescentou.

O Papa exemplificou com “o problema da desinformação” enfrentado com as ‘fake news’ e que “hoje se serve da ‘deep fake’, isto é, da criação e divulgação de imagens que parecem perfeitamente plausíveis, mas são falsas, ou mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria nunca disse”.

“A simulação, que está na base destes programas, pode ser útil em alguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade”, considerou.

Francisco defendeu ser “importante ter a possibilidade de perceber, compreender e regulamentar instrumentos que, em mãos erradas, poderiam abrir cenários negativos. Os algoritmos, como tudo o mais que sai da mente e das mãos do homem, não são neutros”.

“Por isso é necessário prevenir propondo modelos de regulamentação ética para contornar os efeitos danosos, discriminadores e socialmente injustos dos sistemas de inteligência artificial e contrastar a sua utilização para a redução do pluralismo, a polarização da opinião pública ou a construção do pensamento único”, acrescentou, reiterando a necessidade de ser adotado “um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas.

Para o Papa, a revolução digital pode tornar o homem mais livre, mas não conseguirá fazê-lo se o “prender nos modelos designados hoje como câmara de eco”.

Nestes casos, “em vez de aumentar o pluralismo da informação, corre-se o risco de se perder num pântano anónimo, favorecendo os interesses do mercado ou do poder. Não é aceitável que a utilização da inteligência artificial conduza a um pensamento anónimo, a uma montagem de dados não certificados, a uma desresponsabilização editorial coletiva”, sublinhou.

“De um lado, vemos assomar o espetro duma nova escravidão, do outro uma conquista de liberdade; dum lado, a possibilidade de que uns poucos condicionem o pensamento de todos, do outro a possibilidade de que todos participem na elaboração do pensamento”, alertou ainda Francisco, advertindo que “compete ao homem decidir se há de tornar-se alimento para os algoritmos ou nutrir o seu coração de liberdade, sem a qual não se cresce na sabedoria”.