O Vaticano, ao longo de sua história de quase dois mil anos, já se deparou com imperadores, revoluções industriais e diversas inovações tecnológicas. Recentemente, a instituição lançou uma encíclica inteira dedicada à inteligência artificial, evidenciando a preocupação com as transformações que essa nova tecnologia pode trazer para a sociedade.
A encíclica, intitulada Magnifica Humanitas, foi divulgada na sexta-feira, 15 de maio, e possui quase 50 páginas que prometem chamar a atenção até mesmo de quem não frequenta igrejas. O documento parte de uma questão crucial: o que uma máquina não consegue fazer, não importa o quanto tente?
O Papa Leão XIV aborda diretamente a questão, afirmando que as inteligências artificiais não possuem experiência, não sentem emoções como alegria e dor, e não vivenciam relações que promovem o amadurecimento humano. Segundo ele, as máquinas não têm capacidade de julgar o que é certo ou errado e não compreendem as consequências de suas ações.
“Elas apenas imitam, sem de fato entender o que estão fazendo”, destaca o Papa.
O texto faz uma distinção importante ao afirmar que as IAs atuais são mais “cultivadas” do que “construídas”, ou seja, os programadores não definem todos os detalhes, mas criam uma base a partir da qual a IA se desenvolve. Isso gera um cenário onde muitos aspectos fundamentais dos sistemas de IA ainda são desconhecidos, até mesmo por seus criadores.
Além disso, a encíclica aponta um risco significativo: a delegação de decisões importantes, como aquelas relacionadas ao trabalho e crédito, a sistemas automatizados que não têm a capacidade de perceber nuances humanas, como compaixão e misericórdia. Um algoritmo que rejeita um currículo, por exemplo, não considera as dificuldades pessoais que o candidato pode estar enfrentando.
Como Associado da Amazon, recebo por compras qualificadas.
“Confiar a um algoritmo o poder de decidir quem merece ou não, sem que um humano assuma essa responsabilidade, redefine os limites das possibilidades humanas”, alerta o Papa.
O documento também critica o que o Papa chama de oligarquia tecnológica, onde empresas privadas, muitas vezes transnacionais, possuem um poder de influência superior ao de muitos governos. Ao interagir com tecnologia, os usuários estão sob a influência de um pequeno número de corporações que controlam a informação que chega a eles.
O Papa enfatiza que o controle não se dá apenas por meio de proibições, mas também pela manipulação do que é visível e do que é oculto, moldando opiniões e comportamentos. Isso gera um ambiente onde certos temas são amplificados enquanto outros desaparecem, sem que os usuários percebam a manipulação.
“Não precisamos de uma IA mais moral, se essa moral for decidida por poucos”, reflete o Papa.
Embora o documento proponha auditorias independentes e maior transparência nos algoritmos, ele não apresenta soluções claras sobre como implementar essas mudanças em um cenário global complexo. Ao final, o Papa retoma uma reflexão de João Paulo II, questionando se a IA tornará a vida humana “mais digna do homem”.
Em suma, a encíclica do Papa não apenas alerta sobre os riscos da inteligência artificial, mas também provoca uma reflexão mais profunda sobre o futuro da civilização em face da tecnologia.
