O Vaticano, ao longo da sua história, já enfrentou desafios diversos, desde imperadores e revoluções industriais até a era digital. Recentemente, o papa Leão XIV lançou a encíclica “Magnifica Humanitas”, que aborda as implicações da inteligência artificial (IA) em quase 50 páginas, levantando questões cruciais sobre a relação entre humanos e máquinas.
O documento inicia com uma reflexão importante: “O que é que uma máquina não consegue fazer, nem que tente muito?” O papa destaca que as IAs não têm experiências, emoções ou a capacidade de amadurecer nas relações. Segundo ele, “não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade”.
O papa ressalta que as IAs atuais são mais “cultivadas” do que “construídas”, uma vez que os programadores criam uma arquitetura que permite que a IA “cresça”. No entanto, muitos aspectos fundamentais sobre como essas máquinas operam ainda são desconhecidos, até mesmo para seus criadores.
“Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio”.
O documento destaca que a ampliação do papel da IA é uma preocupação crescente. O papa identifica um risco significativo: decisões sobre trabalho, crédito e acesso a serviços podem ser tomadas por sistemas automatizados que carecem de compaixão e compreensão humana. Ele argumenta que um algoritmo que nega crédito não consegue avaliar o contexto da vida de uma pessoa, como crises pessoais ou tentativas de recomeço.
“Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas”.
Além disso, o papa critica a concentração de poder nas mãos de empresas tecnológicas, que muitas vezes têm mais recursos do que muitos governos. Ele observa que esse poder é difícil de ser questionado, pois é de natureza privada, diferentemente do que ocorre com instituições governamentais.
O papa adverte que o controle não se dá apenas por proibições, mas pela forma como as informações são apresentadas e priorizadas. Ele destaca que a visibilidade de certos temas molda opiniões e escolhas, levando a uma conformidade e autocensura por parte dos usuários.
“Não precisamos de uma IA mais moral, se esta moral for decidida por poucos”.
A encíclica pede por auditorias independentes, transparência sobre os algoritmos e acesso equitativo aos dados. No entanto, o documento não apresenta soluções claras para impor tais medidas a empresas que operam em múltiplos países. Por fim, o papa retoma uma pergunta de João Paulo II sobre se a IA torna a vida humana “mais digna do homem”. O questionamento transcende a tecnologia, abordando a civilização como um todo.
O papa não parece temer que as máquinas se tornem humanas, mas sim o dia em que a humanidade deixe de ser considerada nas decisões tomadas por essas tecnologias.
Siga o Sergipe News e receba as notícias de Sergipe em primeira mão.
