Límits a la IA en la primera encíclica del papa Lleó XIV
El pontífex alerta sobre l’avenç de la IA i adverteix dels riscos de deixar en mans dels algoritmes decisions que afecten la dignitat
La intel·ligència artificial ha deixat de ser únicament una qüestió tecnològica per convertir-se en un debat polític, econòmic i moral de primer ordre. En aquest context, el papa Lleó XIV ha publicat la seva primera encíclica, titulada Magnifica Humanitas, centrada en la “preservació de la humanitat” en l’era digital.
En el text, el pontífex llança una advertència contundent: “Cap sistema de càlcul, per sofisticat que sigui, no genera un cor que es lliura, ni una consciència capaç de discernir el bé”. Amb aquesta afirmació, Lleó XIV subratlla que cap tecnologia pot substituir la dimensió ètica, emocional i espiritual de l’ésser humà.
L’encíclica no rebutja el progrés tecnològic, però sí que reclama un ús prudent i responsable de la intel·ligència artificial. El papa adverteix que aquests sistemes poden resultar “perillosos” quan s’utilitzen com a substituts de relacions humanes reals o quan s’empren per oferir companyia, consell o afecte, generant una “falsa impressió de relació”.
Un dels punts més crítics del document se centra en la suposada neutralitat dels algoritmes. Lleó XIV afirma que la intel·ligència artificial “no és moralment neutra”, ja que pot reproduir biaixos, estereotips o interessos dels qui la dissenyen. En aquest sentit, alerta del risc de confiar decisions rellevants sobre les persones a sistemes automatitzats.
El pontífex també adverteix sobre la concentració de poder en mans de grans actors tecnològics i sobre l’impacte que l’automatització pot tenir en l’ocupació, amb possibles augments de la precarietat i la desigualtat. Per això, demana marcs legals més estrictes, vigilància independent i una major implicació de les institucions públiques en la regulació del sector.
Així mateix, Lleó XIV introdueix una reflexió de fons sobre el futur de la humanitat, qüestionant visions transhumanistes que plantegen una fusió progressiva entre home i màquina. Segons el papa, aquests plantejaments poden derivar en una idea de “humanitat potenciada” que acabi afectant els més vulnerables.
