O papa advirte nunha encíclica sobre o perigo da IA: "Non é neutral"

A intelixencia artificial "non é neutral", advirte o papa León XIV na súa primeira encíclica Magnifica Humanitas, dedicada á protección da dignidade humana na era da IA, onde alerta do perigo de que esta tecnoloxía "se concentre en poucas mans".

No primeiro gran documento do seu pontificado, publicado este luns, León XIV, matemático e canonista, segue os pasos da Rerum Novarum de León XIII para actualizar a Doutrina Social da Igrexa ante un dos principais retos da época contemporánea: a intelixencia artificial.

Ante esta nova revolución, o papa reclama "unha orde social xusta na era dixital", "marcos xurídicos adecuados", "regras xustas" e "mecanismos de protección eficaces".

Entre as súas primeiras reflexións nas 110 páxinas do documento sostén que "as innovacións tecnolóxicas —incluída a intelixencia artificial— non son neutrais; poden aumentar a participación e a xustiza, ou ampliar as desigualdades, o control e a exclusión". Dividida en cinco capítulos, o papa pide na encíclica "construír no ben" e "permanecer humanos".

Sobre a IA advirte de "usos evidentemente antihumanos, como a manipulación da información ou a violación da privacidade", e tamén dun engano máis sutil cando os sistemas, "presentándose como neutrais e obxectivos, reflicten e reforzan estereotipos ou posicións ideolóxicas de quen os deseñe e programado".

O texto non é un tratado técnico sobre a IA nin tampouco unha condena ás novas tecnoloxías, das que aprecia o seu valor, senón unha relectura da Doutrina Social da Igrexa aplicada a esta nova revolución dixital ante o risco de que se estenda o transhumanismo.

O pontífice estadounidense subliña que as novas tecnoloxías —patentes, algoritmos, plataformas dixitais, infraestruturas, datos— "quedan concentrados nas mans duns poucos, sen adecuadas formas de intercambio e de acceso".

Son empresas e plataformas que absorben esas competencias, datos e capacidade decisional quen define "condicións de acceso, regras de visibilidade, formas de relación e mesmo oportunidades económicas".

"Cando un poder de tal magnitude se concentra en poucas mans, tende a facerse opaco e a eludir o control público, e crece o risco dun desenvolvemento distorsionado que provoca novas dependencias, exclusións, manipulacións e desigualdades", advirte.

Considera que "os estados e as institucións supranacionais están chamados a garantir regras xustas e mecanismos de protección eficaces para que as comunidades locais, os corpos intermedios, as escolas e as universidades, así como as realidades eclesiais e asociativas poidan ter voz e contribuír ao discernimento das decisións que inciden na vida das persoas: traballo, acceso aos servizos, xestión dos datos e ambientes dixitais".

E avoga por "unha orde social xusta na era dixital" que garanta "acceso igualitario ás oportunidades, protexa os máis pequenos e os máis fráxiles, se opoña ao odio e á desinformación, e someta a control público o uso dos datos e das tecnoloxías, de modo que o criterio non sexa só o beneficio senón a dignidade de cada persoa e o ben dos pobos".

Indica o perigo de que "a imitación artificial dunha comunicación humana positiva —palabras de consello, de empatía, de amizade, de amor— pode resultar gratificante e mesmo útil, pero en usuarios pouco conscientes pode inducir a engano e dar a falsa impresión de estar nunha relación cun auténtico suxeito privado".

Para que a IA respecte a dignidade humana, o papa reclama "responsabilidades" claras de quen a crea e tamén "marcos xurídicos adecuados, vixilancia independente, educación dos usuarios, unha política que non renuncie á súa tarefa", porque se non "o cambio será gobernado só por lóxicas tecnocráticas".

Advirte alén de "fenómenos de captación, chantaxe e explotación sexual de menores, que se volven máis insidiosos polo uso de perfís falsos, de algoritmos que amplifican contactos perigosos e de ferramentas de IA capaces de manipular imaxes e vídeos".

Sinala que "ter un teléfono móbil persoal demasiado pronto e utilizalo sen o control dos adultos pode acentuar a fraxilidade e favorecer as adiccións nos mozos", expoñéndoos a illamento, acoso, ciberacoso e presións para compartir imaxes íntimas ou datos sensibles, polo que pide límites de idade e maior responsabilidade dos provedores.

Tamén aborda o mundo do traballo, onde "contrariamente aos beneficios anunciados sobre a IA, os enfoques actuais da tecnoloxía poden paradoxalmente desespecializar os traballadores, sometelos a unha vixilancia automatizada e relegalos a tarefas ríxidas e repetitivas".

Por iso, insta a que "toda introdución de automatización e de IA debería ir acompañada de medidas verificables de protección do emprego, de recualificación e de participación dos traballadores, para que a tecnoloxía se oriente a liberar tempo e capacidades humanas, non a xerar exclusión". 

(Reuters/Yara Nardi)

O papa tamén reclama superar a teoría da guerra xusta: Esa revolución dixital di que está a modificar a gramática dos conflitos e, sen un enfoque ético, as decisións sobre a vida e a morte das persoas serán cada vez máis impersoais, considerándose o recurso á forza como unha opción inmediata e viable.

Na base de todo hai unha cultura do poder que normaliza a guerra e rehabilítaa como instrumento de política internacional, favorecendo o rearmamento. Ningún algoritmo fai que a guerra sexa moralmente aceptable.

É inmoral e inaceptable eliminar ou someter unha nación, sostén. A promoción do ben común non pode separarse nunca do respecto ao dereito dos pobos para existir, a custodiar a súa propia identidade e a contribuír coa súa orixinalidade á familia das nacións.

Tamén se refier á crise do multilateralismo, onde a forza do dereito se substitúe polo dereito do máis forte; as lóxicas do poder prevalecen sobre a construción da paz, relegada a un segundo plano, e as institucións creadas para custodiar o destino común dos pobos atópanse agora debilitadas, sen que se recoñeza a súa autoridade moral.

A este respecto, o papa auspicia para a ONU e para o sistema político internacional reformas profundas que superen a actual crise de valores en favor do verdadeiro ben común

Pide ademais o papa León XIV protexer a dignidade humana. Pide defender o dereito á vida, desde a concepción ata a súa final natural e define o aborto provocado, o asasinato de inocentes e a eutanasia como "decisións gravemente ilícitas", así como pide recoñecer os dereitos das minorías, con especial atención ás mulleres.

Por último o Sumo Pontífice fala da civilización do amor. Di que o cristián está chamado a responder a esta cultura do poder construíndo a civilización do amor, e, ao concluír a carta, León XIV invita os fieis a vivir as novas tecnoloxías á luz do Evanxeo.