Cuando la tecnología se encuentra con la teología

En un mundo donde la inteligencia artificial avanza a pasos agigantados, pocas voces tienen la capacidad de detener el ruido y generar una reflexión profunda. Una de ellas, quizás la más inesperada, es la del Papa León XIV, quien el pasado 25 de mayo publicó Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, la primera encíclica de su pontificado dedicada íntegramente a la IA. Este documento no es una simple declaración de principios; es un análisis sistemático de cómo la IA está remodelando la sociedad, la economía y la política, y una advertencia sobre los riesgos de dejar su desarrollo en manos de unos pocos.

La IA como nueva revolución industrial

León XIV sitúa la IA en el mismo plano que la revolución industrial del siglo XIX, comparándola con los cambios que llevaron a la publicación de Rerum Novarum por León XIII en 1891. Pero mientras que aquella encíclica abordaba las condiciones de los trabajadores, esta nueva se centra en la esencia misma de lo humano. El Papa sostiene que la IA no es neutral: depende de quién la crea, con qué fines y bajo qué valores. Y advierte que, sin una regulación adecuada, podría convertirse en un instrumento de control, desigualdad y guerra.

La encíclica ha generado un debate global que trasciende el ámbito religioso. En Estados Unidos, programas de radio y editoriales de periódicos discuten si es necesario regular la IA. Gobiernos de todo el mundo han tomado nota, y las grandes tecnológicas analizan cada palabra. Como señala Alberto Pascual, presidente de la Asociación ASLAN y director ejecutivo de Ingram Micro España, “la tecnología ha sido siempre un amplificador de lo que contiene el corazón del hombre. Si hay una crisis espiritual, de valores, la IA la reflejará aumentada”.

El mito de la neutralidad tecnológica

Uno de los puntos más comentados de la encíclica es la negación de la neutralidad de la IA. Mario Escobar, escritor y experto en la figura del Papa, explica: “La IA está creada por grandes corporaciones. No son intelectuales individuales, sino grandes empresas tecnológicas que tienen dueños, y las propias empresas tienen ideología. Esa ideología se ve reflejada en la IA, porque la IA, aunque a veces no dé la sensación de que razona, sólo repite lo que le han dejado repetir”.

Escobar compara esta situación con la novela 1984 de Orwell, donde ministerios reescriben la verdad. “En vez de buscar la verdad, ese algoritmo invisible nos da una verdad alternativa”, advierte. Esta falta de neutralidad es especialmente peligrosa cuando la IA se utiliza para tomar decisiones sobre créditos, justicia o salud, donde los sesgos pueden perpetuar desigualdades.

El riesgo de una nueva Babel tecnológica

León XIV alerta sobre el peligro de una “nueva Babel” tecnológica, donde la uniformidad algorítmica sacrifique la diversidad cultural y la dignidad humana. Alberto Pascual considera que “la uniformidad algorítmica fruto de la fuerte concentración que se está produciendo en los agentes desarrolladores de la IA aplana las diferencias que siempre han enriquecido a la Humanidad, lo que supone una regresión”.

Para evitarlo, propone “proteger la dignidad única del ser humano evitando la reducción de la persona a un dato optimizable. Ha de vigilarse la implementación de cualquier lógica que priorice nuestra valoración por el rendimiento o la utilidad”. Esto requiere transparencia algorítmica y auditorías independientes, algo que también se aborda en nuestro artículo sobre neutralidad de proveedor en OpenTelemetry.

La IA al servicio del bien común

La encíclica insiste en que la tecnología puede tanto construir como dividir. Para garantizar que la IA sirva al bien común, Pascual aboga por “revisar el concepto actual de bien común: cuáles son las metas a compartir, retomar la solidaridad intergeneracional, recordar el destino universal de los bienes, la hipoteca social que debe pesar sobre la propiedad privada”.

Mario Escobar va más allá y señala que el Papa habla de “tecnofascismo”, un término fuerte que describe cómo la IA puede disolver a las personas en una masa guiada por una lógica impersonal. “La IA tiene elementos del fascismo: populismo, orden frente al caos, sentido de pertenencia. Disuelve en una masa guiada por una lógica impersonal que no sólo informa, sino que crea opinión e ideología”, explica.

El poder en manos de unos pocos

Otro aspecto crítico es la concentración del poder tecnológico en grandes empresas transnacionales, con recursos superiores a muchos Estados. Pascual lo califica como “colonialismo digital” y recomienda “regulaciones internacionales fuertes, con exigencia de transparencia, rendición de cuentas y participación de la sociedad civil”. La autorregulación, dice, se ha mostrado insuficiente.

Esta preocupación se conecta con la soberanía digital europea, donde países como Países Bajos frenan adquisiciones que ponen en riesgo la seguridad nacional. La encíclica propone un equilibrio entre innovación y control, fomentando una cooperación responsable entre empresas, Estados, academia e Iglesia.

Permanecer profundamente humanos

Una de las frases más potentes de la encíclica es la necesidad de “permanecer profundamente humanos”. Mario Escobar lo explica así: “La IA puede imitar lo humano, pero no es humana. Le falta emoción, conciencia, discernimiento moral, capacidad de amar o sufrir. El ser humano tiene inteligencia, pero también dimensión emocional y espiritual. La IA no. Por eso es implacable: puede ejecutar órdenes sin cuestionarlas”.

Alberto Pascual añade que permanecer humanos significa “custodiar la grandeza humana preservando la libertad, la fragilidad, la capacidad de relación, la empatía, el pensamiento crítico y la apertura a la trascendencia”. Y advierte contra las tentaciones transhumanistas que prometen superar límites mediante la optimización tecnológica, pero reducen al hombre a una máquina útil.

En un momento en que agentes de IA ya pueden gastar dinero de forma autónoma, y la transformación digital empresarial avanza sin pausa, la encíclica de León XIV llega como un recordatorio de que la tecnología debe estar al servicio de la persona, no al revés. Como concluye Pascual: “Hemos de recuperar como brújula aquellas virtudes cardinales, prudencia, justicia, fortaleza y templanza, que guiaban hacia la felicidad y que tan difícil resulta creer que una máquina incorpórea sea capaz de emular”.

Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.