El teólogo y profesor de la Universidad Eclesiástica San Dámaso ha presidido el órgano de la Comisión Teológica Internacional encargado de elaborar Quo vadis, humanitas?, una respuesta cristiana al reto tecnológico
El sacerdote Javier María Prades López (Madrid, 1960) es uno de los pensadores españoles más influyentes de la catolicidad moderna. Teólogo, profesor y exrector de la Universidad Eclesiástica San Dámaso, ha dedicado buena parte de su trayectoria a reflexionar sobre la relación entre la fe y la cultura en la sociedad contemporánea. Con una mirada más dotada para leer los cambios de época que los titulares del día, su voz resulta valiosa en un momento en que la tecnología plantea interrogantes inéditos sobre el conocimiento, la libertad y la identidad. Ha presidido el órgano de la Comisión Teológica Internacional que elaboró el documento Quo vadis, humanitas? Pensar la antropología cristiana ante algunos escenarios futuros de la humanidad. Además, firma una introducción en la edición del texto publicada por la Biblioteca de Autores Cristianos. Atiende a ECCLESIA para abordar el desafío que supone la IA.
—¿Cómo definiría el momento actual de la IA para personas que no logran hacerse una idea completa de lo que supone este proceso?
—La fórmula misma de «inteligencia artificial» puede despistar. Resulta engañosa, porque sugiere que estamos comparando magnitudes equivalentes: de un lado, la inteligencia humana y, de otro, la inteligencia artificial. Pero, en realidad, no es así. Como explica Alfredo Marcos, los sistemas electrónicos e informáticos, ya sean de base electromagnética o cuántica, no son inteligentes en el sentido estricto de la palabra. Ahora bien, aunque estos sistemas no posean inteligencia propia, actúan como herramientas extraordinarias que asisten a la inteligencia humana. Sería más exacto hablar de una «inteligencia humana asistida» por sistemas dotados de una capacidad de cálculo, almacenamiento y comparación enorme.
En este contexto, se suele diferenciar entre inteligencia artificial en sentido estricto e inteligencia artificial general. La primera asegura una elaboración rápida de grandes cantidades de datos mediante algoritmos que procesan operaciones complejas de análisis y de cálculo de probabilidades, incluyendo los sistemas que generan de manera autónoma datos de entrenamiento y perfeccionan sus procesos internos. En cambio, la segunda alude a una tecnología futura omnipresente que sería capaz de sustituir los aspectos computacionales y operativos de la inteligencia humana gracias a una altísima velocidad de cálculo, alcanzada mediante el desarrollo futuro de procesadores cuánticos.
—Sobre el papel, ¿cuál diría que es la diferencia cualitativa esencial entre la inteligencia humana y la capacidad de procesar datos de una máquina?
—Entender (intus legere) supone ver la esencia de las cosas y descubrir sus causas; saber separar lo que es distinto y unir lo que es semejante. De esta forma, los seres humanos podemos crear los conceptos o formular las esencias de cada cosa en la realidad para compararlas y, así, comprender el mundo. Por otro lado, la sabiduría popular suele definir la inteligencia como la capacidad de resolver problemas. A este respecto, es muy claro que un sistema de inteligencia artificial no resuelve problemas por sí mismo, sencillamente porque la máquina no tiene problemas. Los sistemas artificiales ayudan a los operadores humanos a resolverlos, lo cual obliga a precisar qué significa contar, computar, localizar o proporcionar asistencia y apoyo sobre una base física o electromagnética.
Por poner un ejemplo elemental, afirmar que el sistema informático tiene un problema equivale a decir que un martillo tiene un problema, o a atribuirle intencionalidad a un ábaco. Es obvio que el ábaco —que Husserl menciona en sus Investigaciones lógicas— no sabe contar por sí mismo. Quien cuenta es la persona que desplaza las bolas a lo largo del alambre. Si alguien desplaza dos bolas y luego desplaza tres, la operación matemática de percibir «dos más tres» no la realiza el soporte físico. El alambre y los laterales de madera del ábaco pertenecen a un orden material de lo real, distinto del concepto de «cinco» o de las operaciones lógicas y aritméticas. Estos conceptos y operaciones son de orden inmaterial e intemporal: no son de madera, ni de metal, y no están sometidos a cambio por el mero transcurso del tiempo. Y se podrían añadir otros rasgos típicos de la inteligencia humana, como es su capacidad simbólica, que convierte un dato bruto en un signo dotado intencionalmente de significado. La filosofía del siglo XX ha avanzado mucho en estos campos.
—¿Podemos creer, como se nos dice, que la inteligencia artificial es «moralmente neutra» o más bien incorpora una visión específica de la persona?
—León XIV recuerda que los descubrimientos científicos son un talento entregado a la humanidad para que lo haga fructificar y, por eso, defiende que la tecnología puede curar, conectar, educar, cuidar la casa común; pero también puede dividir, descartar, generar nuevas injusticias. Y advierte que la tecnología «no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza». Con la comparación entre la torre de Babel y el templo de Jerusalén de Magnifica humanitas, el Papa nos urge a elegir «entre un poder que pretende dominar el cielo y un pueblo que, en presencia de Dios, se pone a trabajar unido para levantar de nuevo las murallas de la convivencia fraterna».
—La IA ya no es solo una herramienta en manos del hombre, sino un «entorno de vida». ¿Qué implicaciones tiene para nuestra libertad el hecho de que la tecnología condicione nuestra forma de pensar y de relacionarnos?
—Los instrumentos tecnológicos de este nivel tan sofisticado implican una relación de circularidad entre el sujeto y el instrumento, de la que se sigue un condicionamiento recíproco. Quien se sirve del instrumento tecnológico se ve condicionado, en cierta medida, por las posibilidades que el instrumento pone a su disposición y puede imaginar de un modo diferente cómo organizar su vida. No olvidemos que estos instrumentos influyen más directamente en la comprensión de nosotros mismos y se utilizan para expresarse en las diversas formas de comunicación social, así como para modelar las identidades personales o colectivas y para cultivar las relaciones con los demás: la transformación que posibilita esta tecnología es más íntima. Así se entiende que la tecnología digital no sea tan solo un instrumento, sino que constituye un verdadero entorno de vida, con su propio modo de estructurar las actividades y las relaciones humanas.
—En el entorno que el papa Francisco acuñó como «paradigma tecnocrático», ¿quiénes son los actores que ostentan el poder real y bajo qué lógica operan?
—Esta expresión alude a la tentación de dejar que «la lógica de la eficiencia, del control y del lucro gobierne por sí sola las decisiones personales, sociales y económicas». León XIV insiste en que la técnica no es un simple instrumento y que, «cuando se vuelve criterio, termina por establecer qué cuenta y qué puede descartarse, reduciendo la creación a un objeto de explotación y a las personas, a engranajes de un sistema que sea cada vez más eficaz». Si este paradigma se extiende rápidamente por el impacto de la IA, se necesita un nuevo marco espiritual, ético y político. Para León XIV, que la tecnología sea más poderosa no significa que sea necesariamente mejor. En especial, insiste en que necesitamos un discernimiento antropológico sobre los fines que persigue el desarrollo tecnológico, porque, si no se produce esta maduración ética y social, pueden aumentar los medios disponibles pero no crece de igual manera la humanidad: «Se tiene más», pero no «se es más», y la persona puede correr el riesgo de ser valorada solo en función del rendimiento que ofrezca.
—León XIV ha lanzado un llamamiento a «desarmar la IA». ¿Cómo se puede rescatar esta tecnología?
—La expresión «desarmar la IA» ha hecho fortuna y nos facilita entender la preocupación del Papa. Propone rescatar la tecnología de la inteligencia artificial frente a «la lógica de la competencia armamentística, que hoy ya no es solo militar, sino económica y cognitiva». Cuando pide desarmar la IA, quiere decir que se pueda romper la equivalencia entre poder tecnológico y derecho a gobernar. No se trata de renunciar a la tecnología, sino de impedirle el dominio sobre lo humano. Nuestra tarea no es solo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra casa común.
—Dado que algunos algoritmos ni siquiera son comunicados a las autoridades por las empresas que los crean, ¿cómo se puede acabar con la opacidad y garantizar la responsabilidad en el proceso?
—Es cierto que en un contexto tan complejo, el desarrollo de la inteligencia artificial ofrece procedimientos de gestión de datos, organizados sobre una base estadística, y de elaboración de soluciones basadas en algoritmos que no son controlables no solo por la persona individual, sino, a veces, ni siquiera por las empresas o los Estados. En ocasiones, se afirma que los algoritmos de algunos sistemas no han sido comunicados a ninguna autoridad. Si esto sucede, las finalidades del desarrollo se gestionan de forma autónoma por el sistema y obedecen solo al sesgo introducido por los operadores que la han implementado y la utilizan con fines de poder económico, social o político. En ese momento, el poder de la inteligencia artificial se vuelve capaz de gestionar una enorme cantidad de datos, de identificar correlaciones y de proponer decisiones basadas en inferencias no disponibles para el cálculo humano, y que escapan por tanto del control sobre sus consecuencias antropológicas y morales.
—¿Corre el ser humano el riesgo de empezar a verse a sí mismo simplemente como un «conjunto de datos que se pueden optimizar», perdiendo su sentido de misterio y trascendencia?
—Debemos reivindicar que la vida biológica es un don, que debe ser tratado con respeto, y por ello deben ser prohibidos los experimentos y mutaciones que buscan perfeccionar la potencialidad biológica del ser humano, llegando incluso al límite de sustituir las características propias de la experiencia humana común por nuevos seres híbridos (cíborg) a partir de las tecnologías informáticas y biológicas. Ya se trate de escenarios lejanos o de peligros reales, deja de estar claro qué se entiende por identidad personal y se reduce a la persona a una suerte de experiencia subjetiva potenciada y a una habilidad cognitiva aumentada, mientras lo corpóreo se reduce a mero material biológico imperfecto que puede ser potenciado sin límite. No es difícil comprender que la vida humana corporal dejaría de ser el resultado de un acto amoroso de generación para convertirse en mero resultado de la producción. La dignidad humana quedaría gravemente lesionada.
—¿No cree que defender la vulnerabilidad frente a las promesas del transhumanismo pone a la Iglesia en una situación complicada, incluso poco simpática en el debate público?
—Más bien al contrario. La Iglesia tiene hoy la posibilidad de ejercer una tarea de denuncia profética que puede ser secundada por personas no creyentes que reconozcan el valor único de la vida humana, como recordó León XIV en el Parlamento español. Sobre todo cuando se reclama el máximo respeto para la vida de los más vulnerables: niños no nacidos, personas con discapacidad, ancianos, enfermos terminales… La Iglesia puede defender la dignidad infinita de cada persona en su condición particular. Las personas más vulnerables nos invitan a expresar una protesta radical contra la «cultura del descarte» que resuena en ciertos razonamientos transhumanistas o poshumanistas.
—Ha advertido en sus intervenciones sobre el «empobrecimiento del entendimiento», por las ayudas digitales. ¿Estamos ante un riesgo de «amnesia cultural» y pérdida del saber crítico?
—El impacto de la revolución digital no sería tan profundo si no arraigase en una cultura que fomenta el olvido del ser, de la memoria personal y colectiva y del destino eterno de cada uno. El resultado al que nos orienta es que el ser humano se convierta cada vez menos en su propia memoria y cada vez más en su propio experimento ilimitado. Los humanos tendemos a olvidarnos de Dios en la prosperidad, como nos enseña la Sagrada Escritura; pero, además, esta desmemoria es favorecida por una mentalidad cientificista, que supone que la ciencia podrá dar solución a todos los problemas y, por tanto, liberarnos del dolor del recuerdo. Nos resignamos fácilmente ante nuestra fragilidad y renunciamos a las grandes esperanzas: una cierta mentalidad común nos persuade para limitarnos a «ir tirando» sin criterio, como si lo importante fuese avanzar por avanzar, aunque no haya una meta, ni inmanente ni mucho menos trascendente. En tiempos de revolución tecnocientífica, recordemos que no se puede construir el futuro sin una memoria sólida de la historia de la que venimos y que nos ha generado, o sin abrirse a una esperanza para siempre.
—¿Qué peligros ve en el uso de la tecnología como mediadora de lo sagrado?
—La tecnología puede favorecer una metamorfosis también en los modos de creer. La revolución digital tiene un influjo muy fuerte en el imaginario religioso: puede redefinir las identidades religiosas y ofrecerse como guía espiritual y mediadora de lo sagrado. No faltan devotos o personas con inquietudes espirituales que depositan su confianza en los motores de búsqueda online. Esta confianza en un mundo gobernado por las máquinas, que no solo pone a disposición recursos religiosos, sino también propuestas sobre el sentido de la vida y el acceso a lo divino, no está lejos de la lógica transhumanista y poshumanista. El Dios vivo puede ser sustituido por un dios virtual con la pretensión de salvar a la humanidad mediante prestaciones tecnológicas que intenten saciar las aspiraciones espirituales infinitas del ser humano.
