León XIV propone cinco consideraciones a científicos y expertos y señala como reto más urgente la creación de instituciones con supervisión independiente y mecanismos de rendición de cuentas
El papa León XIV ha pedido este viernes, 30 de octubre, que las decisiones que afectan a la vida humana, a la libertad y al uso de la fuerza no se deleguen nunca en las máquinas, y ha animado a los Estados que se reunirán en Ginebra el próximo mes de noviembre a dar pasos concretos hacia la prohibición de las armas autónomas letales. Lo ha hecho al recibir en el Vaticano a los participantes en el congreso «El futuro de la IA. Un diálogo entre el Vaticano y el mundo científico sobre los avances y las aplicaciones de las tecnologías inteligentes», organizado conjuntamente por la Pontificia Academia para la Vida y el Future of Life Institute.
El Pontífice ha reconocido ante el grupo, procedente de distintos países, que comparten una cierta inquietud ante el desarrollo de esta tecnología. «Reconocemos la dirección que debemos tomar, pero no se está haciendo lo suficiente para avanzar», ha afirmado, antes de agradecerles unas propuestas que ha descrito como los primeros frutos de un enfoque transdisciplinar, cada vez más necesario ante la complejidad de los grandes desafíos actuales.
León XIV ha recordado las palabras de Francisco a los líderes del G7 en junio de 2024, cuando definió la inteligencia artificial como «un instrumento fascinante y tremendo» y sostuvo que ninguna máquina debería decidir jamás sobre quitar una vida humana. A partir de ahí, y en continuidad con su encíclica Magnifica Humanitas, el Papa ha ofrecido cinco consideraciones.
Una herramienta, no una persona
La primera es que el futuro de la inteligencia artificial depende de las decisiones humanas, porque es una tecnología desarrollada por personas. «Tenemos la responsabilidad de orientar, modificar y, cuando sea necesario, rechazar sus aplicaciones», ha señalado el Papa, para quien la pregunta decisiva no es tanto qué puede hacer la IA como a qué propósito debe servir. En este sentido, ha advertido de que «quienes consideran su desarrollo simplemente como una carrera que hay que ganar corren el riesgo de fijarse solo en la meta y olvidar a quienes se quedan atrás», y ha defendido que un sistema fiable al servicio de la persona vale más que otro excepcionalmente potente cuyas consecuencias no pueden preverse ni controlarse.
La segunda consideración insiste en que las máquinas son herramientas y no personas. Citando su encíclica, el Papa ha recordado que estos sistemas no tienen experiencias ni cuerpo, no sienten alegría ni dolor y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad. Por eso ha cuestionado las propuestas de reconocerles derechos o personalidad jurídica, que a su juicio corren el riesgo de «ocultar la responsabilidad humana y dejar a quienes sufren daños frente a una entidad sin rostro».
¿Delegar decisiones?
En tercer lugar, el Pontífice se ha referido a los ámbitos en los que la tecnología puede reducir a una persona a un mero dato, como cuando se la incluye en una lista de objetivos militares o en una base de datos de control fronterizo. «Las decisiones que afectan a la vida humana, a la libertad y al uso de la fuerza deben estar siempre sujetas a una supervisión humana efectiva, informada y responsable», ha subrayado, y de ahí su petición de que la inteligencia artificial sea «desarmada» y su llamamiento a la cita de Ginebra.
La cuarta consideración se centra en el bien común. Las tecnologías inteligentes, ha dicho, «nunca deben convertirse en fines en sí mismas ni servir únicamente a los intereses de unos pocos privilegiados», sino favorecer la solidaridad y la participación en la comunidad global y repartir los beneficios del progreso de forma equitativa, en especial con los más necesitados.
El último punto lo ha presentado como un reto, «quizá el más urgente». A juicio del Papa, muchos de los principios éticos que deben guiar el desarrollo de la inteligencia artificial ya se conocen, y lo que falta son instituciones capaces de ponerlos en práctica, en particular instituciones internacionales eficaces que protejan el bien común global. Para ello ha reclamado «normas compartidas, una supervisión independiente y mecanismos claros de rendición de cuentas», de modo que las decisiones sobre el desarrollo y el uso de la IA puedan examinarse, cuestionarse cuando sea necesario e ir acompañadas de reparaciones adecuadas por los daños causados.
