«ChatGPT ha generado una confusión y unas expectativas que son muy peligrosas, porque puede convertirse en la gran ilusión a la que siga la gran desilusión», ha afirmado el franciscano, experto en IA y asesor de Vaticano y ONU
La inteligencia artificial se despliega ente nosotros con exuberancia, mientras las empresas que se dedican a ella —ya sea a través de la creación de chips, los semiconductores o los centros de datos— alcanzan valores desorbitantes. Se nos plantea como una herramienta, lo es y muy útil, para que las tareas más anodinas dejen de ocuparnos tiempo y nos dediquemos a lo importante, para ayudarnos en los procesos creativos u obtener información. Eso, a nivel usuario, porque a nivel empresarial el impacto es enorme —su implementación en EE. UU. ya ha provocado miles de despidos—.
Es cierto que el uso necesita de una ética, pues no puede admitirse que una máquina tome decisiones en una guerra a la hora de disparar o no —las armas autónomas— o que los algoritmos introduzcan sesgos o discriminen a la hora de determinar qué familias tienen o no una ayuda pública. Pero, creo, se nos está escapando un riesgo importante y que afecta, sobre todo, a los más jóvenes, que, en algunos casos, están convirtiendo la IA en confidentes, en amigos, en iguales, cuando no lo son.
Y precisamente el dedo en esta llaga lo ha puesto Paolo Benanti, franciscano y experto en inteligencia artificial, asesor de Vaticano y ONU —lo entrevistamos a principios de este año en ECCLESIA—, durante EncuentroMadrid, que se celebra este fin de semana con el título .
El religioso explicó, durante su conversación con el profesor Paolo Pellecchia, que hoy este enganche afectivo con la IA se produce porque se trata de una tecnología del lenguaje, «que desarrolla la teoría de la mente, que es lo que me permite encontrarme con el otro, generando un vínculo único».
«Le pasa a un hijo con su madre, pero también puede pasarnos con las mascotas y está pasando cada vez más con un chatbot, del que podemos llegar a pensar que es un amigo que nos entiende como nadie y que siempre está disponible para nosotros, cuando su único objetivo es tenerme enganchado el mayor tiempo posible», ha advertido.
Pero un chatbot no es una madre, ni siquiera un perro, que también es capaz de resistirse y decirnos que no. La IA, por contra, dice Benanti, «elimina las fricciones de la vida». Y ahí está la clave. Ya no nos arriesgamos, ni a que alguien nos rechace, ni siquiera a salir a buscar un taxi. Se tira de app. Así, se cuestiona que si sucede con el transporte o la comida, por qué no con el afecto. «Estamos suprimiendo las fricciones de la vida tirando de aplicación», ha subrayado.
Pero esta realidad, la de eliminar las fricciones y el riesgo de nuestra vida, no solo tiene que ver con la IA, pues ya estaba antes en la cultura actual. La IA la ha amplificado. «Hemos quitado a la generación Z las fricciones, empezando por quitarles a los hermanos, porque la mayoría son hijos únicos, de modo que ven que las fricciones son un problema que hay que evitar. Y para eso tengo todo tipo de app, porque la novia puede decirme que no, pero la app nunca».
Límites
En el fondo, ha abundado el franciscano, hay un problema con los límites: «El límite define lo que soy, es lo que me permite ser lo que soy. Ahora no sabemos cuál es el límite de lo humano porque no sabemos cuál es la identidad de lo humano. Este problema tiene que ver directamente con el hecho cristiano. O la fe es un límite que define nuestra identidad o no tiene nada que decir. ¿Qué significa creer hoy? ¿Qué significa decir que Cristo es el ejemplo de lo que significa ser humano? Pensando que el límite es algo que nos tenemos que quitar de encima, hemos pasado a vivir sin límites y estamos cayendo en un aburrimiento supremo que está en la raíz del malestar que domina a la humanidad de nuestro tiempo».
En este contexto, Benanti hace una apuesta decidida por la educación, porque la promesa digital, la de la tecnología, «no basta» para satisfacer el deseo del hombre, ni siquiera puede permitir conocer cosas tan básicas como el olor de un limón. «ChatGPT ha generado una confusión y unas expectativas que son muy peligrosas, porque puede convertirse en la gran ilusión a la que siga la gran desilusión», ha concluido.
