León XIV advierte sobre los riesgos de la IA
En l la LX Jornada Mundial de las Comunicaciones Sociales , el papa León XIV envió un mensaje en el que advirtió sobre los riesgos que acompañan el desarrollo de la inteligencia artificial (IA) y cómo la tecnología puede manipular las emociones. Por eso, llamó a no dejar de lado el pensamiento crítico.
El pontífice destacó que «el rostro y la voz son rasgos únicos, distintivos, de cada persona«, ya que «manifiestan su propia identidad irrepetible«, a la vez que destacó la importancia de la «comunicación con los demás». Sin embargo, estos atributos se ven socavados por el desarrollo de la tecnología digital, ya que al descuidarla se cae en el riesgo de «modificar radicalmente algunos de los pilares fundamentales de la civilización humana».
«Los sistemas conocidos como IA no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas», dijo, por lo que aseguró que el desafío «no es tecnológico sino antropológico». «Custodiar los rostros y las voces significa, en última instancia, cuidarnos a nosotros mismos», aseguró.
El pensamiento crítico
Posteriormente, el papa evaluó que a la capacidad individual, la comprensión y la reflexión se le oponen los algoritmos que «premian las emocionas rápidas«, a la vez que «debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social«.
Por eso, advirtió que al considerar a la IA como «amiga omnisciente» se desgasta la «capacidad de pensar de modo analítico y creativo«, dando lugar únicamente a la «recopilación estadística artificial» que puede terminar por «erosionar» las «capacidades cognitivas, emocionales y comunicativas».
En su análisis sobre los riesgos del avance de la IA, León XIV advirtió también sobre el contacto con los chatbots que pueden someter a las personas a una «persuasión oculta«, al tratarse de modelos capaces de «imitar los sentimientos humanos y simular así una relación«. Esta «antropomorfización«, analizó, es «engañosa» ya que los chatbots pueden transformarse en «arquitectos ocultos» de los «estados emocionales» e «invadir y ocupar la esfera de la intimidad de las personas«.
Por lo tanto, sustituir las relaciones humanas por el vínculo con la IA, capaz de construir un mundo hecho a «imagen y semejanza«, puede dañar «el tejido social, cultural y político de las sociedades«, generando una «percepción alterada de la realidad«.