Francisco ante la inteligencia artificial: podemos “perder el control” y caer en “una dictadura tecnológica”

Si bien la Jornada Mundial de la Paz se celebra el próximo 1 de enero, la Santa Sede ha dado a conocer hoy el mensaje del papa Francisco para su 57ª edición, bajo el título ‘Inteligencia artificial y paz’.

---

• PODCAST: Pecado ecológico y deuda climática
• Regístrate en el boletín gratuito y recibe un avance de los contenidos

---

En su reflexión, Bergoglio analiza cómo, puesto que “la inteligencia es expresión de la dignidad que nos ha dado el Creador al hacernos a su imagen y semejanza”, la ciencia y la tecnología “manifiestan de modo particular esta cualidad fundamentalmente relacional de la inteligencia humana”, siendo ambas un reflejo “extraordinario” de su “potencial creativo”.

Un mejor orden social

Como valora el Pontífice, “el progreso de la ciencia y de la técnica, en la medida en que contribuye a un mejor orden de la sociedad humana y a acrecentar la libertad y la comunión fraterna, lleva al perfeccionamiento del hombre y a la transformación del mundo”. De ahí que “nos alegramos justamente y agradecemos las extraordinarias conquistas de la ciencia y de la tecnología, gracias a las cuales se ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos”.

Con todo, en la edad contemporánea, tal avance se ha acelerado de un modo que ya le es posible al hombre “el ejercicio de un control sobre la realidad nunca visto hasta ahora”. Así, estando ante nosotros “una vasta gama de posibilidades”, algunas de ellas “representan un riesgo para la supervivencia humana y un peligro para la casa común”.

Para Francisco, es un hecho que “los notables progresos de las nuevas tecnologías de la información, especialmente en la esfera digital, presentan, por tanto, entusiasmantes oportunidades y graves riesgos, con serias implicaciones para la búsqueda de la justicia y de la armonía entre los pueblos”.

Preguntas urgentes

De ahí que sea “necesario plantearse algunas preguntas urgentes: ¿cuáles serán las consecuencias, a medio y a largo plazo, de las nuevas tecnologías digitales? ¿Y qué impacto tendrán sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz?”.

Entrando ya directamente en el terreno de la inteligencia artificial, el Papa ve en ella “promesas y riesgos”, cambiando el rostro “de las comunicaciones, de la administración pública, de la instrucción, del consumo, de las interacciones personales y de otros innumerables aspectos de la vida cotidiana”.

De un modo más concreto, Bergoglio advierte sobre “las tecnologías que usan un gran número de algoritmos” y que “pueden extraer, de los rastros digitales dejados en internet, datos que permiten controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección”.

Sobrecarga de información

Puesto que un espacio digital suele estar “caracterizado por una sobrecarga de información”, no se puede obviar que “el flujo de datos” se puede estructurar “según criterios de selección no siempre percibidos por el usuario”. Detrás de este proceso, en el fondo, siempre hay una mente humana, entrando en juego la “dimensión ética” del fenómeno.

En este sentido, el impacto de la inteligencia artificial empleada, “independientemente de la tecnología de base, no solo depende del proyecto, sino también de los objetivos y de los intereses del que los posee y del que los desarrolla, así como de las situaciones en las que se usan”.

La inteligencia artificial, por tanto, “debe ser entendida como una galaxia de realidades distintas y no podemos presumir a priori que su desarrollo aporte una contribución benéfica al futuro de la humanidad y a la paz entre los pueblos”.

Respetar los valores humanos

De hecho, “tal resultado positivo solo será posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales”. Así que “no basta ni siquiera suponer, de parte de quien proyecta algoritmos y tecnologías digitales, un compromiso de actuar de forma ética y responsable”.

Frente a esta realidad, “es preciso reforzar o, si es necesario, instituir organismos encargados de examinar las cuestiones éticas emergentes y de tutelar los derechos de los que utilizan formas de inteligencia artificial o reciben su influencia”. Y es que “la libertad y la convivencia pacífica están amenazadas cuando los seres humanos ceden a la tentación del egoísmo, del interés personal, del afán de lucro y de la sed de poder”.

Por el contrario, Francisco recalca que “tenemos el deber de ensanchar la mirada y de orientar la búsqueda técnico-científica hacia la consecución de la paz y del bien común, al servicio del desarrollo integral del hombre y de la comunidad”. Además, “la dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso, de modo que el progreso digital pueda realizarse en el respeto de la justicia y contribuir a la causa de la paz”.

Desafíos antropológicos

En este reto, “la inteligencia artificial será cada vez más importante”, pues “los desafíos que plantea no son solo técnicos, sino también antropológicos, educativos, sociales y políticos”. De ahí que deba estar bien empleada, siempre “al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos”.

Otro aspecto que preocupa al Papa, de cara a un futuro no muy lejano, es el paradigma que se plantea ante “las máquinas que aprenden solas”. Aquí, emerge un evidente temor: “La habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad”.

Y más cuando cuando generan “afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios”. Esto “crea un serio problema cuando la inteligencia artificial se emplea en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación”.

Interferencia en procesos electorales

Igualmente, “la confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad”.

Todos estos factores “corren el riesgo de alimentar los conflictos y de obstaculizar la paz”. Y mucho más en nuestro mundo, que es “demasiado vasto, variado y complejo para poder ser completamente conocido y clasificado”, por lo que “la mente humana nunca podrá agotar su riqueza, ni siquiera con la ayuda de los algoritmos más avanzados”.

En este punto, el Pontífice llama a reflexionar sobre “el ‘sentido del límite’, un aspecto a menudo descuidado en la mentalidad actual, tecnocrática y eficientista, y sin embargo decisivo para el desarrollo personal y social. El ser humano, en efecto, mortal por definición, pensando en sobrepasar todo límite gracias a la técnica, corre el riesgo, en la obsesión de querer controlarlo todo, de perder el control de sí mismo, y en la búsqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnológica”.

Aceptar el propio límite

En cambio, “reconocer y aceptar el propio límite de criatura es para el hombre condición indispensable para conseguir o, mejor, para acoger la plenitud como un don”. Si nos alejamos de esta senda, podemos abocarnos a una civilización en la que “las desigualdades podrían crecer de forma desmesurada y el conocimiento y la riqueza acumularse en las manos de unos pocos, con graves riesgos para las sociedades democráticas y la coexistencia pacífica”.

Para evitar que se llegue a un modelo organizado en torno a “categorizaciones impropias entre los ciudadanos”, a través de “procesos artificiales de clasificación” que “podrían llevar incluso a conflictos de poder”, “el respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos”.

En conclusión, Bergoglio enfatiza que “no debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado”.

En el ámbito laboral y armamentístico

Al advertir del “impacto de las nuevas tecnologías en el ámbito laboral”, Francisco comenta que “también en este caso se corre el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos”.

Y lo mismo ocurre al valorar “las graves cuestiones éticas vinculadas al sector de los armamentos”. Así, “la posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra”.

Por este motivo, “es imperioso garantizar una supervisión humana adecuada, significativa y coherente de los sistemas de armas. Tampoco podemos ignorar la posibilidad de que armas sofisticadas terminen en las manos equivocadas, facilitando, por ejemplo, ataques terroristas o acciones dirigidas a desestabilizar instituciones de gobierno legítimas. En resumen, realmente lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas, promoviendo la locura de la guerra”.

Un corazón cada vez más ‘artificial’

Si no lo hace así, “no solo la inteligencia, sino el mismo corazón del hombre correrá el riesgo de volverse cada vez más ‘artificial’. Las aplicaciones técnicas más avanzadas no deben usarse para facilitar la resolución violenta de los conflictos, sino para pavimentar los caminos de la paz”.

En cambio, claro, si deseamos “un futuro mejor para nuestro mundo”, se puede aprovechar el inmenso caudal que ofrece la inteligencia artificial para promover “un diálogo interdisciplinar destinado a un desarrollo ético de los algoritmos (la algorética), en el que los valores orienten los itinerarios de las nuevas tecnologías”.

En la educación, este avance “debería centrarse sobre todo en promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y éticos del desarrollo y el uso de la tecnología”.

Una reglamentación consensuada

La última propuesta concreta del Papa es de carácter político: “Exhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas. Naturalmente, el objetivo de la reglamentación no debería ser solo la prevención de las malas prácticas, sino también alentar las mejores prácticas, estimulando planteamientos nuevos y creativos y facilitando iniciativas personales y colectivas”.

Además, “en los debates sobre la reglamentación de la inteligencia artificial, se debería tener en cuenta la voz de todas las partes interesadas, incluidos los pobres, los marginados y otros más que a menudo quedan sin ser escuchados en los procesos decisionales globales”.

Imagen de apertura creada con inteligencia artificial.