‘Magnífica Humanidad’, encíclica de la inteligencia artificial, la dignidad humana y la paz

El Papa León XIV publicó el 25 de mayo su primera encíclica Magnifica Humanitas, sobre «la protección de la persona humana en la era de la inteligencia artificial». La presentó en el Vaticano junto con un panel de expertos, entre ellos Christopher Olah, cofundador de Anthropic, una de las empresas líderes mundiales en el desarrollo de inteligencia artificial. En un discurso pronunciado durante la presentación, el Papa León destacó que la encíclica había surgido de un proceso de escucha: a los científicos e ingenieros que desarrollan la IA; a los líderes políticos, padres y maestros; y a las personas preocupadas por los sistemas de armas autónomas y las diversas formas de exclusión que se producen sobre la base de la recopilación masiva de datos.

En la encíclica, el Papa compara el rumbo actual del desarrollo de la IA con la imagen bíblica de la Torre de Babel, diciendo en la introducción: «Pido a todos que abandonen la construcción de otra Torre de Babel y que unan fuerzas para construir el bien común». León XIV recapitula la evolución de la Doctrina Social Católica a través de sus principales documentos y explica sus principios clave, refutando en muchos casos las críticas que sostienen que la Iglesia debería mantenerse al margen de la política o, por el contrario, controlarla por completo. En un párrafo posterior, analiza la evolución de la doctrina eclesiástica sobre la esclavitud, disculpándose por la legitimación de la esclavitud por parte de los papas en el siglo XV y por la incapacidad de la Iglesia para condenarla universalmente hasta el siglo XIX, bajo el pontificado de León XIII. «El recuerdo de la complicidad y la ceguera del pasado», afirma, se convierte en una llamada a la vigilancia contra las formas contemporáneas de trata de personas.

A continuación, examina en detalle la IA, su desarrollo y sus efectos en la humanidad en ámbitos como la educación, el trabajo, la adicción a la tecnología, la democracia y muchos otros, ofreciendo recomendaciones concretas sobre cómo el desarrollo de la IA podría ser mejor supervisado por diversas instancias de autoridades civiles, religiosas y educativas, tanto locales como internacionales. Denuncia reiteradamente cómo la IA creará más desigualdad y cómo ya está concentrando el poder y la toma de decisiones en manos de una minoría. León XIV subraya que la ética de la IA no puede simplificarse a «un buen uso de la IA es bueno, un mal uso de la IA es malo». La IA, afirma, no es una herramienta moralmente neutra, sino que «encarna elecciones y prioridades a través de lo que mide, ignora y optimiza, y cómo clasifica a las personas y las situaciones». En otras palabras, el discernimiento moral de la IA no puede limitarse a considerar los usos que se le dan, sino también cómo está diseñada y qué visión de la persona humana y la sociedad tiene preestablecida. El Papa plantea preguntas difíciles sobre quién debería ser moralmente responsable de las decisiones aparentemente tomadas por la IA y quién es responsable de corregir esos errores. También critica el «transhumanismo» y el «posthumanismo», la idea de que la humanidad debería intentar trascenderse a sí misma mediante medios tecnológicos.

Como era de esperar, León XIV aborda a continuación el uso de la IA en la guerra. En un párrafo particularmente interesante, descarta la teoría de la guerra justa por considerarla obsoleta, afirmando que se ha utilizado con demasiada frecuencia para justificar cualquier tipo de guerra y que la humanidad posee herramientas mucho más eficaces y capaces para promover la vida humana y resolver conflictos, como el diálogo, la diplomacia y el perdón. Advierte contra el pensamiento simplista de «nosotros contra ellos», que resulta letal cuando se utiliza para que humanos o máquinas tomen decisiones rápidas en tiempos de guerra.

El documento concluye con una extensa reflexión sobre la paz, en la que el Papa describe «cinco caminos hacia la responsabilidad cotidiana y pública». Estos incluyen: desarmar nuestras palabras; construir la paz a través del amor a la justicia; escuchar a las víctimas de la guerra y la exclusión; cultivar un realismo sano; y revitalizar el diálogo y el multilateralismo. Este breve resumen pretende ser una invitación a hacer una lectura sosegada y total de la encíclica.