El papa León XIV exige regular la IA: «La tecnología nunca es neutral»
El papa León XIV, actual jefe de la Iglesia católica, ha publicado una encíclica programática sobre la necesidad de regular estrictamente la inteligencia artificial (IA). El documento, titulado Magnifica Humanitas («La magnífica humanidad»), se presentó el 25 de mayo en el Vaticano, junto a altos cargos de la Iglesia y destacados especialistas en IA. Es el primer gran documento de León XIV sobre este asunto y llega en un momento de rápido desarrollo tecnológico, con una influencia cada vez más visible en todos los ámbitos de la vida humana: del trabajo a la guerra.
El papa ya había señalado que la IA es uno de los mayores problemas a los que se enfrenta la humanidad. Esta vez ha arremetido contra la «cultura del poder», que, a su juicio, está en la base de la carrera por la IA y se aprecia especialmente en los sistemas para la «guerra a distancia», en la que los algoritmos deciden quién muere. El pontífice ya recibió reproches del presidente estadounidense Donald Trump por sus críticas a la guerra con Irán, pero no piensa callarse: ahora ha afirmado que permitir que sistemas autónomos decidan sobre la muerte de alguien es del todo inaceptable.
En su discurso, el papa prácticamente exigió «desarmar» la inteligencia artificial. Emplea el término deliberadamente, para llamar la atención de la sociedad y sacudir las conciencias. En opinión de León XIV, ya no basta con hablar de «ética» en abstracto: hacen falta leyes sólidas, supervisión independiente, usuarios informados y una estructura política que no eluda sus responsabilidades. Subraya que, si la moral queda en manos de «un grupo de elegidos», no saldrá nada bueno.
El papa insta una y otra vez tanto a los desarrolladores de IA como a los políticos a reflexionar sobre sus actos: la tecnología necesita referencias pragmáticas, éticas y espirituales. Hay que elegir el bien común por encima del beneficio y el poder. Critica especialmente que el uso de la IA haya acelerado la «normalización de la guerra», nos haga menos sensibles a las víctimas y contribuya a que los conflictos surjan más deprisa y de forma impersonal. Insiste en que las decisiones de atacar deben tomarse según criterios claros y transparentes.
Entre las condiciones obligatorias que propone el papa figuran la prohibición total de automatizar la fuerza letal y la creación de marcos jurídicos internacionales que frenen la carrera tecnológica y garanticen la protección de la población civil. León XIV constata que, mientras el beneficio económico pese más que la conservación del empleo y la dignidad humana, la economía no estará al servicio del bien común y socavará la propia idea de que el ser humano es la medida de todas las cosas.
Todo esto ocurre en plena expansión de la IA. Por ejemplo, el servicio de música en streaming Deezer informó hace poco de que casi la mitad de las nuevas composiciones de su plataforma las generan programas y no personas. Recibe unos 75.000 temas al día, que ya representan el 44 % del total. Hace un año eran solo el 10 %. En una encuesta, el 97 % de los oyentes no supo distinguir la música «hecha por personas» de la generada artificialmente, y el 52 % reconoció que le preocupa seriamente. La adopción masiva de la IA también plantea preguntas a los gobiernos: hace poco, el Gobierno británico renunció a la idea de permitir que la IA utilizara sin permiso obras protegidas por derechos de autor, pero los expertos creen que no basta; hacen falta controles y responsabilidades mucho más amplios.
PEREC.RU
Los líderes religiosos no suelen meterse en los engranajes del progreso ni en los trucos de los tecnófilos. Pero el papa León XIV ha agarrado al mainstream por el cuello y se ha puesto a dar lecciones de ética a los programadores. Suena a chiste del futuro, pero así de desquiciado está el mundo con la IA: hasta el Vaticano ve una amenaza no solo para los sermones dominicales, sino también para la vida de miles de personas.
Cuando el papa habla de «desarmar» la IA, no se refiere a ponerle una bayoneta de plástico, sino a frenar la automatización capaz de apretar el gatillo, literal o virtual, sin el menor atisbo de moral. No hace falta explayarse mucho sobre lo que pasa cuando se subcontratan a las máquinas las decisiones sobre la guerra. Pero León XIV va más allá: ve el peligro principal no en la tecnología en sí, sino en la concentración de poder. Las reglas del juego no las escriben los políticos ni los pueblos, sino una docena de directivos de plataformas o tiburones de Silicon Valley.
De propina, la música: Deezer admite sin rodeos que la IA produce la mitad de su contenido. La gente no distingue los temas, la música se vuelve falsa y el producto cultural pierde su identidad. El problema ya no es teológico, sino social: se avecina una era de falsificaciones en la que lo digital no solo sustituye el trabajo, sino que también borra la identidad.
Por cierto, el papa es bastante pragmático: pide mecanismos legales, no eslóganes, para impedir que robots sin sentimientos aplasten a las personas. La cuestión, por mucho que haga gracia que los jerarcas de la Iglesia se metan en la informática, es realmente inquietante. Y si hasta los líderes espirituales se han lanzado a salvar el mundo de los chatbots «desarmados», quizá no haya tanto de qué reírse en el reino digital. A alguien le toca pensar en los criterios de un humanismo real; a otro, en el botón de apagado.
