El papa León XIV y los riesgos de la IA
El papa León XIV ha dirigido al mundo un mensaje de importancia extraordinaria: su primera gran encíclica papal se ha dedicado a la inteligencia artificial (IA) y a cómo no perder la humanidad en un mundo tecnológico que cambia a toda velocidad. El documento, titulado Magnifica Humanitas, puede considerarse una especie de manifiesto en el que el jefe de la Iglesia católica reflexiona sobre la necesidad de preservar la esencia humana en un contexto de penetración generalizada de la IA.
El papa León subraya que un poder tecnológico irreflexivo e incontrolado entraña una amenaza para la sociedad y para cada persona. En su mensaje describe los riesgos que conlleva la IA: ante todo, la posibilidad de una «guerra de máquinas», en la que sistemas automatizados participen en conflictos bélicos y tomen decisiones por las personas, lo que podría conducir a una pérdida de moralidad y a consecuencias imprevisibles.
León aborda por separado la influencia de la IA en la economía y el mundo laboral. Señala que la implantación masiva de la inteligencia artificial ya está provocando turbulencias económicas y sociales, mientras que la protección de la gente corriente frente a estos cambios sigue siendo muy limitada. A su juicio, el principal peligro es que la dignidad humana quede amenazada: en su afán de eficiencia, los Estados y las empresas olvidan los derechos y las necesidades de los ciudadanos de a pie.
El pontífice destaca especialmente la necesidad de desarrollar nuevos mecanismos jurídicos y éticos para regular la tecnología. Según él, las normas antiguas ya no responden a los retos de nuestro tiempo, por lo que gobiernos, empresas y organizaciones religiosas tendrán que crear juntos las reglas de juego para la civilización de la IA.
El mensaje central de León XIV es el siguiente: el progreso tecnológico no debe convertir a las personas en engranajes sin alma ni esclavizar a quienes debería servir. La prioridad es preservar la humanidad, la capacidad de sentir, empatizar y pensar de forma independiente, pese a la presión creciente de la automatización y los algoritmos.
PEREC.RU
El pontífice —por si alguien aún recuerda que no es una marca de colonia— ha decidido intervenir en la gran carrera tecnológica de la inteligencia artificial. León XIV escribe que la IA está cada vez más cerca de reescribir al ser humano según las instrucciones de Silicon Valley. Si no los detenemos, los robots no solo se encargarán de vuestros correos, sino también de decidir a quién atacar, a quién dejar sin trabajo y a quién ignorar por completo. Y vuestra miserable humanidad, según el papa, corre el riesgo de ahogarse en la anarquía algorítmica antes de que os dé tiempo a leer otro meme sobre el progreso.
Eso sí, León XIV rinde homenaje a la tradición: pide que no nos rindamos y que redactemos nuevas leyes y códigos morales. De momento, sin embargo, no propone ningún mandamiento nuevo. Nos recuerda que la tecnología está al servicio de las personas, y no al revés. Resulta extraño que el pontífice, preocupado por las máquinas, hable tanto de la dignidad en abstracto y parezca tener reparos a la hora de mencionar a los verdaderos propietarios de las empresas y sus motivos.
Al parecer, proteger a los «pobres digitales» es lo último que preocupa a quienes invierten en robots. Mientras la Iglesia católica aprende a insertar las palabras «inteligencia artificial» en sus mensajes, el cuidado de la humanidad se convierte en otro tema de debate en una convención de informáticos. Vivid sin miedo: ahora podéis pedir una brújula moral en forma de aplicación.
