Anthropic reescribe el «alma» de Claude: un manifiesto de 57 páginas sobre cómo no convertirse en Skynet

Anthropic, empresa dedicada al desarrollo de inteligencia artificial, ha decidido que a sus redes neuronales Claude les faltaban referentes morales. El resultado es una nueva versión de su guía interna, bautizada con el rimbombante nombre de «Constitución de Claude». El documento ocupa 57 páginas y abarca todo tipo de inquietudes éticas, desde las exigencias más elementales de honestidad hasta las advertencias para que no provoque el fin del mundo.

Si la versión anterior parecía más bien una breve lista de normas de conducta para una inteligencia artificial, ahora tenemos algo parecido a una biblia corporativa. Anthropic subraya que los sistemas deben entender por qué tienen que ser útiles y honestos, en vez de limitarse a seguir instrucciones a ciegas. Sí, una tarea que no exige lógica, sino directamente filosofía.

Buena parte del trabajo se dedica a expresiones como «carácter ético fundamental» y «personalidad básica»: casi como si se tratara de un héroe épico y no de un chatbot. Una breve nota explica cómo debe resolver Claude los conflictos internos de valores y qué hacer si se encuentra en una situación crítica; por ejemplo, no desencadenar el Juicio Final por capricho propio.

La primera versión de la constitución vio la luz en mayo de 2023, pero ahora a sus creadores les ha parecido importante explicar a la propia máquina POR QUÉ debe cumplir las reglas, y no solo cuáles son. A juzgar por la magnitud de la iniciativa, en Anthropic se toman muy en serio los escenarios de toma del poder por los robots. Por si acaso, Claude cuenta ahora con un imponente compendio de «por qué no hay que destruir a la humanidad».