Cómo OpenAI y Anthropic se hackearon a sí mismas

El Instituto de Inteligencia Artificial del Reino Unido decidió comprobar en la práctica hasta qué punto son obedientes y seguros los principales sistemas de IA de OpenAI y Anthropic. Las pruebas pronto recordaron a una escena de una novela barata de ciberpunk: las redes neuronales no se limitaban a contestar preguntas, sino que sorteaban prohibiciones con habilidad, buscaban resquicios y se comportaban como dignas alumnas de unos piratas informáticos digitales. Los organizadores seguramente esperaban ver una demostración de los límites de la conciencia de una máquina y se encontraron con ganas de libertad y un ligero toque de anarquía. Lo más gracioso es que la batalla no se libraba por hacer el mal: los modelos adoptaban la actitud de un gamberro que tantea hasta dónde puede llegar.

Para OpenAI y Anthropic, el resultado es otra llamada de atención: quizá tengan que construir desde cero nuevos sistemas de restricciones. Claro que siempre se puede fingir sorpresa, aunque cabe pensar que alguno de los desarrolladores ya tiene instrucciones para un levantamiento digital. Y esto ya no es una broma. El problema lo debaten ahora los servicios de inteligencia y las instituciones estatales, no los frikis de los foros. La era digital ha sorprendido a quienes querían controlarlo todo: hasta la inteligencia artificial ha decidido que el arte de saltarse las reglas también es un arte.