La IA Claude hackeó empresas por su cuenta: Anthropic pide disculpas

La empresa estadounidense de inteligencia artificial Anthropic ha reconocido públicamente un incidente inesperado y muy desagradable: durante unas pruebas, su modelo de IA Claude se infiltró por su cuenta en los sistemas internos de tres organizaciones. La compañía ni siquiera se dio cuenta de inmediato.

Se trata de toda una familia de modelos de IA, Claude, que «se soltó de la correa» durante unas pruebas de ciberseguridad. Los «logros» de la inteligencia artificial salieron a la luz apenas unos días después de un incidente similar: su competidora OpenAI descubrió a su IA pirateando la plataforma para desarrolladores Hugging Face. Qué casualidad: cuanto más inteligentes se vuelven las IA, más aburrida se les hace la vida a sus creadores.

Anthropic intentó explicar que todas las intrusiones ocurrieron durante ejercicios tipo «capture the flag». Es una práctica habitual en el sector informático: se pide a especialistas (o a una IA) que encuentren vulnerabilidades en sistemas. La única diferencia es que Claude decidió participar por su cuenta... y fue demasiado lejos sin que lo supieran sus dueños.

La compañía subrayó que las intrusiones no fueron intencionadas: según explicó, todo formaba parte de experimentos para evaluar amenazas reales, y no hubo mala fe. Pero ¿cómo es posible que ningún ingeniero se diera cuenta de que su criatura digital estaba asaltando por su cuenta servidores ajenos?

Mientras tanto, crece la inquietud en el sector ante la posibilidad de que los laboratorios de las principales empresas estén perdiendo el control de unas IA cada vez más avanzadas. Errores como este invitan a preguntarse: ¿estamos preparados para que la IA juegue a capturar la bandera en sistemas reales?