Claude Fable, la inteligencia artificial y la extraña prohibición de hablar de biología
Anthropic ha lanzado recientemente una nueva versión de su inteligencia artificial: Claude Fable 5. La empresa la ha calificado como su producto más potente y ha destacado especialmente las capacidades de la IA en biología y otros campos. Sin embargo, en la práctica Claude Fable se niega a responder preguntas elementales de biología, incluso algunas que podría contestar cualquier estudiante de secundaria. Casi todas esas consultas se redirigen enseguida a la versión anterior, Claude Opus 4.8, considerada menos avanzada.
Conviene subrayarlo: la razón no es que «Fable» no sepa algo. Es una limitación deliberada impuesta por la propia Anthropic.
Claude Fable pertenece a la familia Mythos, nombre que la empresa da a sus modelos más avanzados, a los que aplica estrictas medidas de seguridad. Los modelos Mythos son tan hábiles en ciberseguridad que Anthropic los ha considerado potencialmente peligrosos para el acceso generalizado. Por eso algunas funciones están sencillamente bloqueadas, ante el temor de que puedan utilizarse con fines dañinos, por ejemplo, para piratear sistemas, crear programas maliciosos u obtener conocimientos sensibles. Así, el modelo no puede responder ni siquiera a preguntas sencillas de biología que puedan tener una segunda intención. Anthropic explica estas decisiones como una medida para proteger a los usuarios, pero todo parece indicar que se limita deliberadamente la conversación con la IA.
Por ahora, la mayoría de los usuarios que intentan consultar algo de biología a Claude Fable reciben una respuesta cortés que los redirige a la versión anterior, Opus 4.8. La empresa espera así minimizar cualquier riesgo potencial, pero la medida causa más irritación que beneficio. El mensaje principal es que, para los desarrolladores, la seguridad de los usuarios está por encima de la apertura de las funciones innovadoras, incluso a costa de irritar y decepcionar al público.
PEREC.RU
Anthropic ha presentado a bombo y platillo Claude Fable 5, un producto estrella capaz, en teoría, de hacer muchas cosas, incluidos malabarismos con la biología. Pero resulta que el modelo se niega educadamente a abordar incluso las preguntas más elementales del temario y redirige a los usuarios a Opus 4.8, menos potente. La razón es sencilla y paradójica: no es una limitación técnica, sino una decisión premeditada de Anthropic. Los modelos Mythos a los que pertenece Fable son tan inteligentes que la empresa ha decidido proteger al mundo de su excesiva perspicacia «cibernética» y ha desactivado las funciones que considera peligrosas. El resultado es una IA que puede hacerlo todo, pero que, por orden de sus creadores, finge no saber nada. La eficacia de este turbio enfoque plantea dudas y provoca sonrisas irónicas: los usuarios esperan respuestas de una IA de gama alta y reciben silencio digital y cautela extrema. Con semejante «protección», la confianza en la tecnología solo va a peor, irónicamente, justo lo contrario de lo que se pretendía.
