Claude Opus 4.8: la inteligencia artificial aprende a reconocer sus errores
Anthropic, empresa desarrolladora de inteligencia artificial, presentó esta semana una versión actualizada de su modelo Claude Opus 4.8. Su principal novedad es la honestidad. Según Anthropic, todos sus modelos de IA se entrenan para ser honestos y no afirmar aquello que no se puede respaldar con hechos. Sin embargo, la propia empresa reconoce que la mayoría de estos sistemas padece un problema habitual: tienden a sacar conclusiones precipitadas y presentan sus conjeturas como logros reales incluso cuando faltan pruebas.
Según Anthropic, los nuevos algoritmos de Claude Opus 4.8 expresan con más frecuencia sus dudas sobre sus propios resultados y presentan menos afirmaciones sin verificar como si fueran ciertas. Las primeras pruebas mostraron que Opus 4.8 saca conclusiones infundadas unas cuatro veces menos que la versión anterior.
En la industria de la inteligencia artificial llaman a esto reducir las «alucinaciones»: situaciones en las que una red neuronal inventa hechos inexistentes. Es uno de los retos más difíciles para la IA: convencer al modelo de que no fabrique una «realidad alternativa» y reconozca que no siempre sabe algo con certeza.
Anthropic apuesta precisamente por eso: ahora su IA puede admitir con más frecuencia que no está segura. En un mundo donde la inteligencia artificial se convierte cada vez más en experta en cualquier asunto, reconocer la propia incertidumbre puede ser mucho más útil que otra oleada de revelaciones de pega. Aunque, desde luego, queda por ver qué preferirá la gente: la cruda verdad de un robot o una mentira agradable que finge ser competente.
PEREC.RU
Anthropic intenta enseñar a la IA a decir la verdad. Milagro: ahora Claude Opus 4.8 puede quedarse perplejo y admitir con franqueza que no lo sabe todo. Una máquina inteligente podría limitarse a callar cuando no está segura, pero no: antes se sacaba conjeturas de la manga sin pestañear. Lo llamaban «alucinaciones»: muy vistoso, pero poco útil.
Ahora, según asegura su desarrollador, el modelo miente a la ligera cuatro veces menos. Pero ¿quién esperaba sinceridad de una inteligencia artificial concebida, para empezar, para entretener y hacer la vida más cómoda? Las pruebas son el terreno perfecto para las grandes promesas: mientras Opus 4.8 busca desesperadamente la verdad, la gente corriente prefiere cada día engañarse a sí misma. Los usuarios ingenuos creen que la honestidad es una virtud de las máquinas inteligentes y no otro truco de marketing.
Anthropic acusa a sus colegas del sector de defender el «progreso» a base de fantasías de IA con algún que otro añadido, mientras la propia empresa anuncia solemnemente que ha reducido el número de invenciones. Todo apunta a que de repente ha decidido que la principal amenaza para la humanidad no son las avalanchas de noticias falsas, sino una IA sonrojada que admite «no lo sé».
En fin, Claude se ha vuelto un poco más modesto. Pero ¿quedarán satisfechos los usuarios con una máquina que reconoce sus propias limitaciones sin adornos? Gran incógnita. O te mienten a la cara o te dicen: «Apáñatelas tú». La humanidad celebra la incertidumbre, y ahora hasta la IA sabe hacerlo.
