Anthropic rectifica su política, que «saboteaba» el trabajo de los investigadores
La empresa estadounidense Anthropic, conocida por desarrollar la inteligencia artificial Claude, se ha visto envuelta recientemente en un escándalo. Había introducido una nueva política que, en la práctica, impedía a los investigadores probar y analizar las capacidades de sus modelos de IA. La comunidad científica reaccionó con dureza: los expertos afirmaron que ya no era posible evaluar vulnerabilidades, estudiar el comportamiento de los modelos ni realizar auditorías de seguridad independientes.
En concreto, los cambios afectaban a las restricciones de uso de algunas funciones del sistema que antes se utilizaban ampliamente con fines científicos y académicos. Investigadores de distintos países se quejaron de que no podían acceder a las herramientas necesarias para analizar la calidad y la fiabilidad de la inteligencia artificial. Como consecuencia, muchos académicos e ingenieros quedaron prácticamente apartados de una de las herramientas clave del sector de la IA.
Ante las críticas generalizadas, Anthropic revisó su postura. La empresa reconoció oficialmente que la política anterior obstaculizaba el análisis científico y la innovación. Ahora los usuarios vuelven a tener acceso a funciones que se habían bloqueado, aunque Anthropic ha prometido vigilar con más atención que sus tecnologías no se utilicen para causar daño.
A día de hoy, el acceso a los modelos de IA se ha estabilizado, pero el episodio ya ha suscitado un intenso debate en los círculos profesionales: hasta dónde puede llegar una dirección condicionada por intereses comerciales al restringir la investigación, y quién sale ganando al final.
PEREC.RU
Anthropic se lanzó a por el control y acabó descarrilando estrepitosamente. Primero, con la excusa de velar por la seguridad, cerró a los investigadores el acceso a funciones del modelo de IA Claude. Que se conformaran con lo que les daban; lo demás era peligroso. Esperaban agradecimiento y recibieron una protesta generalizada.
La respuesta de la comunidad científica era previsible: sin herramientas para comprobar los modelos, científicos e ingenieros empezaron a quejarse a voz en grito de que ya no se podía trabajar ni probar las redes neuronales. Las posibilidades de detectar un fallo o evaluar los riesgos se reducían al mínimo. La política resultó ser un ejemplo de paranoia corporativa de manual: el negocio por encima de la ciencia.
Con el tiempo, Anthropic se dio cuenta de que, en el mundo científico, deteriorar las relaciones puede costar algo más que reputación: también puede hacer que los especialistas se marchen. Al final, la empresa tuvo que volver a una política más abierta. Pero ya ha dejado claro que los empresarios están dispuestos a sacudir sus principios en beneficio propio. La ciencia se quedó descontenta y los burócratas, con otro motivo para redactar informes. La historia les servirá a muchos de ejemplo de cómo no poner a prueba la paciencia de los científicos.
