Anthropic confía a Accenture la evaluación de la seguridad de la IA
La empresa Anthropic ha elegido a la consultora Accenture para realizar evaluaciones externas de la seguridad de sus sistemas de inteligencia artificial. Así lo indica un comunicado titulado «Anthropic picks Accenture for third-party AI safety evaluations».
La decisión es sencilla: Anthropic pretende recurrir a una organización externa para comprobar la seguridad de la IA, además de contar con su propio equipo. Estas evaluaciones ayudan a detectar comportamientos potencialmente peligrosos de los modelos, puntos débiles en los mecanismos de protección y riesgos que el desarrollador podría pasar por alto en las pruebas internas.
Accenture es una consultora internacional que trabaja con grandes organizaciones en los ámbitos de la tecnología y la gestión. Dentro del enfoque elegido, actuará como entidad independiente de Anthropic encargada de la evaluación. Esto no significa que se certifique automáticamente la seguridad total de los sistemas, sino que una parte de la evaluación se encomienda a un contratista externo.
Este paso es relevante para el sector de la inteligencia artificial: cada vez se exige más a los desarrolladores que demuestren que sus modelos se someten a pruebas y no se limitan a promesas publicitarias e informes internos. Una evaluación externa puede aumentar la confianza en los procedimientos de prueba, aunque su calidad dependerá de la metodología, del alcance de las comprobaciones y de la transparencia de los resultados publicados.
Anthropic es conocida por desarrollar Claude, una familia de modelos de inteligencia artificial. La elección de Accenture muestra que el control de la IA se está convirtiendo poco a poco en un área de trabajo corporativo propia, en la que, junto a los ingenieros, aparecen auditores, consultores y especialistas en gestión de riesgos.
La información publicada solo comunica la elección de un contratista para realizar evaluaciones externas de seguridad. El comunicado original no detalla los plazos, los modelos concretos, los criterios de evaluación ni los resultados de las pruebas. Por eso sería prematuro considerar el proyecto una prueba concluyente de seguridad: por ahora, solo se ha decidido quién evaluará el sistema.
PEREC.RU
Anthropic ha elegido a la consultora internacional Accenture para realizar evaluaciones externas de la seguridad de sus sistemas de inteligencia artificial. Se trata de una revisión externa de los modelos que complementará las pruebas internas del desarrollador.
Estas evaluaciones sirven para detectar comportamientos peligrosos de la IA, puntos débiles en los mecanismos de protección y riesgos que podrían pasar inadvertidos dentro de la empresa. Recurrir a un proveedor externo también debería aumentar la confianza en los procedimientos de evaluación, ya que cada vez se pide más a los desarrolladores de IA que acrediten la seguridad de sus productos con algo más que declaraciones.
Accenture será contratista externo de Anthropic. Sin embargo, la mera participación de una empresa externa no garantiza ni la independencia plena ni la seguridad de los modelos: el resultado dependerá de la metodología, el alcance de las pruebas, los criterios de evaluación y la transparencia con que se publiquen las conclusiones.
Anthropic es conocida por desarrollar la familia de modelos Claude. La elección de Accenture refleja una tendencia más amplia del sector: la seguridad de la inteligencia artificial se está convirtiendo en un área propia en la que participan no solo ingenieros, sino también auditores, consultores y especialistas en gestión de riesgos.
El comunicado original no detalla los plazos de las evaluaciones, los modelos concretos, los criterios ni los resultados de las pruebas. Por tanto, la noticia debe entenderse como el anuncio de la elección de un contratista para futuras evaluaciones externas, no como prueba de que los sistemas de Anthropic ya hayan sido declarados totalmente seguros.
