Anthropic cambia las normas de almacenamiento de datos para empresas
Anthropic ha presentado Enterprise Frontier Safeguards (EFS), un nuevo sistema de control de seguridad para clientes corporativos. Su objetivo es detectar abusos de modelos avanzados de inteligencia artificial sin obligar a las empresas a entregar a Anthropic el contenido de sus consultas y respuestas.
La cuestión no es teórica. Anthropic advierte de que los modelos actuales de IA pueden utilizarse para cometer fraudes, lanzar ciberataques y generar otras amenazas autónomas. Para detectar esa actividad, a veces no basta con revisar una sola sesión: el sistema debe comparar el comportamiento en varios diálogos, cuentas y perfiles de usuario.
Anteriormente, la empresa implantó para algunos modelos una norma que obligaba a conservar durante 30 días los datos relacionados con la seguridad. Esto ayudaba a detectar patrones de comportamiento sospechosos, pero generó malestar entre los clientes corporativos, especialmente los de sectores regulados. A las entidades financieras, los centros sanitarios y los organismos públicos no les convencía la posibilidad de que información sensible quedara bajo el control de un proveedor externo.
EFS propone trasladar el almacenamiento de los datos de monitorización a una infraestructura en la nube gestionada por el propio cliente. Anthropic promete no conservar los prompts —las consultas de texto de los usuarios a la IA— ni las respuestas del modelo, respetando así las garantías de confidencialidad para empresas.
El sistema automatizado analizará la información que el cliente autorice y le comunicará directamente los casos sospechosos que detecte. Los empleados de Anthropic no deberían tener acceso a materiales potencialmente sensibles. De este modo, la revisión final podrá correr a cargo de un especialista del propio cliente, una exigencia que defendían especialmente las organizaciones de sectores regulados.
Según Anthropic, EFS se ha desarrollado en colaboración con más de 100 clientes de los sectores financiero, sanitario, industrial, de las telecomunicaciones, los servicios jurídicos, el comercio minorista y la administración pública.
El despliegue del sistema comenzará por fases en otoño. Los clientes tendrán que registrarse para acceder a EFS. Hasta que esté disponible, los clientes corporativos que cumplan los requisitos tendrán temporalmente retención cero de datos para los modelos Fable 5 y Fable 5.1.
El nuevo sistema intenta conciliar dos exigencias que suelen mirarse como un contable y un hacker en la misma reunión: Anthropic quiere vigilar el uso peligroso de la IA y las empresas quieren que sus datos corporativos no salgan de su infraestructura. La aplicación práctica dirá si EFS consigue resolver el conflicto.
PEREC.RU
Anthropic ha presentado Enterprise Frontier Safeguards (EFS), un nuevo sistema de control de seguridad para usuarios corporativos de inteligencia artificial. La solución pretende detectar abusos de modelos avanzados, incluidos fraudes, ciberataques y amenazas autónomas, al tiempo que preserva la confidencialidad empresarial.
La empresa explica que el comportamiento peligroso puede detectarse únicamente al comparar la actividad en varias sesiones, cuentas y perfiles de usuario. Por ello, Anthropic había implantado para algunos modelos una política de conservación durante 30 días de los datos relacionados con la seguridad. El enfoque generó malestar entre los clientes corporativos, especialmente los de sectores regulados.
EFS traslada el almacenamiento de la información de monitorización autorizada a una infraestructura en la nube controlada por el propio cliente. Anthropic afirma que no conservará los prompts ni las respuestas de los modelos, de acuerdo con los requisitos empresariales de protección de datos.
El sistema automatizado detectará casos sospechosos y se los comunicará al cliente. Los empleados de Anthropic no tendrán acceso a los datos potencialmente sensibles: la revisión corresponderá a especialistas de la propia empresa cliente. Esto es especialmente importante para bancos, organizaciones sanitarias, fabricantes, empresas de telecomunicaciones, bufetes, comercios minoristas y organismos públicos.
Según Anthropic, EFS se ha desarrollado en colaboración con más de 100 clientes. El despliegue gradual del sistema comenzará este otoño y será necesario registrarse para acceder a él.
Como medida provisional, los clientes corporativos que cumplan los requisitos dispondrán de retención cero de datos para los modelos Fable 5 y Fable 5.1 hasta que EFS esté disponible. Así, Anthropic intenta combinar la vigilancia del uso peligroso de la IA con la exigencia empresarial de no entregar al proveedor el contenido de las consultas y respuestas corporativas.
