La IA ya está aquí: Snowflake explica por qué la seguridad no frena el negocio, sino que abre la puerta a los agentes autónomos
En la conferencia Snowflake World Tour de Londres, el protagonista fue el «negocio agéntico»: las empresas recurren cada vez más a herramientas de IA capaces no solo de responder a consultas, sino también de ejecutar secuencias de acciones. Sin embargo, junto a las promesas de crecimiento aparecen regularmente noticias preocupantes sobre fallos, filtraciones y comportamientos impredecibles de la inteligencia artificial. La pregunta clave ahora es cómo mantener la confianza de los clientes y proteger los datos cuando parte de los flujos de trabajo se delega en agentes de software autónomos.
Así lo explicó Mayank Uphadyay, Chief Security & Trust Officer de Snowflake. Según él, la etapa actual del desarrollo de la IA está ligada en gran medida a la búsqueda de reglas para gestionar estos sistemas. El reto tiene dos vertientes. Primero, hay que impedir que la IA de terceros se infiltre en la infraestructura interna de la empresa. Segundo, es necesario controlar los sistemas propios de IA para que no saquen datos de las zonas autorizadas, no recurran por accidente a servicios inadecuados y no traspasen los límites establecidos.
«Cuando la gente nos confía sus datos, debemos hacer que la plataforma esté completamente protegida frente a los ataques relacionados con agentes de IA», señaló Uphadyay.
Comparó la arquitectura de un negocio agéntico con el cuerpo humano. El modelo de IA elegido hace de cerebro, el agente es el cuerpo y los datos constituyen los cimientos de todo el sistema. Si esos cimientos no son fiables, las vistosas demostraciones pronto se convierten en una improvisación costosa.
Los clientes de Snowflake se encuentran en distintas etapas de adopción de la IA. Uphadyay considera que la seguridad ha dejado de ser un obstáculo y se ha convertido en una condición para avanzar. Citó al expiloto de carreras Mario Andretti: los frenos no sirven solo para reducir la velocidad, sino también para tomar las curvas con confianza. Sin ellos, el conductor seguiría avanzando despacio, sencillamente por miedo.
Según el representante de Snowflake, la misma lógica se aplica a las empresas: las medidas de protección les permiten adoptar la IA con más decisión. La compañía ayuda a sus clientes a configurar las restricciones y los controles necesarios y después les explica cómo funcionan.
Una de estas herramientas es Trust Center. Conecta los tres niveles del sistema mencionados por Uphadyay, ayuda a proteger la infraestructura y ofrece a la empresa una visión general de lo que ocurre: qué procesos están en marcha, dónde hay vulnerabilidades y qué mejoras hacen falta.
La trayectoria de Snowflake también contribuye a generar confianza: la empresa lleva más de 12 años en el mercado. Pero eso por sí solo no basta; en torno a la IA aparecen constantemente nuevas medidas de protección y reglas de acceso.
Otro problema específico son los permisos de los empleados. A lo largo de los años, una persona puede acumular acceso a numerosos sistemas y servicios que ya no necesita. Si un agente de IA actúa en su nombre, esos permisos antiguos y excesivos pueden convertirse en una vía de acceso a problemas. Por eso, a los agentes se les debe conceder únicamente el conjunto de permisos que realmente necesiten para cada tarea.
En el evento, Snowflake también presentó las plataformas Coco y CoWork. Pueden combinar el trabajo humano con la automatización: las operaciones repetitivas se delegan en la IA y el empleado supervisa las etapas más complejas.
Uphadyay subraya que el funcionamiento de la IA ya no siempre es determinista: el sistema puede elegir distintas maneras de alcanzar un resultado. Por eso, la automatización debe implantarse de forma gradual. En la base de una pirámide hipotética hay numerosas tareas rutinarias. Más arriba están las tareas menos estandarizadas y, en la cima, las decisiones críticas en las que por ahora sigue siendo necesaria la intervención humana.
Cuanto más comprueba una empresa sus procesos automatizados y confirma que son fiables, más alto puede subir por esa pirámide. Los agentes de IA ya no parecen un experimento lejano: se están convirtiendo en una herramienta de trabajo para las empresas. Pero la confianza habrá que ganársela paso a paso, con límites, transparencia y control.
PEREC.RU
En la conferencia Snowflake World Tour de Londres, la compañía presentó el desarrollo del «negocio agéntico», un modelo en el que agentes de IA ejecutan por sí mismos secuencias de operaciones de trabajo. Esta automatización promete transformar el funcionamiento de las empresas, pero también plantea nuevos riesgos para la seguridad, la confidencialidad y el control del acceso a los datos.
Mayank Uphadyay, Chief Security & Trust Officer de Snowflake, explicó que las empresas deben abordar dos tareas a la vez. La primera es proteger la infraestructura interna frente a agentes de IA externos y los ataques asociados. La segunda es controlar sus propios sistemas para que no saquen datos de las zonas autorizadas, no recurran a servicios inadecuados ni incumplan las restricciones establecidas.
Uphadyay describió la arquitectura de un sistema agéntico mediante una analogía con el ser humano: el modelo de IA es el «cerebro», el agente es el «cuerpo» y los datos son los cimientos. La fiabilidad de esos cimientos determina hasta qué punto una empresa puede utilizar herramientas autónomas de forma segura.
A juicio del representante de Snowflake, la seguridad ha dejado de ser un obstáculo para adoptar la IA y se ha convertido en un requisito. Comparó las medidas de protección con los frenos de un coche: sirven para detenerse, pero también para tomar curvas complicadas con más confianza. Para gestionar estos controles, Snowflake ofrece Trust Center, una herramienta que conecta los niveles de protección, permite ver qué sucede en el sistema y ayuda a detectar las mejoras necesarias.
La empresa lleva más de 12 años en el mercado, pero la reputación por sí sola no basta. Una línea de trabajo importante es configurar las reglas de acceso de los agentes de IA. Con el tiempo, los empleados acumulan permisos en distintos sistemas y servicios aunque ya no los utilicen. Cuando un agente actúa en nombre de uno de ellos, puede heredar derechos excesivos y acceder a datos innecesarios. Por eso, a los agentes solo se les deberían conceder los permisos mínimos que requiera cada tarea.
En Snowflake World Tour se presentaron las plataformas Coco y CoWork. Están pensadas para combinar la automatización con la participación humana: la IA se ocupa de las operaciones repetitivas y las personas supervisan las etapas más complejas e importantes.
Uphadyay señaló que el comportamiento de los sistemas actuales de IA no siempre es determinista: pueden elegir distintas maneras de llegar a un resultado. Por eso, la adopción debe ser gradual. En la base de una pirámide hipotética están las operaciones rutinarias sencillas; más arriba, las tareas menos estandarizadas, y en la cima, las decisiones críticas para las que sigue siendo imprescindible la participación humana.
Cuanto más comprueba una empresa sus procesos automatizados y confirma su fiabilidad, más tareas complejas puede delegar en la IA. La conclusión principal de Snowflake es que los agentes de IA ya son una realidad, pero su utilidad depende directamente de la confianza, la transparencia, una configuración correcta de los permisos y la supervisión humana continua.
