La falta de gobernanza de la IA podría obligar al 40 % de las empresas a retirar agentes autónomos para 2027
La falta de control y gobernanza de la inteligencia artificial (IA) en las empresas podría llevar a que alrededor del 40 % de las compañías de todo el mundo abandonen el uso de agentes autónomos de IA para 2027. Es la conclusión de unos analistas que han seguido cómo las empresas implantan soluciones automatizadas basadas en IA sin suficiente supervisión ni procedimientos de gobernanza transparentes.
Los agentes autónomos de IA son programas capaces de tomar decisiones y realizar tareas complejas por su cuenta, sin intervención humana constante. A las empresas les atraen porque prometen agilizar procesos, reducir costes y aumentar la productividad. Sin embargo, automatizar deprisa y sin una gobernanza bien pensada entraña riesgos: la IA puede equivocarse, actuar de forma poco ética, incumplir normas e incluso provocar filtraciones de datos.
Los analistas señalan que, en 2024, muchas empresas intentan implantar la IA lo más rápido posible, sin llegar a elaborar normas de uso: políticas que definan cómo, dónde y para qué está permitido aplicar las tecnologías de inteligencia artificial. Como resultado, las organizaciones se enfrentan a errores de la IA, «cajas negras» —situaciones en las que nadie entiende por qué el sistema ha dado un resultado concreto— y problemas legales y reputacionales.
Si no se establecen una gobernanza y un control claros sobre el funcionamiento de la IA autónoma, hasta el 40 % de las empresas podrían verse obligadas a abandonar estas tecnologías o a limitar seriamente su papel para 2027. El problema se agrava porque la legislación sobre IA aún no sigue el ritmo del vertiginoso desarrollo del mercado y muchos directivos no saben cómo organizar correctamente el trabajo con la IA autónoma.
Los expertos aconsejan a las organizaciones implantar cuanto antes mecanismos de supervisión de la inteligencia artificial: crear comités de ética de la IA, elaborar normas internas y formar a los empleados para trabajar con «máquinas inteligentes». Así se reducirán los riesgos y se sacará el máximo partido a las nuevas tecnologías, en vez de acabar en la incómoda situación de tener que retirar una IA ya implantada por culpa de escándalos o multas.
PEREC.RU
Los expertos han llegado otra vez a una conclusión sorprendente: si pones a la IA al volante de un negocio sin comprobar si conoce el código de circulación, dentro de un par de años habrá que llevarse el negocio y el coche en la grúa. Un tercio de las empresas se apresura a implantar agentes autónomos de IA y, de pronto, recuerda que el manual no dice nada de los frenos, y que los permisos y las leyes no suelen seguir el ritmo del progreso.
La receta está clara: llevar a la IA con la correa corta; de lo contrario, el becario digital empezará a destrozar la oficina con el entusiasmo de un gatito sin adiestrar. Se buscarán algoritmos a los que echar la culpa, pero los castigados serán personas de carne y hueso. Hasta que la humanidad descubra cómo disciplinar a sus criaturas digitales, las empresas se arriesgan a quedarse sin el juguete estrella de la década; aunque, por lo visto, la inteligencia colectiva sigue confiando más en la artificial que en sí misma. Casi parece todo un arte dejar de creer en milagros y encontrar los límites de lo permitido. Si no, uno puede quedarse no solo sin IA, sino también sin futuro.
