La IA ya ha llegado al consejo de administración, pero la responsabilidad aún no
Las empresas británicas incorporan la inteligencia artificial cada vez más, pero los sistemas para controlar sus riesgos no siempre avanzan al ritmo de la tecnología. Esa es la conclusión de un nuevo estudio de IBM, basado en una encuesta a más de 3.000 directivos de empresas de la región EMEA: Europa, Oriente Medio y África.
Ocho de cada diez participantes afirmaron que, durante el último año, un incidente relacionado con la IA llegó al consejo de administración o a la alta dirección. Podía tratarse de un fallo de un agente de IA, una filtración de datos, una decisión errónea tomada con ayuda de la IA o una brecha de seguridad. Sin embargo, menos de la mitad de las organizaciones, el 40 %, prevé actualizar sus políticas y mecanismos de gobernanza de la IA tras incidentes de este tipo. Esto apunta a una brecha entre la gravedad con la que las empresas perciben los incidentes y su disposición a cambiar las reglas.
El problema cobra importancia a medida que la IA asume más funciones en los procesos de trabajo. Tres cuartas partes de los encuestados esperan que, para 2027, los agentes de IA tengan cierto grado de autonomía al tomar decisiones. Pero solo el 37 % cree que los sistemas de gobernanza actuales podrán ampliarse al mismo ritmo que la implantación de esos agentes.
La cuestión de los riesgos ya ha llegado a la dirección: el 98 % de los encuestados afirmó que ha asignado formalmente la responsabilidad sobre los riesgos de la IA al consejo de administración. El 26 % de las empresas cuenta con un comité específico del consejo dedicado a la inteligencia artificial. Hay conciencia del problema, pero tener a alguien formalmente encargado no garantiza por sí solo que la empresa pueda detener rápidamente un sistema autónomo o determinar quién responde por sus errores.
La responsabilidad jurídica es precisamente uno de los aspectos que siguen sin estar claros. Las empresas se plantean varias medidas prácticas: el 33 % habla de normas jurídicas o contractuales formales que determinen la responsabilidad del proveedor de IA si falla un agente; el 32 %, de condiciones claras para que una decisión pase a manos de una persona; el 30 %, de supervisión en tiempo real y registros de las acciones del agente; y el 29 %, de la posibilidad de detener de inmediato los sistemas de IA en toda la organización.
«El debate sobre la IA ha pasado de la implantación a la gobernanza y la responsabilidad», señaló Ana Paula Assis, vicepresidenta sénior de IBM y presidenta de las divisiones de la empresa en EMEA y APAC —Europa, Oriente Medio y África, y Asia-Pacífico—.
Según Assis, cuando las empresas pasan de los asistentes de IA a los agentes autónomos, la gobernanza de la IA ya no puede considerarse un mero trámite para cumplir los requisitos. Se convierte en una condición necesaria para el funcionamiento de la empresa y para obtener beneficios de la tecnología. Para ampliar la IA con confianza y responsabilidad, las empresas necesitan límites claros a las facultades de los agentes, una distribución comprensible de responsabilidades en caso de fallo y mecanismos de control que funcionen en tiempo real.
PEREC.RU
Un estudio de IBM muestra que las empresas de la región EMEA amplían rápidamente el uso de la inteligencia artificial, pero la gestión de riesgos y la responsabilidad por las acciones de la IA no siempre avanzan al mismo ritmo. En la encuesta participaron más de 3.000 directivos. EMEA es la región que comprende Europa, Oriente Medio y África.
El 80 % de los encuestados afirmó que, durante el último año, un incidente relacionado con la IA llegó al consejo de administración o a la alta dirección. Entre los posibles incidentes figuran el fallo de un agente de IA, la exposición de datos, una decisión errónea tomada con ayuda de la IA y una brecha de seguridad. Pese a la gravedad de estos casos, solo el 40 % de las empresas declaró que, como respuesta, cambiaría sus políticas o su sistema de gobernanza de la IA. Los autores del estudio ven en ello una posible brecha entre el aumento de los riesgos y la disposición de las organizaciones a modificar sus reglas.
La IA se integra en los procesos de trabajo cotidianos y adquiere más autonomía. Tres cuartas partes de los participantes creen que, para 2027, los agentes de IA tendrán cierto grado de autonomía al tomar decisiones. Un agente de IA es un sistema capaz de realizar tareas y actuar sin recibir instrucciones humanas paso a paso de forma constante. Sin embargo, solo el 37 % de los encuestados cree que el modelo de gobernanza actual de su organización podrá ampliarse a medida que se implanten esos sistemas.
Los riesgos de la IA ya preocupan a la dirección: el 98 % de los encuestados afirmó que ha asignado formalmente al consejo de administración la responsabilidad sobre ellos. El 26 % de las empresas ha creado un comité específico del consejo dedicado a la IA. Sin embargo, asignar responsables de manera formal no resuelve quién responde por las decisiones concretas de un agente autónomo ni cómo intervenir si actúa de forma incorrecta.
Entre las medidas que se plantean las empresas figuran las normas jurídicas o contractuales que determinen la responsabilidad del proveedor si falla un agente de IA (33 %); los límites establecidos a partir de los cuales la decisión pasa a una persona (32 %); la supervisión en tiempo real y el registro de las decisiones y acciones del agente (30 %); y la posibilidad de detener inmediatamente los sistemas de IA en toda la organización (29 %).
Ana Paula Assis, vicepresidenta sénior de IBM y presidenta de las divisiones de la empresa en EMEA y APAC, declaró que el debate sobre la IA ha pasado de la implantación a las cuestiones de gobernanza y rendición de cuentas. APAC significa Asia-Pacífico. Según Assis, la gobernanza de la IA no debe ser un mero trámite para cumplir requisitos formales: es necesaria para la empresa y para obtener valor de la tecnología.
Considera que las empresas capaces de ampliar el uso de la IA con responsabilidad y confianza obtendrán más beneficios de ella. Para ello, las reglas deben integrarse en el funcionamiento de los agentes de IA: hay que fijar los límites de sus facultades, determinar quién responde si algo falla y garantizar mecanismos de control capaces de actuar en tiempo real.
