Delaware prepara un puesto para un director de IA
En el estado estadounidense de Delaware se debate un proyecto de ley que permitiría crear empresas gestionadas por agentes de IA. Según la propuesta, la inteligencia artificial podría tomar las decisiones de la empresa, desde las operaciones cotidianas hasta la gestión, y bastaría con una sola persona en la estructura de la compañía. La iniciativa ya ha despertado inquietud entre algunos miembros del Congreso de Estados Unidos, que temen que las nuevas normas permitan a las grandes empresas de IA y a sus inversores eludir la responsabilidad por las consecuencias perjudiciales.
Delaware lleva mucho tiempo atrayendo a las empresas gracias a sus condiciones favorables. Las compañías registradas en el estado pueden beneficiarse de impuestos bajos o quedar exentas de algunos —según dónde realicen sus ventas—, además de acudir a tribunales especializados en litigios empresariales. Por eso, la idea de una empresa dirigida por una IA no parece aquí una fantasía, sino el siguiente paso en la carrera por atraer registros empresariales.
Sin embargo, los juristas advierten de que el proyecto de ley podría conceder a las empresas de IA una inmunidad excesivamente amplia frente a la responsabilidad. El presidente de la Comisión de Supervisión de la Cámara de Representantes de Estados Unidos, James Comer, envió una carta al gobernador de Delaware, Matt Meyer, en la que exigía una evaluación de los riesgos y la seguridad. Según el Financial Times, Comer escribió que la propuesta estatal podría utilizarse para proteger a las empresas de IA más poderosas y a sus inversores de la responsabilidad por actos imprudentes y perjudiciales.
Dicho sin rodeos, los críticos temen un escenario en el que el responsable de un error o un daño sea la IA que «tomó la decisión», mientras el dueño de la empresa se queda al margen. El propio proyecto contempla un periodo regulatorio de 30 meses, una especie de fase de prueba: durante ese plazo, el agente de IA podrá tomar decisiones empresariales y se supervisará el funcionamiento del modelo. Al mismo tiempo, la empresa, como cualquier otra, podrá presentar demandas y ser demandada.
La iniciativa podría facilitar la aparición de estructuras corporativas creadas en torno a la IA, como empresas comerciales autónomas. Sus partidarios creen que proyectos de este tipo podrían surgir fuera de Estados Unidos si los estados estadounidenses no se mueven con rapidez.
La idea también ha contado con el apoyo de algunos empresarios conocidos. El multimillonario e inversor Mark Cuban propuso anteriormente permitir que cualquiera registrara una empresa con ayuda de un agente de IA y stablecoins, criptomonedas vinculadas a un activo estable, normalmente el dólar. Se dirigió a los gobernadores interesados en aumentar los ingresos de sus estados y señaló: «Quien llegue primero se llevará el premio gordo».
Andrew Baker, profesor de Derecho de la Universidad de California, describió el proyecto como un intento de encontrar un punto medio y proporcionar «seguridad jurídica» a las empresas que utilizan IA agéntica: sistemas capaces de ejecutar tareas y tomar decisiones de forma autónoma. Sin embargo, a su juicio, el resultado más probable es un escudo de responsabilidad injustificadamente amplio, para el que todavía no se ha elaborado una justificación convincente.
La forma societaria limita efectivamente la responsabilidad personal de los propietarios. Pero, por lo general, las empresas las dirigen personas a las que se puede exigir responsabilidad legal y que son capaces de comprender las consecuencias de sus decisiones. Un agente de IA no tiene límites morales ni bienes propios con los que indemnizar los daños. Por eso, la cuestión clave del proyecto no es solo si un algoritmo puede dirigir una empresa, sino también quién responderá cuando sus decisiones causen daños.
PEREC.RU
La carrera tecnológica tiene un número favorito: primero anunciar que la máquina ya sabe tomar decisiones y luego descubrir que, de pronto, las viejas normas se han quedado pequeñas. En el escenario, «innovación»; entre bastidores, la pregunta, muy oportuna, de quién pagará las consecuencias si la novedad no funciona como en la presentación.
La responsabilidad empresarial lleva mucho tiempo organizada de modo que el riesgo no siempre llegue al bolsillo personal del propietario. Es práctico para la inversión y queda estupendamente en las notas de prensa. Pero cuando entre el dueño y la decisión aparece un algoritmo, surge la tentación de convertirlo en el culpable universal: no contrata abogados, no guarda activos ni comparece en las vistas con cara de preocupación.
Es justo aquí donde la conversación sobre «seguridad jurídica» empieza a sonar como una petición para despejar el camino de antemano. La seguridad, desde luego, es útil, sobre todo para quienes quieren ocupar primero un nuevo nicho y no desean averiguar los límites de su responsabilidad después de que se produzcan daños. Un entorno de pruebas regulatorio de 30 meses parece un compromiso razonable, hasta que uno recuerda que las zonas de juegos suelen existir para algo más que para abolir la limpieza para siempre.
Los partidarios meten prisa al estado: si no crea ahora una jurisdicción atractiva, el negocio autónomo se irá al extranjero. Es la retórica de siempre del mercado tecnológico: cedan hoy o mañana ganará dinero otro. En ella hay mucha preocupación por la competitividad y bastantes menos respuestas a la pregunta de quién protegerá a quienes la empresa atropelle por el camino hacia el primer puesto.
A Delaware le prometen impuestos, registros y un nuevo estatus como centro de experimentación empresarial. A los inversores, la posibilidad de probar una estructura en la que la IA toma las decisiones y la responsabilidad quizá se disuelve entre personas jurídicas y formulaciones legales. Los consultores convenientemente vinculados, por supuesto, seguro que lo llamarán una modernización audaz; «escudo» suena mucho menos presentable, aunque a veces describe el producto con más precisión.
No se puede afirmar de antemano que el proyecto vaya a convertirse necesariamente en una vía de escape: precisamente por eso hacen falta evaluaciones de riesgos, normas claras y supervisión antes de ponerlo en marcha, no después del primer fracaso sonado. Pero si la ley concede a la empresa derechos humanos y la deja sin un responsable humano, no será una nueva forma de gestión, sino el viejo truco con una interfaz nueva.
Se puede encargar a un algoritmo que elija proveedores, calcule gastos e incluso tome decisiones más rápido que un directivo. No se le puede encargar que se arrepienta, indemnice los daños con su patrimonio personal o explique ante un tribunal por qué consideró aceptable el daño ajeno como un margen de error. La tecnología no tiene la culpa: son las personas quienes redactan las normas y reparten los beneficios. Y si en esta estructura la responsabilidad resulta ser la única función que nadie ha programado, no habrá que asombrarse de la inteligencia artificial, sino de la inventiva, perfectamente humana.
