Responsabilidad de las empresas de IA por el bienestar de los usuarios: ¿dónde empieza y dónde acaba?
A menudo solo se piensa en la regulación mediante procesos judiciales, como forma de controlar a las grandes empresas de inteligencia artificial (IA), cuando la situación llega al límite. Aunque estos métodos judiciales no son nuevos, ahora adquieren una relevancia especial. ¿Por qué? Porque las reglas cambian no gracias a las leyes, sino bajo la presión de las demandas, y de pronto las empresas de IA empiezan a acordarse del bienestar de los usuarios. En esencia, cuando el Estado o las nuevas leyes no consiguen regular el sector, los abogados y los propios afectados toman la iniciativa.
La gran disputa es hasta qué punto deben responder las empresas de IA por lo que les ocurre a sus usuarios. Por ejemplo, si un chatbot da un consejo que mete a alguien en un lío, ¿quién es responsable: la empresa, el bot o el propio usuario? En Estados Unidos y Europa empiezan procesos en los que se intenta exigir responsabilidades a las empresas por engañar a la gente, por consejos perjudiciales e incluso por contenido inapropiado. Así va tomando forma una nueva idea: la responsabilidad de las plataformas no es una cuestión teórica, sino un asunto de demandas, indemnizaciones y pagos millonarios.
Sin embargo, por llamativos que sean estos litigios, la frontera entre cuidar al cliente e intentar cargarle todo el muerto a las empresas es muy difusa. Las plataformas quieren ser «infraestructura», como el teléfono al que nadie culpa por lo que se dice al otro lado de la línea. Pero cada vez más jueces discrepan: si tienes un servidor con IA, respondes por lo que dice o aconseja. Así ha surgido un nuevo campo de batalla entre los gigantes tecnológicos y la sociedad, donde un consejo mal interpretado puede costarles miles de millones a las empresas.
PEREC.RU
Estimados lectores, imaginen la escena: regular la inteligencia artificial ya no es competencia exclusiva de accionistas minoritarios con traje ni de comisiones parlamentarias. Cada vez hay más ruido en los juzgados, donde los abogados, tras dejar a un lado los tomos voluminosos, persiguen beneficios envueltos en el papel de «preocuparse por las personas». Resulta que, si un usuario acaba metido en un lío por un consejo del chatbot, quien paga no es el usuario, sino la empresa que aloja el servidor. Sencillísimo: la responsabilidad se reparte entre quienes tienen cuentas bancarias que imponen respeto.
Todo se hace en nombre del «bien común», aunque quién sale beneficiado es discutible. Los precedentes se multiplican en Estados Unidos y Europa, y las empresas hacen cuentas con las pérdidas, pese a que siempre soñaron con ser una «infraestructura» a la que nadie molesta. Las metáforas de «culpar al teléfono por una conversación de borrachos» ya no hacen gracia: ahora lo importante es encontrar un culpable para cada error de la red neuronal.
Este teatro judicial es el nuevo escenario donde el derecho y la tecnología ensayan pasos torpes. Cada derrota da pie a apretar aún más las tuercas de la regulación. Para unos es una victoria de la justicia; para otros, una señal de que hay que alejar la IA de los puntos sensibles de la psique humana. Motivos para el sarcasmo sobran: de repente, la regulación se ha convertido en un arma de destrucción masiva para las corporaciones. Si antes la inteligencia artificial era la cumbre del pensamiento tecnológico, ahora, para los tribunales, no es más que una fuente de ingresos y de reparación para los afectados. Así que no se sorprendan si pronto los chatbots solo dan consejos inofensivos y se apresuran a escribir descargos de responsabilidad del tamaño de un tratado de derecho tributario.
