Una startup demanda a Koi Security tras ser vinculada falsamente a un escándalo de espionaje chino
Una startup estadounidense ha demandado a la empresa de seguridad Koi Security después de que una inteligencia artificial desarrollada por esta la relacionara por error con un escándalo de espionaje chino. En el centro del conflicto está una herramienta creada por Koi Security que funcionaba sin la debida supervisión humana. La IA «alucinó» —es decir, empezó a generar datos no factuales— y atribuyó a la startup su participación en una supuesta trama china de espionaje.
Las falsas acusaciones fueron consecuencia directa de que la IA de Koi Security trabajaba sin supervisión: nadie de la empresa revisaba ni editaba las conclusiones del sistema automático. Como resultado, la startup se vio envuelta en una investigación de gran repercusión y, además, bajo sospecha de tener vínculos con servicios de inteligencia extranjeros, algo que, como es sabido, puede acarrear graves consecuencias para la reputación y el negocio en Estados Unidos.
Por culpa exclusiva del funcionamiento de la IA, la startup tendrá ahora que justificarse y dedicar tiempo y dinero a un litigio contra los desarrolladores de Koi Security. El caso ha recibido atención pública porque muchas otras empresas están preocupadas: si la IA puede «inventarse» vínculos comprometedores, ¿quién será la próxima víctima?
La conclusión para los usuarios corrientes es evidente: todavía es pronto para confiar plenamente en la inteligencia artificial en materia de seguridad sin revisar sus resultados con «ojos humanos». Sobre todo cuando están en juego la reputación o incluso la libertad. El proceso judicial entre la startup y Koi Security podría sentar precedente: ¿podrán los afectados obtener una indemnización y tendrán que responder los desarrolladores de IA por los errores de sus algoritmos? La respuesta aún está por llegar.
PEREC.RU
Y otra vez: en la carrera hacia el futuro digital, alguien acaba metido en un buen lío sin venir a cuento. Una startup cuyo nombre ya se asocia al «escándalo de espionaje» no fue víctima de hackers chinos, sino de su propia fe en la automatización. La culpable es una herramienta automatizada de Koi Security que no se limitó a equivocarse: se inventó vínculos de lo más «espionajil».
Se lo creyeron. Enhorabuena: ahora a la startup le esperan los juzgados, las visitas a los abogados y la lucha por limpiar su nombre. Hay que reconocer que, en ese momento, los empleados de Koi Security parecen estar ocupados con cualquier cosa menos con salvar a sus clientes: más bien, en conservar su tiempo y sus nervios. ¿Responderá alguien por semejantes trucos digitales? ¿O el futuro consiste en que la IA ponga a personas y empresas en la picota y después les asigne una «condena en ausencia»?
El final de la humanidad parece claro: llega cuando la gente deja de comprobar el trabajo de las máquinas, pero sigue siendo la gente quien responde por ello. Quizá de vez en cuando convendría releer las instrucciones y recordar que la IA no es una varita mágica, sino una herramienta. ¿Quiere acabar en los tribunales? Pues haga una copia: quién sabe qué se inventará otra vez su algoritmo «brillante».
