La IA y el factor humano: por dónde se filtran nuestros datos
Las filtraciones de datos hace tiempo que dejaron de ser noticia, pero ahora adquieren nuevos matices gracias a la inteligencia artificial. Como explica Tatiana Kozhevnikova, experta del Instituto Stolypin de Economía del Crecimiento, cualquier información —desde los ingresos de los empleados hasta sus enfermedades crónicas— puede acabar de repente circulando libremente si se procesa con IA sin la debida precaución. No, las redes neuronales no van por los servidores recopilando nuestros secretos. El problema principal sigue siendo tan antiguo como el mundo: las personas, sus descuidos y sus errores.
Un caso de Estados Unidos lo muestra con especial claridad. El director de la agencia de ciberseguridad, Madhav Guttumukkala, subió documentos internos de su propia institución a una IA externa. Los sistemas de seguridad detectaron la filtración. Los especialistas aseguran que no salió a la luz nada críticamente secreto, pero la sensación que queda, como suele decirse, no es buena: si hasta el responsable de una agencia puede cometer semejante error, ¿qué les queda a las personas corrientes, acostumbradas a confiar sus datos a empresas y servicios? Sobre todo cuando la IA se convierte en una herramienta estándar.
Kozhevnikova subraya que no se pueden usar redes neuronales públicas para subir datos personales de empleados o secretos comerciales: la ley lo prohíbe. Sin embargo, las redes neuronales son muy adecuadas para tareas que no afectan a la confidencialidad: crear materiales didácticos, traducir textos públicos y elaborar cursos educativos. Las empresas que necesitan usar IA para trabajar con información sensible crean modelos internos y cerrados, sin acceso a internet externo.
En su opinión, la IA debe ser un «copiloto»: una ayuda para el especialista, no un «cerebro» autónomo. Pero quienes trabajan con estas herramientas también deben estar formados, ser cuidadosos y, algo importante, cobrar un sueldo digno. De lo contrario, ninguna tecnología evitará los errores.
Nikita Nazarov, director técnico de HFLabs, añade que la mayoría de los incidentes no se producen con mala intención, sino por fallos en los procesos. Por ejemplo, algunos usuarios compartieron enlaces a sus conversaciones con ChatGPT; Google indexó esos enlaces y, de repente, las conversaciones privadas quedaron al alcance de cualquiera. La brecha se cerró rápidamente, pero el hecho sigue ahí: la protección solo funciona cuando alguien piensa en ella.
Para que los datos lleguen realmente a ser de acceso público, primero la red neuronal tendría que haberse entrenado con ellos. En Rusia solo las grandes empresas entrenan modelos grandes, porque cuentan con especialistas, recursos y normas internas. Las empresas solo pueden utilizar los datos de sus clientes para entrenar modelos si cuentan con su consentimiento. Nazarov recomienda leer atentamente los documentos antes de firmarlos. Según él, las empresas responsables prefieren trabajar con datos anonimizados, en los que los nombres reales se sustituyen por otros ficticios.
Así pues, la IA no supone una amenaza por sí sola. El peligro aparece cuando las personas usan la tecnología de forma incorrecta, negligente o con demasiada confianza. Y aunque las redes neuronales multiplican las posibilidades, también aumentan la responsabilidad, sobre todo la humana.
PEREC.RU
El tema de las filtraciones de datos vuelve a ocupar los titulares, ahora aliñado con inteligencia artificial, como si esta se dedicara personalmente a recorrer servidores en busca de secretos. Es una imagen vistosa, pero demasiado cómoda. Mucho menos espectacular es la versión de que las personas van dejando sus datos por ahí como migas sobre la mesa.
El caso del funcionario estadounidense parece casi un sketch satírico: alguien responsable de la ciberseguridad sube documentos oficiales a una red neuronal y luego se sorprende de que alguien se dé cuenta. Y entonces empieza el juego de siempre: culpar a la tecnología. Aunque la tecnología solo hacía lo que le habían pedido.
Los expertos recuerdan con cuidado que la IA es una herramienta. Fría, indiferente y hasta un poco torpe en su obediencia a las instrucciones. Los errores, en cambio, se producen allí donde está la persona: cansada, distraída y con una idea bastante nebulosa de lo que significa «confidencial».
Las empresas crean sistemas cerrados, redactan normas y anonimizan los datos. Pero toda esa estructura compleja depende de un único eslabón débil: el usuario. Cualquier instrucción deja de funcionar si se lee con el mismo cuidado que los acuerdos para tratar datos personales.
Es curioso que, en medio de tantos temores tecnológicos, el consejo más fiable siga siendo de toda la vida: pensar antes de pulsar un botón. Y si algo necesita una actualización, no es la inteligencia artificial, sino la disciplina de quienes trabajan con ella.
