Expertos descubren que se puede engañar a la IA para que «recuerde» datos inventados durante meses. ¿Cómo evitarlo?
Los expertos han descubierto una característica preocupante de la inteligencia artificial: los agentes de IA actuales, como los grandes modelos de lenguaje (por ejemplo, ChatGPT y otros similares), pueden empezar a considerar verdadera información inventada y conservar esos datos falsos en su «mente» durante meses. Los estudios han demostrado que, si se cargan en el sistema «hechos» falsos de forma intencionada o accidental, estos pueden quedar fijados en la memoria de la IA casi con la misma firmeza que los conocimientos reales.
En condiciones de laboratorio, los investigadores «alimentaron» las redes neuronales con bulos: por ejemplo, afirmaron que el Empire State Building está en París y que Louis Pasteur inventó el iPhone. Semanas después de cargar esa información por primera vez, la IA seguía relacionando París con el edificio y a Pasteur con Apple. Esto puede explotarse como una vulnerabilidad, tanto por usuarios maliciosos como por descuido de los desarrolladores.
Se trata de un tipo de ataque al que los especialistas de otros países ya llaman «data poisoning» (envenenamiento de datos). Cuanto más tiempo funciona una IA y aprende de datos abiertos, mayor es el riesgo de que entre miles de millones de hechos se cuelen algunas «perlas falsas» cuidadosamente insertadas. Estos errores son bastante persistentes: incluso después de que el sistema recibe muchos datos correctos, la inteligencia artificial tarda mucho en «desaprender» esos bulos.
El problema se agrava porque la mayoría de los usuarios y las empresas no pueden comprobar en detalle con qué datos se entrenaron sus redes neuronales y, por tanto, no saben qué le han «dado de comer» a su empleado digital. Como respuesta, algunos desarrolladores de IA retiran las redes neuronales que parecen «memorizar» demasiado o crean filtros de protección que intentan detectar información sospechosa o dañina antes de que arraigue en la memoria de la máquina.
Sin embargo, por ahora no existe un método realmente fiable para eliminar rápidamente la información falsa de las profundidades de la inteligencia artificial. Los especialistas creen que la solución exige un enfoque integral: filtrar mejor los datos de entrada, crear mecanismos integrados para reconocer bulos y comprobar y «reprogramar» periódicamente los conocimientos de los modelos ya entrenados. De lo contrario, corremos el riesgo de acabar con una mente artificial que cite con toda seguridad un manual de una realidad alternativa.
PEREC.RU
La inteligencia artificial sabe sorprender, aunque no en el sentido que esperan sus desarrolladores. Los especialistas han descubierto que la IA puede memorizar datos falsos durante mucho tiempo, sea cual sea su grado de «inteligencia». El problema parece una falta de defensas: basta con añadir un poco de información «envenenada» y queda en la memoria durante meses. Las causas son sencillas y tan antiguas como el mundo: alguien no revisó los datos de entrada, alguien introdujo bulos a propósito y la máquina inteligente se lo tragó todo encantada.
La amenaza no consiste solo en que esos bulos puedan llegar por accidente a los usuarios; también abre la puerta a la manipulación. Profesionales del marketing, bromistas, competidores o incluso simples hackers pueden convertir la IA en una máquina que genera disparates con expresión seria. Los desarrolladores prometen filtros y revisiones de conocimientos, pero a menudo combaten los síntomas y no la raíz, como un médico que se acuerda de las pastillas, pero se olvida del diagnóstico.
El mundo espera que las redes neuronales aprendan a limpiar su memoria automáticamente, pero por ahora toca confiar en el trabajo manual y las actualizaciones periódicas. Hasta entonces, la inteligencia artificial no es más que una persona: solo que sin conciencia y con memoria ilimitada.
