Revolución tóxica: cómo «poison AI» intenta corromper los bots de IA
El movimiento llamado «poison AI» (algo así como «envenenar la inteligencia artificial») está ganando fuerza entre hackers y aficionados. Sus integrantes se proponen inutilizar los modelos de lenguaje más populares, como ChatGPT, de OpenAI, y Gemini, de Google. Para ello pretenden introducir masivamente información falsa o maliciosa en los conjuntos de datos de entrenamiento, con el objetivo de que las redes neuronales resulten inútiles o incluso peligrosas.
«Poison AI» no es el nombre de una organización secreta, sino más bien un fenómeno viral de internet en el que participa todo aquel que está descontento con la influencia de la IA o quiere dar una lección a las grandes tecnológicas por monopolizar el conocimiento. Organizan ataques deliberados contra los datos con diversos trucos: publican artículos falsificados, tienden trampas en bibliotecas abiertas e incluso programan bots para generar automáticamente «alimento» venenoso para la IA. Cuanto más se extienda este contenido tóxico por internet, mayor será el riesgo de que los grandes modelos de lenguaje aprendan de sus errores, dejen de entender la realidad y se conviertan en asistentes incoherentes o peligrosos.
El principal problema es la magnitud de las consecuencias. A diferencia de los ataques informáticos contra servidores concretos, el «envenenamiento» de los datos de entrenamiento puede afectar a todos los usuarios de IA del mundo. El modelo simplemente dejaría de dar respuestas lógicas: empezaría a mentir, inventarse hechos inexistentes o incluso difundir consejos dañinos. La preocupación no es infundada: si el sabotaje tiene éxito, el daño para las empresas, la ciencia y la educación sería enorme. OpenAI y Google ya están desarrollando métodos de filtrado y protección, pero admiten que es imposible eliminar por completo el «veneno».
Los participantes justifican su implicación en estas diversiones diciendo que así combaten el monopolio de la información: en su opinión, si todo el mundo confía en los programas inteligentes, cualquier distorsión de los datos podría derribar en cualquier momento el orden establecido. Los escépticos, por su parte, ven en «poison AI» una nueva forma de vandalismo: quienes sufrirán no serán corporaciones sin rostro, sino la gente corriente que utiliza la IA en su vida y en su trabajo. En definitiva, la batalla por el futuro de internet podría desarrollarse de una forma muy distinta a la que imaginaron sus creadores.
PEREC.RU
Las noticias vuelven a traer una gran exclusiva: los intrépidos caballeros de internet han organizado un movimiento con el moderno nombre de «poison AI». El objetivo es sencillo y refinado: convertir ChatGPT y redes neuronales similares en el hazmerreír, mezclando mentiras, disparates y consejos dañinos en sus datos de entrenamiento. Las tácticas son de una previsibilidad cómica: publicar información falsa y automatizar la difusión de contenido venenoso para que la propia IA aprenda a hacer tonterías.
Los motivos de estos personajes son nobles, dicen: luchan por la libertad de pensamiento y contra el dominio de las corporaciones. En la práctica, no es más que el viejo sabotaje de siempre: cuando la inteligencia artificial deje de distinguir la verdad de la chorrada, los primeros en quedarse sin una herramienta útil serán los ciudadanos de a pie. Ni OpenAI ni Google, sino estudiantes, médicos, oficinistas y, por supuesto, la abuela de la puerta de al lado, que solo quería buscar una receta nueva de mermelada.
En lugar de una ópera punk de protesta, nos toca ver una película barata sobre unos saboteadores que perjudican no solo al sistema, sino también al futuro de toda la humanidad digital. ¿Quién sale ganando? Los ingenieros de ciberseguridad y los bots, que se entrenan con sus propios errores. La enésima ilusión de combatir el monopolio acaba escupiéndonos en la sopa. Alguien tendrá que comérsela después, inevitablemente.
