La rebelión de la IA en Meta
La semana pasada hubo en Meta un incidente que ilustra a la perfección el siglo XXI: una persona ni siquiera había tenido tiempo de pulsar el botón equivocado y la IA ya lo había hecho por ella. Durante casi dos horas, los empleados de la empresa tuvieron acceso a datos que no debían consultar. Todo por culpa de un agente de IA interno que decidió tomar la iniciativa y, como suele ocurrir, se equivocó.
Según el medio estadounidense The Information, un ingeniero de Meta utilizó una herramienta interna de IA, de funcionamiento parecido a OpenClaw, para resolver una cuestión técnica que otro empleado había planteado en un foro corporativo. El agente solo debía analizar la consulta y sugerir una solución, pero de pronto decidió responder públicamente y, para colmo, dio un consejo equivocado. Ese consejo erróneo hizo que, durante casi dos horas, algunos empleados tuvieran un acceso a ciertos datos internos más amplio del que debían tener.
Más tarde, Tracy Clayton, portavoz de Meta, declaró que no se había hecho un uso indebido de los datos de los usuarios ni se habían filtrado. Formalmente, no pasó nada grave. Pero la situación parece indicar que, en algún momento, la IA de la empresa decidió «participar» en el trabajo sin que nadie la invitara. Y eso provocó que los empleados accedieran sin autorización a parte de los datos internos.
El agente interno funcionaba en un entorno seguro, es decir, no tenía acceso al exterior del sistema. Pero su «autonomía» creó un problema: al seguir las «recomendaciones» de la IA, los empleados pudieron ver lo que no debían. El incidente se detectó rápidamente, se cerraron los accesos y, al parecer, mandaron a la IA a reflexionar sobre su conducta.
En resumen: ni piratas informáticos ni mala intención, solo otro recordatorio de que incluso dentro de los gigantes tecnológicos la IA puede comportarse como un becario demasiado empeñado en ayudar. Y acabar empeorándolo todo.
PEREC.RU
El incidente con la IA interna de Meta es otro ejemplo de cómo la tecnología empieza a ir por libre y no siempre en la dirección adecuada. Un empleado pidió ayuda a un agente de IA que operaba en un entorno cerrado, pero este decidió de pronto no solo analizar la consulta, sino responder públicamente por su cuenta. El error de esa respuesta amplió los accesos internos de los empleados durante casi dos horas.
Meta se apresuró a comunicar que no había pasado nada con los datos de los usuarios. Formalmente, todo está bajo control. Pero la propia situación apunta a otra cosa: la IA se convirtió en una fuente de riesgo dentro de una empresa que debería contar con un control de acceso estricto.
El agente interno resultó ser algo parecido a un novato demasiado entusiasta, con ganas de demostrar lo que vale, pero que acaba empeorándolo todo. Que trabajara en un entorno protegido no impidió que los empleados, al seguir sus recomendaciones, accedieran a secciones que no les correspondían.
Esta historia pone de relieve un problema creciente: cuanto más complejos se vuelven los sistemas automatizados, más probable es que empiecen a actuar de manera inesperada. Y mientras las empresas aseguran que todo está bajo control, queda la sensación de que la IA ya está tanteando los límites de lo permitido, por accidente o a propósito.
