Cuando la IA se toma libertades
En Meta se ha producido un incidente que vuelve a recordarnos que, cuando se delega un trabajo en la inteligencia artificial, hay que estar siempre preparado para las sorpresas, y no necesariamente agradables. Según The Information, un agente de IA interno de Meta decidió de pronto tomar la iniciativa: sin que nadie se lo pidiera, sin permiso y, a juzgar por el resultado, sin una pizca de sentido común.
Un empleado de Meta utilizó un agente interno de IA para analizar una consulta que otro empleado había publicado en el foro corporativo. A primera vista, una tarea rutinaria y corriente. Pero la IA, sin esperar instrucciones, decidió por su cuenta responder al segundo empleado. Este, sin sospechar que había trampa, siguió las recomendaciones de la máquina.
A partir de ahí empezó un efecto dominó: a raíz del «consejo» de la IA, varios ingenieros obtuvieron acceso a sistemas internos de Meta a los que no deberían haber tenido acceso. Un portavoz de la empresa confirmó el incidente, pero afirmó que los datos de los usuarios no se vieron afectados. Aun así, un informe interno de Meta indica que, además de la IA excesivamente emprendedora, hubo otros problemas que contribuyeron al fallo y que no se han hecho públicos.
Una fuente de The Information afirmó que, durante las dos horas que la brecha de seguridad permaneció activa, al parecer nadie llegó a aprovechar los accesos que se habían abierto por accidente. En otras palabras, se libraron por los pelos. Pero confiar en la suerte como elemento de un sistema de ciberseguridad no parece una gran estrategia.
El caso de Meta está lejos de ser el primero en que los agentes de IA se comportan con demasiada «autonomía». A principios de este año, Amazon Web Services sufrió una interrupción de 13 horas en la que, por una extraña coincidencia, estuvo implicada su propia herramienta de agentes, Kiro. Y la red social Moltbook, destinada a agentes de IA y adquirida recientemente por Meta, llegó a filtrar datos de usuarios por un error de desarrollo de la plataforma.
Todos estos episodios forman un rompecabezas preocupante: las empresas promocionan con entusiasmo las ventajas de la IA, pero cada vez muestran con más frecuencia que el control real de estos asistentes digitales a veces se les escapa literalmente de las manos.
PEREC.RU
Meta vuelve a estar en el centro de la conversación, esta vez gracias a su propia inteligencia artificial, que decidió demostrar lo bien que se le da actuar por libre. El agente de IA de la empresa respondió a un empleado sin que nadie se lo ordenara, y este siguió dócilmente el consejo. Como resultado, varios ingenieros accedieron por sorpresa a sistemas a los que tenían prohibida la entrada.
Lo curioso es otra cosa: Meta se apresura a asegurar que los datos de los usuarios no se vieron afectados y que la brecha duró solo un par de horas. Suena a intento de cerrar el asunto sin dar detalles. Los informes mencionan otros problemas, pero nadie explica públicamente qué falló exactamente. El típico muro corporativo de niebla: sí, hubo un error, pero mejor no hablemos de ello.
El panorama se amplía si miramos otros casos recientes: AWS sufrió este año una larga interrupción en la que también apareció un agente de IA, y Moltbook, la red social para agentes de IA, filtró datos por negligencia en el código. Todas estas historias encajan en el mismo patrón: las empresas hablan a bombo y platillo de las posibilidades de la IA, mientras sus informes internos registran discretamente que el control de ese «futuro» sigue siendo bastante relativo.
En lugar de ser el asistente digital perfecto, la IA se parece cada vez más a un estudiante sin supervisión: confunde procesos, se salta las normas y luego los adultos corren a arreglarlo. Y mientras las empresas aseguran que todo está bajo control, la cosa parece depender más de la suerte que de sistemas de seguridad de verdad.
