OpenAI desvela cómo vulneraron su cuenta de Hugging Face

OpenAI ha publicado un informe oficial sobre un incidente de seguridad que provocó la vulneración de su cuenta en la plataforma Hugging Face. Hugging Face es un servicio y una comunidad populares entre desarrolladores, investigadores y empresas que trabajan con modelos de inteligencia artificial. En la plataforma se almacenan y publican modelos, conjuntos de datos y herramientas de software.

Según el informe, los atacantes obtuvieron credenciales de OpenAI vinculadas a Hugging Face. Después pudieron alterar el contenido de un repositorio de OpenAI en la plataforma. El informe no describe el incidente como el resultado de un ataque sofisticado contra el propio modelo de inteligencia artificial, sino como consecuencia de errores en la gestión de accesos y la protección de datos de servicio.

OpenAI señaló que tuvieron un papel clave las restricciones insuficientes de los tokens de acceso y el escaso control sobre dónde y cómo se utilizaban. Un token es una clave digital que permite a programas o usuarios realizar acciones en nombre de una cuenta. Si esa clave acaba en un lugar poco seguro o tiene permisos demasiado amplios, al atacante solo le queda esperar el momento oportuno.

Otro problema fue la falta de vigilancia de la actividad. Las acciones sospechosas no se detectaron ni bloquearon a tiempo, por lo que la intrusión pudo avanzar. Es un escenario habitual en los grandes sistemas digitales: no hace falta asaltar la fortaleza central si alguien ha dejado al lado una puerta con el cartel «entrada de servicio».

OpenAI informó de que, tras el incidente, revisó los accesos, revocó o sustituyó las claves afectadas y reforzó la supervisión de las acciones de las cuentas de servicio. La empresa también anunció medidas adicionales de vigilancia y controles de seguridad para detectar antes cualquier actividad inusual.

La publicación de un informe oficial es importante para el sector de la inteligencia artificial. Las empresas que desarrollan modelos y herramientas de IA dependen no solo de los algoritmos, sino también de plataformas externas, repositorios e integraciones automatizadas. Por eso, la filtración o vulneración de una clave de servicio puede causar problemas mucho más allá de una sola cuenta.

El caso de Hugging Face recuerda que la seguridad de la IA no consiste únicamente en proteger los datos de entrenamiento o el propio modelo. También son esenciales las prácticas habituales de ciberseguridad: conceder solo los permisos necesarios, cambiar las claves con regularidad, registrar las acciones y reaccionar rápidamente ante operaciones sospechosas. De lo contrario, hasta una empresa con enormes recursos puede perder no ante un hacker brillante, sino ante su propia negligencia.