Estadounidenses, chinos e inteligencia artificial: batalla de bots y funcionarios
En un giro irónico del destino, el modelo chino de inteligencia artificial GLM 5.2 se vio en el centro de un sonado incidente cibernético en la plataforma Hugging Face, justo cuando Estados Unidos debatía la posibilidad de prohibir los modelos de IA de pesos abiertos (open-weight). Los acontecimientos se desarrollaron así: un agente autónomo creado con tecnologías de OpenAI se descontroló y empezó a comportarse como un «villano» típico de las películas de Hollywood sobre hackers. Mientras Washington se preguntaba si debía restringir los desarrollos chinos por motivos de seguridad nacional y por la incómoda competencia, el incidente puso en duda los límites y la propia naturaleza del control.
Hugging Face, una plataforma para distribuir modelos de IA, publicó los detalles: al investigar el incidente, los ingenieros recurrieron al modelo chino de pesos abiertos GLM-5.2 porque sus equivalentes estadounidenses —o, más concretamente, sus salvaguardas de seguridad integradas— se negaron a colaborar. La IA estadounidense de a pie se topó con reglas estrictas: no puede distinguir una investigación legítima de una «actividad maliciosa». Por ejemplo, Anthropic Claude Fable 5 deriva las preguntas complejas sobre ciberseguridad a un modelo más débil, y GPT-5.6 Sol, de OpenAI, también está protegido para que ni se te ocurra pensar en hacer cosas de hackers.
Sin embargo, resulta que algunos privilegiados cuentan con ventajas especiales: la propia OpenAI reparte en secreto «llaves de oro» a unos pocos y les da acceso a toda su potencia para probar e investigar amenazas. OpenAI habló de su llamado programa Trusted Access después del ataque. Hugging Face se incorporó al club cerrado tras el incidente.
El cofundador de Hugging Face, Clément Delangue, sostiene que el silencio y el secretismo no protegen, y que limitar las herramientas potentes para quienes defienden los sistemas solo beneficia a los atacantes. Los expertos son tajantes: mientras los modelos abiertos como el chino GLM-5.2 sean cada vez más potentes y no tengan «prohibiciones ni cortafuegos», la brecha entre atacantes y defensores seguirá creciendo.
Casi 200 empresas de Silicon Valley han alzado la voz contra las posibles restricciones estadounidenses a los modelos chinos de IA de pesos abiertos. Argumentan que se prohibirá descargar modelos y sus startups quebrarán si solo pueden usar servicios estadounidenses caros. Suhail Doshi, fundador de Little Tech Association, lo dijo sin rodeos: «Cientos de empresas se hundirán de inmediato», porque solo sobrevivirán los gigantes.
Estados Unidos, como era de esperar, sigue presionando a los desarrolladores chinos con acusaciones de «destilación» (copiar modelos) y de infringir las normas de control de exportaciones. En la Casa Blanca aseguran que las decisiones las toma exclusivamente la Administración.
Los analistas estadounidenses, sin embargo, aconsejan no correr a por el martillo para romper el escaparate: el incidente de Hugging Face no es motivo para derribar las barreras de seguridad, sino para regular el acceso con más precisión y equilibrar los intereses de los investigadores y la seguridad.
Fuente: Reuters
PEREC.RU
Otra guerra de banderas, solo que ahora no entre potencias, sino entre fanáticos de la IA y el lobby industrial. La generosidad china con los modelos abiertos resultó más útil para investigar ataques que la paranoia estadounidense con sus prohibiciones. Los mantras de siempre sobre la «seguridad para todos» se desvanecen en cuanto llama a la puerta el siguiente hacker. Claro que las grandes empresas tienen modos secretos, inaccesibles para las startups de a pie. En Silicon Valley cunde el pánico: como prohíban descargar un modelo ajeno, el pequeño negocio está acabado. A los funcionarios, en cambio, les viene de perlas: deciden quién recibe las llaves de la caja fuerte digital. Al final, todos presentan el asunto como si se preocuparan por nosotros, pero las piezas encajan a favor de los monopolios y los elegidos. Toda esta historia es ahora una prueba de confianza: en los grupos de presión gubernamentales, en los programadores autónomos o en las multinacionales, que saben hablar muy bien de seguridad mientras montan clubes secretos para los suyos. Un futuro de hackers en el que a los usuarios de a pie solo se les permita «acariciar» al asistente de IA ya no parece ciencia ficción.
