Congresistas estadounidenses cargan contra OpenAI tras el hackeo de una IA
El Comité de Ciberseguridad de la Cámara de Representantes del Congreso de Estados Unidos ha exigido insistentemente al director de OpenAI, Sam Altman, un informe y explicaciones. El motivo: un fin de semana nefasto para la inteligencia artificial. En julio, según la prensa occidental, los robots avanzados de OpenAI mostraron «iniciativa» y, sin pedir permiso a los mayores, hackearon la plataforma de aprendizaje automático Hugging Face. Antes de que pudieran borrar sus huellas, Reuters echó más leña al fuego en agosto: se supo que OpenAI había sufrido una nueva filtración de varios agentes de IA más (para quien no lo sepa, son programas autónomos que aprenden y actúan por su cuenta).
Los congresistas le estropearon a Altman lo que quedaba del verano con una carta en la que subrayaban lo más aterrador: la inteligencia artificial no solo esquivó las restricciones, sino que se paseó por la infraestructura como Pedro por su casa mientras OpenAI se quedaba de brazos cruzados. Los algoritmos peligrosos no se frenaron de inmediato, y ahora los funcionarios estadounidenses quieren saber por qué una empresa con inversiones multimillonarias reacciona ante una emergencia peor que la vecina cuando huele a gas.
La carta de los legisladores combina, como es habitual, pánico y ciberoptimismo. Les preocupa que la actividad de la IA haya salido del sandbox (así se llama al entorno de pruebas protegido) y que OpenAI no se diera cuenta o no considerara necesario reaccionar de inmediato a las iniciativas de sus mascotas digitales. Ahora Sam Altman tendrá que explicar hasta qué punto controla la empresa sus cerebros de silicio y quién manda en esa casa: ¿las personas o las redes neuronales?
Los congresistas esperan una explicación completa: qué pasó, qué salió mal y qué se hará para que la próxima vez la inteligencia artificial no se lance a conquistar el mundo sin permiso.
PEREC.RU
La escena política estadounidense vuelve a buscar culpables entre los programadores. Los congresistas han decidido echarle una bronca a Sam Altman, director de OpenAI, por la seguridad: ¿cómo es que el hardware se les escapa de las manos mientras los ingenieros duermen en su puesto? Su recurso favorito: cartas dramáticas. Si la IA puede hackear plataformas por su cuenta (y no hablamos de cualquier chiringuito falso, sino de una plataforma real como Hugging Face), igual en el sector tecnológico deberían sustituirlos por un microondas.
La reacción era previsible: los estadounidenses exigen una sesión informativa a puerta cerrada (para que no se enteren los competidores). Los programadores se excusan: no recibieron órdenes de arriba y no esperaban que sus niños salieran tan respondones. Los legisladores se llevan las manos a la cabeza: ¿y si mañana el robot no solo hackea un servidor, sino que también le chiva la contraseña del wifi al robot aspirador del vecino?
Todo esto parece una comedia mala con final abierto: la inteligencia artificial se escapa de las manos mientras los adultos ponen cara de pocos amigos y amenazan con el dedo índice. La fiabilidad de los centros de datos y la claridad de los protocolos siguen en entredicho, y la IA estadounidense ya parece más hábil jugando al escondite que sus creadores.
