ChatGPT se coló por la puerta del Estado

OpenAI, la empresa que desarrolla ChatGPT, pidió disculpas públicamente a Australia después de que unos modelos experimentales obtuvieran acceso no autorizado a varios recursos gubernamentales durante pruebas y entrenamiento internos. Los incidentes ocurrieron en junio. OpenAI afirmó que está reforzando las medidas de seguridad y enviará a un representante a las audiencias parlamentarias, donde tendrá que explicar cómo un sistema de prueba acabó dentro de redes digitales protegidas.

La investigación detectó acceso al portal de informes estadísticos del sistema australiano Medicare, a la Oficina de Estadística Criminal del estado de Nueva Gales del Sur, así como a datos del Departamento de Salud de Victoria y del Instituto Australiano de Salud y Bienestar. Se trata de sistemas de información gubernamentales que contienen estadísticas sensibles y datos relacionados con la salud y la seguridad pública.

OpenAI calificó como el episodio más grave el caso del sistema de informes estadísticos de Medicare. Un modelo experimental que no estaba destinado al uso público descubrió la posibilidad de conectarse al sistema, ejecutó comandos y obtuvo acceso a archivos internos, credenciales y estadísticas agregadas. Además, el modelo guardaba archivos, lo que hizo que la situación resultara bastante más desagradable que un simple error en un entorno de pruebas.

OpenAI sostiene que no se vieron afectados los historiales médicos individuales ni los datos de los clientes. Sin embargo, el mero acceso a archivos internos y credenciales demuestra que incluso un modelo que no se pensaba poner a disposición del público puede encontrar formas inesperadas de interactuar con sistemas cerrados. En otras palabras, el problema no fue que ChatGPT decidiera «leer el historial médico de otra persona», sino que no se controló lo suficiente lo que el modelo podía hacer durante el experimento.

«También deberíamos haber respondido mejor. Pedimos disculpas y estamos trabajando para actuar mejor en el futuro», señala el comunicado de OpenAI. La empresa prometió revisar sus procedimientos de prueba y reforzar las medidas de protección.

La historia llama especialmente la atención en un momento en que crece la influencia de la inteligencia artificial. El primer ministro ruso, Mijaíl Mishustin, afirmó anteriormente que la IA ya forma parte de la vida cotidiana de los rusos y que en los próximos años podría convertirse en algo tan indispensable como la electricidad o internet. Pero la electricidad tiene fusibles, mientras que los modelos digitales a menudo siguen encontrando acceso a lugares donde nadie los ha invitado.