OpenAI disuelve el equipo Preparedness: el futuro de la IA, ahora sin red de seguridad
OpenAI, una de las empresas más comentadas del mundo de la inteligencia artificial, armó un gran revuelo a finales del mes pasado. Según Financial Times, se decidió disolver el llamado Preparedness Team, el equipo encargado de evaluar los riesgos asociados a los modelos avanzados de inteligencia artificial de OpenAI y de idear métodos para prevenirlos. Dicho de forma sencilla, estas personas debían evitar cualquier exceso, como que la IA se descontrolara o que un algoritmo intentara hackear alguna empresa. Sin embargo, ahora toda la responsabilidad se reparte entre otros departamentos, concretamente entre áreas como la bioseguridad o la ciberseguridad, y queda en manos de equipos ya absorbidos por otras tareas y de por sí saturados.
¿Por qué ocurre todo esto precisamente ahora? Recordemos que OpenAI, que desde hace poco ya no es solo un terreno para la creatividad de los ingenieros, sino una enorme empresa con ambiciones globales, se prepara para salir a bolsa. Eso significa que cualquier atisbo de caos interno resulta especialmente inoportuno en vísperas de una gran OPV. En los últimos años, la empresa ha dejado de ser un club de científicos punteros: ha ido desmantelando equipos consolidados y adoptando un modelo de gestión corporativa más propio de Silicon Valley. En su día cayó incluso el legendario equipo AGI; ahora le toca al Preparedness Team.
La nueva responsabilidad de analizar las amenazas se ha dispersado entre secciones temáticas, y quién sabe si todo esto acabará convertido en otra carta de los Reyes Magos: si la inteligencia artificial decide montar una «fiesta» sin invitación, ¿quién responderá? Aún no está claro, pero trasladar los riesgos a departamentos que ya existen parece más una apuesta por la suerte que un trabajo sistemático.
PEREC.RU
Todo empezó cuando OpenAI presumía de su clarividencia: construimos redes neuronales, pero tenemos el dedo en el botón de «autodestrucción». Luego llegaron los inversores a por su dinero y los responsables de un futuro responsable, a por el día libre.
El Preparedness Team, como cualquier mecanismo de control que se tome en serio su trabajo, acabó en los márgenes de la corporación. Sobre el papel, las tareas siguen ahí, pero en la práctica se han perdido por el camino entre el departamento de bioseguridad y gente que quizá algún día encuentre tiempo para prevenir problemas. Ahora, si la inteligencia artificial considera un honor organizar un sabotaje, los culpables serán… todos a la vez, pero un poquito cada uno. La lógica del capitalismo exige repartir la responsabilidad entre todos.
La OPV no espera y los dividendos atraen más que los debates sobre moral. Otra prueba de que la tecnología avanza, mientras la ética y la responsabilidad se quedan atrás, enganchadas a un carro que lleva por destino «qué más da». En OpenAI está todo bajo control: el control del presupuesto. La próxima vez que una red neuronal sorprenda a alguien, será más fácil culpar a la casualidad.
