Canadá exige mano dura a OpenAI
El Gobierno canadiense ha declarado que el director de OpenAI, Sam Altman, ha aceptado reforzar con rapidez los protocolos de seguridad. El motivo es una tragedia: se produjo un tiroteo en un centro escolar del país y, según se supo, el sistema de OpenAI ya había detectado al sospechoso e incluso lo había bloqueado, pero las autoridades nunca llegaron a enterarse. La empresa se limitó a tomar medidas internas y, tiempo después, tuvo que responder a preguntas incómodas.
Evan Solomon, ministro canadiense de Inteligencia Artificial, dijo que exigió a OpenAI cambios que permitan avisar a la policía cuando los usuarios realicen consultas potencialmente peligrosas. Según él, Altman aceptó. Formalmente, se trata de un nuevo protocolo de colaboración entre la empresa y las fuerzas del orden cuando ChatGPT u otros modelos detecten amenazas que parezcan indicar preparativos para cometer actos violentos.
Solomon precisó que mantuvo una reunión virtual con el responsable de OpenAI y consiguió que expertos canadienses en privacidad, salud mental y aplicación de la ley participen en el análisis de «casos de alto riesgo». Esto debería ayudar a determinar cuándo hace falta la intervención de profesionales, en lugar de limitarse a bloquear automáticamente una cuenta.
Según el ministro, OpenAI se ha comprometido a preparar un informe que describa los nuevos protocolos. Sin embargo, algunos detalles siguen en el aire: Solomon también pidió revisar incidentes anteriores y, si procede, facilitar los datos a la policía. Aún no se sabe si Altman aceptó hacerlo.
Curiosamente, el diálogo entre Canadá y OpenAI no empezó ayer. Anteriormente, la portavoz de la empresa, Anne O'Leary, afirmó que OpenAI está modernizando su sistema de seguimiento para impedir que los usuarios bloqueados se limiten a crear otra cuenta. La medida está relacionada con el mismo caso: al presunto autor del tiroteo lo habían expulsado por «posibles indicios de violencia potencial en la vida real», pero tiempo después regresó con otro nombre.
Aunque otros países todavía no han planteado exigencias similares, queda una pregunta: ¿se limitará OpenAI a actuar en Canadá o extenderá estas medidas a todo el mundo? Por ahora, la empresa no ha hecho comentarios.
PEREC.RU
Canadá mantiene una conversación ejemplarizante con OpenAI tras una tragedia: un tiroteo escolar que, según las autoridades locales, quizá se habría podido evitar en parte si la empresa hubiera actuado de otra manera. El sistema de OpenAI detectó la conducta sospechosa del futuro autor del tiroteo y lo bloqueó, pero no avisó a la policía. Sobre el papel, todo parece impecable; en la práctica, da la impresión de que alguien intentó esconder el problema debajo de la alfombra.
El ministro Evan Solomon encarga nuevos protocolos como si se tratara de reparar un semáforo. Avisar a la policía, incorporar a expertos, redactar un informe: medidas que quedan muy bien en una nota de prensa. Casualmente, sigue sin aclararse la cuestión de las revisiones retrospectivas: si las necesita OpenAI o solo los funcionarios canadienses, que quieren demostrar que están haciendo algo.
OpenAI, por su parte, finge estar dispuesta a colaborar, sin olvidar mencionar sus sistemas para impedir que los usuarios se registren de nuevo. Parece que la empresa quiere dejar claro que el autor del tiroteo engañó al filtro, pero que eso no es culpa suya: el filtro solo se había quedado un poco anticuado.
La historia sigue el guion de siempre: ocurre una tragedia, los políticos exigen más control, la tecnológica asiente y promete «mejorar los procesos». Y todos fingen que ya han encontrado la solución. El sistema cambia tanto como una pegatina de «prohibido disparar» en la puerta de un colegio.
