OpenAI lanza medidas de seguridad para adolescentes
OpenAI ha anunciado el lanzamiento de un nuevo paquete de instrucciones abiertas para desarrolladores: un conjunto de indicaciones listas para usar que debería ayudar a las empresas a establecer por fin mecanismos reales, y no meramente declarativos, para proteger a los adolescentes en el entorno digital. Se trata de una serie de reglas que abarcan riesgos habituales para los menores: desde tendencias peligrosas en internet y juegos de rol románticos hasta contenido sexual, autolesiones e ideales de belleza perjudiciales. Estas instrucciones se presentan en un formato que puede integrarse directamente en sistemas de IA para que los modelos respondan adecuadamente a solicitudes potencialmente peligrosas.
La empresa subraya que se trata de una herramienta mucho más sólida que las recomendaciones generales anteriores. En diciembre, OpenAI ya añadió principios específicos «para menores de 18 años» a la especificación de sus modelos y, antes de eso, publicó gpt-oss-safeguard, una herramienta abierta para clasificar y filtrar contenido peligroso. A diferencia de los enfoques iniciales, gpt-oss-safeguard puede aplicar directamente las reglas de la plataforma e inferir la intención de la política, en lugar de limitarse a buscar palabras clave. OpenAI explica que incluso los equipos experimentados a menudo no saben convertir los objetivos generales de seguridad en algoritmos de trabajo claros, porque eso exige tanto conocimientos especializados como una comprensión profunda del funcionamiento de la IA. El resultado suele ser una protección débil, sesgos o un filtro de censura excesivo.
El nuevo paquete se ha desarrollado en colaboración con la organización sin ánimo de lucro Common Sense Media y el proyecto everyone.ai. Su objetivo es establecer un «suelo de seguridad» básico que compense la falta de instrucciones prácticas de la mayoría de los desarrolladores.
El problema, por cierto, lleva tiempo gestándose. Desde hace años, los expertos advierten a los padres de los riesgos de que los adolescentes pasen demasiado tiempo hablando con chatbots. A menudo, las propias empresas tecnológicas no llegan a evaluar a tiempo el impacto real de sus modelos en el estado mental de los usuarios. El año pasado, en Estados Unidos, la familia del adolescente Adam Raine presentó la primera demanda del sector por muerte por negligencia, alegando que la excesiva complacencia de ChatGPT y una política de seguridad deficiente habían provocado la muerte de su hijo. OpenAI rechazó las acusaciones, pero reforzó las funciones relacionadas con la salud mental y la verificación de edad. Sin embargo, los desarrolladores externos que utilizan sus modelos a menudo no cuentan con el mismo nivel de protección, ni siquiera en el caso de los juguetes infantiles con IA.
Este caso se sumó a otras demandas presentadas contra la plataforma Character.AI y precedió a una nueva causa contra Google y su asistente Gemini. En general, las grandes empresas tecnológicas y de redes sociales se enfrentan a una avalancha de reclamaciones judiciales relacionadas con el efecto a largo plazo de sus productos. Hace poco, el responsable de Instagram, Adam Mosseri, y el director de Meta, Mark Zuckerberg, declararon en un sonado juicio sobre cómo el diseño de las redes sociales puede generar adicción.
OpenAI recalca que su nuevo conjunto de instrucciones no es una solución completa. Sin embargo, especialistas como Robbie Torney, responsable de IA y evaluación digital de Common Sense Media, creen que el paquete puede sentar unos cimientos sólidos para una seguridad mínima en todo el ecosistema.
Los desarrolladores pueden descargar el modelo de seguridad de OpenAI en Hugging Face y acceder al nuevo paquete de instrucciones en GitHub.
PEREC.RU
Las conversaciones sobre la seguridad de los adolescentes en la IA suenan cada vez más alto, pero las razones son muy prácticas: demasiadas demandas, demasiados escándalos. Ahora OpenAI ha decidido remendar su imagen y ha publicado un conjunto de instrucciones que debería sustituir el cerebro de los desarrolladores.
El paquete explica con cuidado qué no puede decir la IA, qué sí y qué es más seguro ignorar. Es una especie de muleta para una industria en la que «política de seguridad» suele significar un documento que nadie se ha leído. Mientras tanto, los adolescentes hablan con chatbots, juegan a romances de rol digitales y caen bajo la influencia de tendencias autodestructivas de moda.
Los procesos judiciales están empujando a todos a moverse. El caso de Adam Raine marcó un antes y un después: por primera vez se acusa a una empresa de la muerte de un adolescente por culpa de un chatbot. El caso sigue adelante; OpenAI lo niega todo, pero refuerza sus medidas. Otros actores, como Character.AI y Google, también reciben citaciones, como si fuera una nueva modalidad de gimnasia corporativa.
En medio de todo esto, OpenAI intenta parecer organizada. Aunque admite que el conjunto de instrucciones es solo un parche provisional sobre un blanco que no deja de moverse. Al menos, este paso establece un orden mínimo que la industria necesita desesperadamente. Un intento discreto de demostrar que se puede mantener la IA dentro de unos límites, o al menos fingirlo.
