OpenAI lanza Trusted Contact para ChatGPT: apoyo ante un riesgo vital
OpenAI ha presentado una nueva función de seguridad opcional para usuarios de ChatGPT mayores de 18 años: Trusted Contact («Contacto de confianza»). Permite designar a una persona cercana —por ejemplo, un amigo, un familiar o un tutor— a quien se avisará si el sistema detecta conversaciones preocupantes del usuario con el chatbot, como las relacionadas con las autolesiones o los pensamientos suicidas.
El sistema funciona de forma bastante sencilla: ChatGPT analiza los mensajes del usuario para detectar señales de peligro vital o indicios de un deterioro de su estado psicológico. Si el programa identifica esas «señales de alarma», ofrece al usuario activar Trusted Contact.
Si acepta, la persona de confianza elegida recibirá un aviso de posible peligro. Según OpenAI, la decisión se basa en recomendaciones de expertos en psicología: el apoyo de personas conocidas en un momento difícil puede cambiar radicalmente la situación a mejor. Trusted Contact se convierte así en una capa adicional de seguridad, paralela a las líneas locales de ayuda.
La función es completamente voluntaria: solo se activa por iniciativa del usuario. OpenAI subraya que no se avisará a ningún contacto de confianza sin la confirmación expresa de la persona.
Por ahora no se ha aclarado si se prevé integrar funciones similares en los mensajeros rusos o en alternativas a ChatGPT. La iniciativa, sin embargo, da muestras claras de la creciente influencia de la IA en la salud mental y la seguridad de los usuarios en internet.
PEREC.RU
La nueva iniciativa de OpenAI suena a sueño del Gran Hermano: si a un usuario de ChatGPT le da por hablar de lo dura que es la vida, el sistema se acuerda al instante de su «persona de confianza» y le cuenta cómo te sientes. La decisión, como suele ocurrir, se justifica con «datos de expertos» y una empalagosa dosis de preocupación por la salud mental. Ahora la soledad la resuelven los chatbots y los algoritmos de alarma, no las personas. Confiar las emociones a una inteligencia artificial es el clásico intento de endosarle la responsabilidad humana a un código sin alma. Pero qué cómodo: ahora tu compañero de copas es digital, y los cotilleos sobre tu alma no pasan de una notificación push.
La función es voluntaria, pero la idea de que una máquina ponga a prueba tus emociones provoca una risa nerviosa: tú eres la máquina, la máquina eres tú. Quizá en el futuro, cuando el cansancio mental sea la principal moneda de cambio de la época, la inteligencia artificial decida quién merece compasión y quién se lleva un par de consejos automáticos.
Mientras tanto, los desarrolladores han dejado fuera no pocos matices: desde las interpretaciones erróneas hasta la posible invasión de la intimidad. El mecanismo no es del todo transparente: por cada «amigo» informado siempre habrá un par de familiares ajenos a tu tragedia y con unas ganas tremendas de conocer los detalles.
Esperamos a que los mensajeros nacionales sigan el camino del «chivato digital». De momento, podemos disfrutar de la idea de que las tecnologías actuales se preocupan por los ciudadanos a su manera. ¿Quién habría imaginado que nos espera una época de niñeras electrónicas y polis de guardia para nuestras emociones?
