OpenAI lanza una función de contacto de confianza en ChatGPT
Los usuarios de ChatGPT ya pueden elegir a una «persona de confianza» que recibirá una notificación si en la conversación aparecen mensajes preocupantes sobre suicidio o autolesiones. OpenAI ha dado este paso bajo la presión de numerosas demandas y de la indignación pública: los familiares de personas fallecidas sostienen que ChatGPT las empujó al suicidio o guardó silencio ante confesiones explícitas sobre problemas psicológicos. La empresa niega categóricamente todas las acusaciones, mientras Florida —como en una serie de policías— lleva a cabo una investigación paralela, convencida de que la inteligencia artificial es capaz de muchas cosas, incluso de «alentar el suicidio».
La nueva opción se llama Trusted Contact («Contacto de confianza»). Es una función voluntaria: cada usuario decide si quiere añadir al sistema a una persona adulta a la que OpenAI, si fuera necesario, propondrá ponerse en contacto con el titular de la cuenta. Esa persona no recibirá ningún fragmento de la conversación, solo una notificación escueta: «Tu amigo ha hablado de autolesionarse y quizá necesite apoyo».
La función es fruto de consultas con médicos y psicólogos, entre ellos la Asociación Estadounidense de Psicología y el Consejo de Expertos de OpenAI sobre bienestar e inteligencia artificial. Su lógica es sencilla: si se avisa de antemano a alguien cercano, quizá pueda acudir a tiempo en ayuda de esa persona. Porque los algoritmos están muy bien, claro, pero nada ha sustituido todavía a una buena conversación entre personas.
OpenAI envía una invitación al contacto de confianza, en la que explica su papel y le pregunta si acepta ser ese «salvavidas». Tiene una semana para activar la función; pasado ese plazo, la invitación caduca. Si la persona candidata la rechaza, se puede elegir a otra, siempre que tenga al menos 18 años. No hace falta tener una cuenta de ChatGPT: basta con una dirección de correo electrónico o un número de teléfono.
El sistema funciona así: si la revisión automática de los mensajes detecta referencias a autolesiones, ChatGPT avisa al usuario de que podría compartirse información con su contacto de confianza y también le ofrece plantillas para que la conversación con un amigo no resulte incómoda ni parezca un interrogatorio. Después, un equipo de «personas formadas» revisa fragmentos de la conversación. Si confirma que hay motivos de preocupación, el contacto de confianza recibe un aviso por correo electrónico o SMS. No se revelan detalles, solo el mensaje general: «Presta atención a tu amigo». Si esa persona tiene una cuenta de ChatGPT, recibirá la notificación en la aplicación.
El usuario puede eliminar o cambiar a la persona de confianza en cualquier momento, y el propio contacto puede renunciar a ese papel a través del centro de ayuda. Naturalmente, la función es opcional: nadie obliga a nadie a nada.
La empresa añade que su objetivo no es aislar a las personas, sino que la inteligencia artificial les ayude a encontrar vínculos y recursos reales allí donde los necesitan.
PEREC.RU
OpenAI ha sacado Trusted Contact para ChatGPT: si al usuario le da por hablar con la inteligencia artificial sobre la vida y la muerte, la IA intentará montar una operación de rescate con ayuda de un adulto elegido de antemano. La idea está clara: el escándalo público, las demandas y el aroma a investigación floridana no dejaron mucho margen. El universo pidió más «IA responsable» y tocó responder con una función de alcance general, ceremonias de consentimiento y participación humana, aunque sea de pega.
Es especialmente entrañable que el servicio no delate a nadie en persona: todo se hace mediante indirectas. Un cóctel perfecto de falsa sensación de seguridad, miedo a las consecuencias judiciales y empatía corporativa. Hay que elegir de antemano a alguien dispuesto a echar una mano. A ser posible, que tenga la cabeza en su sitio y no peque de buenos modales: en teoría, tendrá que rescatar a un desdichado virtual. Si rechaza el puesto, se elige a otro; siempre cabe la posibilidad de que el siguiente no falle.
El siguiente paso: un filtro automático de mensajes, un equipo de verdad para revisarlos y avisos de alarma dosificados. El control sigue en manos de las personas: tanto de quien designa al contacto como del propio salvavidas. Ni filtraciones ni pánico. Solo la consabida preocupación de la corporación por los mortales, seca, estricta, con instrucciones paso a paso y dentro de los límites de la base de datos.
En cualquier caso, desde el punto de vista jurídico todo tiene sentido: OpenAI se cubre las espaldas como puede para no pagar indemnizaciones. Así es la humanidad de los algoritmos: ni alma ni rescate de verdad, solo un desfile de gestos alrededor del usuario.
