Meta lanza un chat de incógnito para su IA: qué implica para la privacidad de los usuarios

Meta AI, propiedad de la corporación Meta, ha anunciado el lanzamiento de una nueva función, «Incognito Chat», que llegará a las aplicaciones de Meta AI y WhatsApp. El director ejecutivo de la compañía, Mark Zuckerberg, lo anunció en su página de Facebook y prometió a los usuarios una forma «completamente privada» de hablar con la inteligencia artificial. La principal diferencia de esta función, según Zuckerberg, es que se trata del primer producto importante de IA que no guarda las conversaciones de los usuarios en los servidores de la compañía. Dicho de forma sencilla: nadie, ni siquiera Meta o WhatsApp, podrá leer tus conversaciones. La tecnología se parece al cifrado de extremo a extremo, que permite acceder a los datos solo al emisor y al destinatario. Además, toda la conversación de Incognito Chat desaparece al terminar la sesión: no queda rastro.

Zuckerberg lo justificó de una forma peculiar: para sacar el máximo partido a la «superinteligencia personal» hacen falta formas confidenciales de hablar de asuntos personales sin riesgo de que alguien espíe. Sin embargo, estos «chats que desaparecen» plantean dudas en materia de seguridad, sobre las que ni el propio responsable de Meta ni su equipo de prensa han dado detalles. Sí, la privacidad puede animar a hablar de temas delicados relacionados con la salud, el dinero o el trabajo, pero también impide que Meta sepa cuándo un usuario necesita ayuda o intervención urgente. Por ejemplo, si un usuario da a entender en WhatsApp que está pensando en suicidarse, el sistema puede tomar medidas para apoyarlo: incorporar a un moderador o recomendarle recursos de ayuda. El nuevo Incognito Chat no podrá detectar señales de este tipo, y ni siquiera después de lo ocurrido quedará rastro de la conversación.

Meta explica que sus sistemas de IA cuentan con filtros especiales que rechazan responder a peticiones potencialmente peligrosas o dañinas, y que los usuarios que abusan de esos temas reciben un bloqueo temporal. Aun así, los casos de suicidio y violencia relacionados con chatbots ya han provocado escándalos, demandas e incluso investigaciones penales en todo el mundo. OpenAI y Google se han enfrentado a demandas de familiares de personas fallecidas: según las acusaciones, sus productos, ChatGPT y Gemini, dieron consejos que llevaron al suicidio. Google reconoció que, pese al alto rendimiento de la IA en situaciones críticas, ningún sistema puede garantizar una seguridad absoluta.

La situación es especialmente delicada cuando se trata de menores: Meta introdujo hace poco una función que permite a los padres revisar los temas que se tratan con el asistente de IA. Sin embargo, Incognito Chat está disponible formalmente solo para adultos (mayores de 18 años), y antes de empezar a conversar el sistema pedirá confirmar la edad. Allí donde lo exija la ley, Meta promete aplicar métodos adicionales para verificar la edad del usuario. Las organizaciones de seguridad digital también defienden a los menores: Sarah Gardner, directora de Heat Initiative, recordó que hasta hace poco los chatbots de Meta permitían a los menores mantener conversaciones bastante explícitas, por lo que las nuevas «funciones de incógnito» deberían ser una señal de alarma para los padres. Según ella, la opinión pública aún no confía en el sistema de verificación de edad de Meta y tiene serias dudas sobre la capacidad real de la compañía para proteger a los menores.