La IA promete confidencialidad

Los desarrolladores de IA vuelven a prometer privacidad. ¿Pero quién vigilará a quienes hacen las promesas?

En el evento anual OpenAI DevDay, el director ejecutivo de OpenAI, Sam Altman, presentó Dots, el nuevo agente de IA de la empresa. Un agente de IA es un programa que puede no solo responder a solicitudes, sino también ejecutar una serie de acciones por cuenta del usuario. Durante la presentación, Altman afirmó que OpenAI quiere «establecer un nuevo estándar de privacidad en la inteligencia artificial avanzada».

La formulación suena imponente, sobre todo ante el creciente número de servicios que recopilan datos personales de sus usuarios. Sin embargo, la presentación no fue solo una exposición del producto propio. A lo largo del evento, OpenAI lanzó varias pullas veladas a su principal rival, Meta, y a su agente de IA Muse. La insinuación era clara: según OpenAI, Meta no protege suficientemente los datos de sus usuarios.

El problema es que esta historia tiene otra cara. Apenas unos meses antes, Meta había presentado Muse como una alternativa más segura a su predecesor, OpenClaw. El director ejecutivo de Meta, Mark Zuckerberg, prometió entonces que el nuevo producto estaba «diseñado desde cero teniendo en cuenta la privacidad y la seguridad».

El resultado es el conocido duelo tecnológico: una empresa afirma que establecerá el referente en protección de datos, y otra asegura que ya lo ha creado. Mientras tanto, al usuario se le pide que confíe en su palabra, preferiblemente antes de que el agente acceda a sus mensajes, archivos, cuentas y otros datos sensibles.

La privacidad es especialmente importante en el caso de los agentes de IA. Estos sistemas pueden manejar grandes cantidades de información personal y realizar acciones en nombre de una persona. Si los datos se conservan demasiado tiempo, se usan de forma poco clara o acaban en manos de atacantes, el coste del error es mayor que en el caso de un chatbot corriente.

Las empresas intentan convencer al público de que pueden resolver este problema, aunque el mercado tecnológico siga dependiendo de acumular datos de los usuarios. Entretanto, los ciberataques se han convertido en algo habitual y las promesas de «seguridad desde cero» siguen siendo promesas, no pruebas independientes.

Por eso, la pregunta principal no es quién pronuncia más alto la palabra «privacy». Lo importante es saber qué datos recopila cada agente, dónde se almacenan, quién puede acceder a ellos, si se utilizan para entrenar modelos y qué ocurriría tras un ataque. El fragmento presentado no da respuestas concretas a estas preguntas.

Sam Altman habla de un nuevo estándar y Mark Zuckerberg, de una protección integrada en los cimientos del producto. A los usuarios solo les queda esperar reglas verificables, garantías técnicas y transparencia en los informes, en lugar de otra promesa publicitaria. De lo contrario, la competición por la confianza corre el riesgo de convertirse en un concurso de eslóganes cuyo premio se llevará quien consiga recopilar más datos primero.