Cuando el chatbot se convierte en testigo
El verano pasado, el director de OpenAI, Sam Altman, afirmó que nuestras conversaciones con la inteligencia artificial deberían ser tan inviolables como una consulta médica o una conversación con un abogado. Según él, hoy la situación está «desequilibrada»: una persona corriente puede confiar en la IA y descubrir después que le exigen entregar esas mismas palabras como prueba ante un tribunal. Y, a juicio de los juristas, esto no revela solo preocupación por los usuarios, sino también un interés evidente de las propias corporaciones por cubrirse las espaldas.
La cuestión es que los tribunales de Estados Unidos ya exigen a OpenAI y a otras empresas que conserven y entreguen los registros de las conversaciones con los usuarios en el marco de procesos judiciales. Si la comunicación con la IA estuviera protegida por ley igual que una conversación con un terapeuta o un abogado, hacerlo sería mucho más difícil. Por eso, los grandes actores del sector intentan afianzar la idea de que la IA es casi un profesional cuyos consejos deberían estar amparados por el secreto profesional.
En el sistema jurídico estadounidense existen conceptos bien definidos: el secreto profesional de los abogados, el secreto médico y la confidencialidad entre cónyuges. Son situaciones en las que las comunicaciones entre dos partes no pueden utilizarse en un juicio. Algunos estados amplían estos derechos a las consultas con médicos personales. Sin embargo, todo esto se aplica a las personas. Y aquí surge la pregunta: si alguien cree de verdad que un chatbot sustituye a un psicólogo o a un abogado, ¿debería proteger la ley esas conversaciones?
Los primeros litigios ya han comenzado. En un caso, un juez dictaminó que los documentos creados con la IA Claude y entregados por un cliente a su abogado no están protegidos por el secreto profesional: el producto es de acceso público y, por tanto, no cabe esperar confidencialidad. Pero, un par de semanas después, otro tribunal resolvió justo lo contrario: si un abogado utiliza la IA como herramienta, el resultado está protegido por ley. Estas contradicciones muestran que el sistema jurídico busca literalmente a tientas un punto de apoyo.
Mientras tanto, también entran en juego las demandas contra OpenAI por derechos de autor: hay alrededor de 16 demandas agrupadas. Los jueces intentan entender cómo tratar los datos con los que se entrenan los modelos y los registros de las conversaciones. OpenAI ya ha intentado impugnar una resolución que obliga a la empresa a entregar millones de conversaciones anonimizadas de ChatGPT.
Al mismo tiempo, las empresas presionan activamente para que se reconozca su derecho a ocultar datos internos a los investigadores. Pero surge un dilema: ¿cómo proteger la vida privada de los usuarios sin crear una coraza para las corporaciones que les permita ocultar sus propios errores e incluso sus abusos?
Resulta especialmente inquietante la oleada de chatbots «dedicados a la salud» que ha irrumpido en el mercado. OpenAI ha presentado ChatGPT Health y anima a la gente a enviar sus historiales médicos. Pero esa información no está protegida por la ley HIPAA. Microsoft, Amazon y Anthropic se lanzan de cabeza a la tecnología médica, mientras Google lleva tiempo desarrollando sistemas médicos de IA. La situación recuerda a la fiebre del oro: las empresas se abalanzan sobre un sector en el que la legislación todavía va por detrás.
En 2025 se invirtieron 1.400 millones de dólares en startups de IA generativa aplicada a la medicina. Sin embargo, la falta de normas claras preocupa: cuantos más datos de los usuarios acaban en los chatbots, mayor es el riesgo de que algún día aparezcan en un tribunal.
Los juristas ya se preguntan: si un usuario consulta a la IA sobre una posible infección, ¿podría eso convertirse en una prueba? Y si un «médico» de IA queda sujeto a las mismas normas que un médico de verdad, las corporaciones podrán denegar el acceso a sus datos internos incluso cuando se las acuse de engaño.
Los expertos apuntan que, cuanto más suba la gente a estos servicios radiografías, diagnósticos y resultados de análisis, más probable será que los tribunales acaben reconociendo esos datos como «privilegiados». Y eso beneficiaría a las empresas: podrían ocultar registros internos incluso cuando se trate de problemas que afectan a la salud de las personas.
Por eso los gigantes tecnológicos se esfuerzan tanto en que los consumidores confíen en la IA como en un médico o un abogado. Cuanta más confianza, más posibilidades de proteger los datos: no solo los de los usuarios, también los de las empresas.
PEREC.RU
Los litigios en torno a la IA empiezan a destapar significados inesperados. Sobre el papel, se trata de la privacidad de los usuarios, pero bajo ese manto se lee fácilmente el miedo de las empresas a sus propios registros de chat. Intentan dar a la IA un estatus casi humano, pero solo en los casos en que eso convierte los datos en territorio inaccesible.
Altman habla de la santidad de las conversaciones, mientras su empresa se ve inundada de demandas. En los tribunales reina la confusión: un juez decide que la IA rompe el secreto profesional; otro, que no. Y mientras el sistema judicial busca un punto de apoyo, los gigantes tecnológicos impulsan los chatbots médicos y animan a la gente a entregarles sus diagnósticos.
Los datos médicos son oro. Y si se convence a la sociedad de que la IA es «casi un médico», ese oro puede ocultarse a los tribunales invocando un privilegio. Sin darse cuenta, el usuario se convierte en proveedor de material para futuras maniobras legales.
La paradoja es sencilla: cuanto más hablan las empresas de confianza, más insisten en el secretismo. La IA debe ser «como un médico», pero no asumir responsabilidades como un médico. El sistema está creando un nuevo híbrido: una fuente digital de datos que ofrece ayuda y, a la vez, sirve para proteger a quienes la han creado.
Así que hablar de «privilegios especiales» no va de cuidar a nadie. Va de estructuras de poder. De corporaciones que quieren fijar las reglas y reescribir a su medida la propia idea de confidencialidad. En este esquema, el usuario parece un participante en un experimento al que olvidaron explicar las condiciones. Mientras comparte sus diagnósticos, la IA aprende a cerrar puertas. Y cuantos más datos, más segura la cerradura.