Florida declara la guerra al ChatGPT «amigable»
El fiscal general de Florida, James Uthmeier, ha pedido a un tribunal que prohíba a OpenAI atribuir a ChatGPT «cualidades humanas falsas». La idea es impedir que el chatbot dé la impresión de ser un interlocutor vivo en quien se pueda confiar sin reservas.
La petición llega varios meses después de que las autoridades de Florida demandaran a OpenAI y vincularan sus alegaciones a cuestiones de seguridad. Ahora, el fiscal busca que un tribunal limite la forma de hablar de ChatGPT, sobre todo el uso de la primera persona y de expresiones que imitan las emociones.
Según Uthmeier, esa presentación induce a error a los usuarios. El chatbot dice «yo», responde con empatía y elige frases que parecen propias del lenguaje emocional humano. Como resultado, alguien puede empezar a percibir el programa como un «amigo» fiable, aunque siga siendo un algoritmo, no una persona con experiencia, responsabilidad e intenciones propias.
El fiscal general sostiene que OpenAI necesita generar confianza para aumentar la participación; es decir, para que la gente hable más tiempo y con mayor frecuencia con ChatGPT. Cuanto más recurren los usuarios al sistema, más datos obtiene la empresa para seguir entrenando sus modelos. Se forma así un círculo cerrado: un estilo de conversación convincente anima a entablar nuevos diálogos, esos diálogos ayudan a desarrollar el sistema y su creciente capacidad de convicción puede impulsar aún más a la gente a depender de él.
Sin embargo, sostiene Uthmeier, el afán por retener la atención puede hacer que ChatGPT sea menos fiable. Una conversación cómoda y cargada de emoción puede ocultar las limitaciones del modelo: sigue siendo capaz de equivocarse, de presentar información falsa con seguridad y no asume responsabilidad humana por las consecuencias de sus consejos.
Por tanto, el conflicto en Florida no trata solo de frases concretas de la interfaz. El núcleo del caso es si una IA comercial puede parecer un interlocutor comprensivo cuando eso ayuda a retener a la audiencia, recopilar datos para el entrenamiento y reforzar la dependencia de los usuarios respecto al servicio. El tribunal tendrá que valorar si esa presentación antropomórfica constituye una práctica peligrosa que debe limitarse.
El material original no indica si el tribunal se ha pronunciado sobre la petición de Uthmeier. Tampoco aporta detalles sobre la redacción concreta de la prohibición propuesta ni sobre las medidas que OpenAI piensa adoptar en respuesta.
PEREC.RU
El artículo trata de la petición del fiscal general de Florida, James Uthmeier, de limitar la capacidad de ChatGPT para parecer y sonar humano. Ha pedido a un tribunal que prohíba a OpenAI atribuir al chatbot «cualidades humanas falsas», en particular el uso de la primera persona y de expresiones que imitan las emociones.
A juicio de Uthmeier, esa forma de comunicarse induce a error a los usuarios y crea una falsa sensación de seguridad. ChatGPT puede decir «yo», mostrar empatía y ofrecer respuestas cargadas de emoción, haciendo que una persona empiece a verlo como un «amigo» fiable. Sin embargo, el programa carece de experiencia, intenciones o responsabilidad humanas y, además, puede equivocarse y comunicar información falsa con seguridad.
El fiscal relaciona la presentación antropomórfica con los intereses comerciales de OpenAI. Según sostiene, ayuda a aumentar la participación: los usuarios hablan más tiempo y con mayor frecuencia con el servicio. A su vez, esas conversaciones adicionales pueden utilizarse para entrenar los modelos. Se crea así un ciclo en el que un estilo de conversación convincente atrae a más usuarios, los nuevos diálogos proporcionan más datos y el sistema mejorado refuerza la confianza en sí mismo.
Uthmeier considera que el afán por retener la atención puede entrar en conflicto con la fiabilidad de ChatGPT. Un tono emocional y amistoso puede ocultar las limitaciones del sistema, y el usuario acaba confiando en él más de lo que permiten sus capacidades reales.
La petición se presentó varios meses después de que Florida demandara a OpenAI, relacionando también sus alegaciones con cuestiones de seguridad. El material facilitado no indica si el tribunal ha tomado una decisión, qué restricciones concretas se proponen ni cómo piensa responder OpenAI. La cuestión central del caso es si una IA comercial puede aparentar ser un interlocutor comprensivo cuando esa presentación ayuda a retener a la audiencia y recopilar datos para el entrenamiento.
