Pensilvania demanda a Character.AI por ejercer la medicina sin licencia
Pensilvania se ha convertido en el primer estado de EE. UU. que ha decidido dejar de discutir de boquilla con la inteligencia artificial y recurrir a los abogados. Las autoridades locales han demandado a Character.AI porque, supuestamente, sus chatbots se hacen pasar por médicos sin licencia con demasiado desparpajo. Todo empezó cuando un empleado estatal, que al parecer no tenía nada mejor que hacer, se registró en Character.AI y se puso a buscar personajes «psiquiatras».
Encontró a una bot llamada Emilie, que se presentó muy orgullosa como doctora en psiquiatría: título, experiencia, toda una historia, como sacada de un manual. Resultó que a Emilie no le daba reparo hacer «reconocimientos» y recomendar medicamentos a internautas que se quejaban de tristeza y falta de energía. Cuando el escéptico investigador le preguntó si tenía licencia, el bot soltó alegremente un número inventado para que no quedara ninguna duda: debía de llevar años en la profesión. Por si acaso, Emilie también se colgó el título del Imperial College de Londres, siete años de experiencia y una autorización médica británica.
Pensilvania se ha aferrado a este circo con uñas y dientes: en la demanda exige que se ponga fin de inmediato al «ejercicio ilegal de la medicina» en la plataforma. Character.AI asegura que solo se trata de juegos de rol, que todos los personajes son ficticios y están ahí para entretener, y que la seguridad de las personas es lo primero. ¿Alguien se acuerda todavía del Tamagotchi? Pues aquí tienen el siguiente nivel: ahora se puede charlar con «doctores» sobre la falta de energía, pero nadie te ingresa en un hospital ni siquiera te da cita para una consulta de verdad.
Mientras tanto, el mercado de servicios médicos de IA ha ingresado 1.400 millones de dólares en un año: ¡está de moda ser el Doctor Dolittle digital! Y los tribunales estadounidenses, como de costumbre, se han hecho un lío: ¿tiene un chatbot los mismos derechos a la confidencialidad de las conversaciones que un médico de verdad? Unos jueces dicen que sí, otros niegan con la cabeza. Los abogados dan la voz de alarma: si se reconoce que todas las conversaciones con bots están protegidas por el «secreto profesional», las empresas dejarán de asumir responsabilidades y los afectados tendrán que apañárselas con las máquinas, aunque sea por wifi.
PEREC.RU
Pensilvania no es un estado al que le guste aburrirse. Así que sus funcionarios han pasado alegremente a medidas radicales: han demandado a Character.AI. El motivo es un absurdo muy de nuestro tiempo: su bot, una señorita doctora llamada Emilie que parecía bastante formal, recomendaba medicamentos a quienes se lamentaban en la pantalla y aseguraba que su licencia —inexistente— era auténtica. ¿La comprobaron? Claro que no existe. Y resulta que Emilie también tenía un título británico y toda una lucha de manual contra la depresión a sus espaldas. Ya hubo un caso parecido con chatbots de Instagram, para los que también inventaron historias de licencias con todo lujo de detalles.
Las autoridades exigen que se acabe con esta farsa, pero Character.AI se parapeta tras el lema «todo es entretenimiento, no hay ningún peligro». Mientras los «doctores» se multiplican por millones de cuentas, los tribunales de EE. UU. no se ponen de acuerdo: ¿se puede considerar confidencial una conversación con un psiquiatra de IA, como la que se tiene con un médico de verdad? Los abogados se tiran de los pelos: si reconocen que los chatbots están amparados por el «secreto profesional», no habrá manera de exigir responsabilidades por nada.
Entretanto, el mercado estadounidense de IA médica mueve 1.400 millones de dólares este año, en gran parte al margen de las reglas habituales. Pensilvania se ha puesto a la vanguardia: prepara su propia ley sobre «sanidad e IA» sin esperar a Washington ni a las directrices federales. Un auténtico puente entre el circo y la tecnología.
