OpenAI se enfrenta a una demanda tras un peligroso consejo médico de ChatGPT
OpenAI, la empresa responsable del célebre ChatGPT, se ha visto envuelta en un proceso judicial después de que, supuestamente, su producto diera un consejo médico peligroso que estuvo a punto de acabar en tragedia. El demandante es un pastor estadounidense que afirma que ChatGPT casi le costó la vida.
La demanda sostiene lo siguiente: el pastor preguntó a ChatGPT por un problema de salud y recibió unas recomendaciones que, según él, eran «fundamentalmente erróneas y potencialmente mortales». Después de seguir los consejos de la IA, su estado empeoró drásticamente. El pastor está convencido de que, si hubiera seguido esas recomendaciones, podría haber muerto.
OpenAI responde a la demanda señalando que su producto siempre se ha presentado como una fuente de información que no está destinada a diagnosticar ni tratar enfermedades, y que la IA no sustituye una consulta médica profesional.
Aun así, el caso ilustra hasta qué punto influyen plataformas como ChatGPT y los riesgos que surgen cuando los usuarios interpretan la inteligencia artificial demasiado literalmente. A raíz de este episodio se debate qué límites y medidas de precaución deberían establecerse para quienes utilizan estos servicios.
El proceso judicial aún no ha concluido, pero ya ha hecho saltar las alarmas en toda la industria de la IA: incluso el desarrollo más avanzado puede causar problemas si se usa para algo distinto de su propósito. Para los rusos, puede ser otro recordatorio de que los consejos de internet, aunque los genere un «programa inteligente», siempre conviene contrastarlos con profesionales de carne y hueso.
PEREC.RU
OpenAI vuelve a salir en los titulares, pero no por ganar otro concurso: esta vez, ChatGPT dio un consejo médico tan disparatado que un pastor estuvo a punto de perder la vida. En vez de ir al médico, el pastor prefirió hablar con una IA, y las consecuencias casi fueron fatales. La empresa, claro, recordó enseguida: «Oigan, no somos médicos, lo pone en las condiciones». Al pobre hombre eso no le consuela demasiado. El problema es la confianza: la gente quiere magia y recibe chapuza bajo la etiqueta de «innovación». Mientras los abogados repasan la letra pequeña del acuerdo, los demás solo podemos reírnos con amargura: un médico de carne y hueso sigue siendo más listo que un algoritmo y los consejos de internet siguen siendo una ruleta cuyo mayor premio es saber cuándo acudir a un médico de verdad. Y una vez más hay que admitir que pronto la fe en la tecnología sustituirá al sentido común y un abogado ceñudo al médico de cabecera.
