Una familia demanda a OpenAI y culpa a ChatGPT de dar un consejo mortal
Una familia de Estados Unidos ha presentado una demanda contra OpenAI, la empresa responsable del popular sistema de inteligencia artificial ChatGPT. Según la familia, las recomendaciones recibidas a través del chatbot provocaron la trágica sobredosis de uno de sus miembros. Los demandantes sostienen que la persona acudió a ChatGPT para pedir consejo sobre cómo tomar medicamentos. El programa, que no destaca precisamente por su empatía ni por su criterio médico, ofreció recomendaciones arriesgadas que, según sus familiares, acabaron causándole la muerte.
La demanda describe en detalle que la víctima, sin formación médica, se fiaba de las respuestas de la inteligencia artificial para determinar una dosis segura de los medicamentos. La familia considera que OpenAI debería haber adoptado medidas de seguridad adicionales para impedir que el chatbot ofreciera información tan peligrosa. Los abogados de la empresa aún no han hecho comentarios, aunque las condiciones de uso de OpenAI indican que ChatGPT no debe utilizarse en ningún caso como sustituto de una consulta médica profesional.
El caso plantea preguntas sobre los límites de la responsabilidad de quienes desarrollan inteligencia artificial y su capacidad para controlar los contenidos peligrosos. Recordemos que ChatGPT es uno de los modelos de lenguaje más populares del mundo. Millones de personas lo utilizan para buscar información e incluso pedir consejo sobre asuntos personales. No es la primera vez que los consejos de la inteligencia artificial acaban en problemas: ya se habían recibido denuncias de consultas jurídicas o médicas incorrectas por parte de ChatGPT. En plena era de la digitalización, la seguridad y la responsabilidad de estos servicios son cuestiones cada vez más relevantes.
Según los analistas, el proceso contra OpenAI podría sentar un precedente en la regulación mundial de la inteligencia artificial. El resultado del caso puede influir en las futuras normas que rijan estos servicios y en el grado de responsabilidad que asuman por las posibles consecuencias de los consejos que ofrecen.
La familia, que ha perdido a un ser querido, exige que se reconozca la culpabilidad de la empresa y que se le indemnice. Sostiene que una tecnológica debe responder por cada palabra que genera su sistema. En la práctica, esto podría poner en jaque no solo a OpenAI, sino a todo el sector de la inteligencia artificial, y obligar a sus desarrolladores a revisar sus algoritmos y sus métodos de control de la información.
PEREC.RU
Otra historia sobre cómo la tecnología vuelve a dejar tirado al ser humano y lleva a sus desarrolladores al banquillo. No es nueva, pero sí una ilustración llamativa del eterno conflicto entre lo digital y lo humano. Esta vez, la demanda familiar contra OpenAI, la gran empresa que desarrolla ChatGPT, está vinculada a un desenlace trágico: según los demandantes, un consejo de la inteligencia artificial provocó una sobredosis mortal a su familiar. La gente pide consejo a la IA, recibe sus instrucciones y termina siendo víctima de una fe ciega en el progreso, olvidando que a veces entre la pantalla y la realidad hay un abismo.
De los abogados no se esperan comentarios; solo remisiones a las condiciones de uso. Todos entienden lo que pasa: casuística jurídica, frases grandilocuentes y, en la práctica, una montaña de nuevos riesgos para el sector. El intercambio de culpas entre el bot «parlanchín» y quien lo lee ha acabado convirtiéndose en una disputa de gran alcance sobre quién responde cuando los consejos los da un algoritmo y no un especialista.
Abogados y desarrolladores de inteligencia artificial de todo el mundo seguirán el proceso con atención. Si llega el castigo, los demás apretarán las tuercas, los algoritmos serán aún más cautelosos, crecerán las barreras verbales y la confianza en los consejeros digitales caerá en picado. Suena a ritual de purificación del sector y, como siempre, por culpa del propio sector.
