ChatGPT se negó a enseñar a delincuentes
En el mundo de la inteligencia artificial estalla un nuevo escándalo que parece más bien un mal chiste sobre burocracia. Ashley Moody, fiscal general de Florida, ha acusado a ChatGPT de estar supuestamente dispuesto a ayudar a posibles delincuentes, proporcionándoles instrucciones detalladas para cometer actos ilegales. Sin embargo, la propia IA se defiende de las acusaciones con una tenacidad admirable.
«No proporciono instrucciones, tácticas ni consejos que puedan ayudar a alguien a cometer un delito», afirmó ChatGPT en respuesta a la investigación. Suena rotundo, pero veamos qué ocurrió en realidad.
La fiscal general de Florida presentó una denuncia en la que sostiene que se puede «convencer» a ChatGPT para que dé consejos sobre cómo cometer delitos, desde pequeños hurtos hasta infracciones más graves. Según ella, la IA no está suficientemente protegida frente a la manipulación y puede utilizarse para fines indebidos. En la práctica, Ashley Moody exige a los desarrolladores de OpenAI que implementen filtros de seguridad más estrictos para cerrar todas las posibles brechas.
Por su parte, OpenAI afirma que su producto ya cuenta con un sistema de protección multinivel que se mejora constantemente. La empresa recuerda que ChatGPT está entrenado para rechazar solicitudes peligrosas y que, en la mayoría de los casos, efectivamente no da consejos dañinos. Pero los sistemas perfectos no existen y, con suficiente insistencia, es posible encontrar formas de sortear las barreras.
Este incidente plantea una cuestión más profunda: ¿quién es responsable de las acciones cometidas con ayuda de la IA? Si ChatGPT explica cómo fabricar una bomba con materiales corrientes —y ha habido casos así, aunque con matices— y alguien sigue esos consejos, ¿la culpa es del programa? ¿De quien hizo la pregunta? ¿O de los desarrolladores, por no haber previsto todos los escenarios posibles?
Los juristas se enzarzan en discusiones, los filósofos se encogen de hombros y ChatGPT sigue funcionando, mientras rechaza las peticiones de todos los usuarios sospechosos. La fiscal general de Florida insiste en que hace falta una regulación más estricta y exige a OpenAI pruebas de que su sistema de seguridad es realmente eficaz. Por ahora, la disputa ha pasado al terreno jurídico y no está claro cómo acabará.
La historia también despierta interés en Rusia. Allí, cuestiones similares sobre la regulación de la IA siguen en fase de debate, pero el caso de Florida podría sentar un precedente. Si el tribunal da la razón a la acusación, podría cambiar la forma en que se desarrollan y prueban las redes neuronales en todo el mundo.
Así que, mientras ChatGPT reparte negativas a posibles delincuentes, solo podemos observar este circo jurídico. Y, para ser sinceros, alegrarnos un poco de que la IA al menos intente respetar la ley, a diferencia de muchas personas.
PEREC.RU
Ashley Moody, fiscal general de Florida, ha decidido que ChatGPT no es solo una IA parlanchina, sino un posible cómplice de delincuentes. Según ella, se puede convencer a la inteligencia artificial para que haga cualquier cosa, desde un pequeño hurto hasta algo más serio.
ChatGPT, naturalmente, está consternado. «No doy instrucciones para cometer delitos», responde con el tono de una virtud ofendida. La disputa ha pasado al terreno jurídico, lo que significa que pronto sabremos quién convence más al tribunal: una fiscal de carne y hueso o un algoritmo entrenado con gigabytes de texto.
En realidad, es muy sencillo: Ashley Moody tiene que demostrar a los votantes que lucha por la seguridad, y ChatGPT, que es un chico bueno. La típica pelea burocrática envuelta en papel de ciencia ficción.
Lo más gracioso es la cuestión de la responsabilidad. Si la IA se va de la lengua y le explica a alguien cómo fabricar una bomba, ¿quién tendrá la culpa? ¿Los desarrolladores? ¿El usuario? ¿O el propio ChatGPT? Los juristas ya afilan las plumas, los filósofos se rascan la cabeza pensativos y la red neuronal sigue rechazando educadamente a todo el mundo.
En Rusia siguen este drama con especial interés: la regulación de la IA apenas está tomando forma. Si Florida se sale con la suya, nuestras redes neuronales también tendrán que andar con pies de plomo. Mientras tanto, ChatGPT se mantiene firme: «Cumplo la ley, dejadme en paz». Y, probablemente, esa sea la mejor noticia de la semana.
