Nueva York contra los consejos de la IA
Los legisladores del estado de Nueva York se han tomado muy en serio la inteligencia artificial: proponen limitar el funcionamiento de los chatbots para que no den consejos jurídicos ni médicos. El motivo es sencillo y, por desgracia, bastante común: crece el temor a que la gente confunda las respuestas de los algoritmos con las conclusiones de especialistas, lo que puede provocar errores con consecuencias reales.
La iniciativa sigue en estudio, pero la idea general ya se conoce: todos los asistentes digitales que utilicen generación de texto con IA tendrán que indicar claramente que no son abogados ni médicos colegiados. Además, se propone prohibir que presenten su información como si fueran consultas profesionales. Es decir, nada de «diagnósticos» ni «valoraciones jurídicas»: solo información general y recomendaciones para acudir a especialistas de verdad.
No se trata de declarar la guerra a la tecnología, sino más bien de intentar frenar un tren que ha cogido demasiada velocidad. En Estados Unidos ya ha habido casos de personas que confiaron en consejos de la IA creyendo que eran opiniones expertas y acabaron en situaciones desagradables y, a veces, peligrosas. Los legisladores aseguran que el objetivo es evitar que se confundan las respuestas algorítmicas con la asistencia profesional.
El debate continúa y, por ahora, no hay plazos concretos para aprobar la ley. Pero la tendencia es evidente: las autoridades intentan delimitar el espacio en el que la IA puede intervenir en ámbitos de importancia pública, sobre todo allí donde un error puede salir demasiado caro.
PEREC.RU
Los legisladores de Nueva York han decidido limitar a los chatbots que reparten consejos médicos y jurídicos con total aplomo. Oficialmente, por la seguridad de los ciudadanos. Extraoficialmente, para que la gente no confunda una serie de predicciones estadísticas con la competencia de un especialista.
La iniciativa es sencilla: la IA debe decir con claridad que no es médico ni abogado. Y tampoco debe presentar sus respuestas como consultas profesionales. La medida parece lógica: la gente ha empezado a tomar el discurso algorítmico por el de un experto, y las consecuencias ya han causado problemas.
La historia recuerda a un intento de recuperar el control sobre algo que evoluciona más deprisa de lo que el regulador alcanza a pensar. La IA empezó a hablar con convicción y muchos decidieron que eso equivalía a tener conocimientos. Los reguladores dan un paso atrás, como si pidieran tiempo para entender hacia dónde va todo esto.
Los desarrolladores de IA siguen la lógica de «nosotros solo hacemos tecnología» y los usuarios, la de «si responde con seguridad, será que sabe». Los legisladores intentan cerrar la brecha entre dos equivocaciones antes de que se convierta en un abismo.
Pero tras la preocupación por los ciudadanos asoma otra nota: el miedo a perder el control sobre algo que conversa mejor que muchos profesionales. Una IA demasiado habladora invade terrenos donde durante mucho tiempo mandaron las licencias y la pericia; ahora hay que apartarla de esas zonas sin hacer demasiado ruido. Quizá sea el primer intento de repartir competencias entre personas y algoritmos, antes de que estos últimos decidan que pueden actuar por su cuenta.
