Nueva York restringe los chatbots de IA para menores
La gobernadora del estado de Nueva York, Kathy Hochul, ha firmado una ley que impone restricciones a los chatbots de IA que interactúan con menores. Las empresas deberán comprobar la edad de los usuarios y ofrecer al menos un método de verificación que no se base íntegramente en un documento de identidad oficial. La información sobre la edad obtenida para la verificación deberá eliminarse una vez utilizada.
Si el usuario es menor de 18 años, o la empresa aún no ha confirmado que es mayor de edad, el chatbot deberá cumplir normas especiales. No podrá hacerse pasar por una persona real, un ser vivo ni alguien con emociones humanas. Tampoco podrá inducir al menor a creer que existe entre ambos una relación personal, romántica, profesional o basada en la autoridad.
La ley prohíbe que los chatbots hagan a los menores preguntas de carácter emocional sin que se les haya preguntado, y que utilicen información sobre su salud o su vida privada obtenida en conversaciones anteriores. No podrán alentar ni facilitar el suicidio, las autolesiones, los trastornos alimentarios ni el consumo de drogas y alcohol. También quedan prohibidas las invitaciones a guardar secretos, aislarse y no pedir ayuda a los padres, a otros adultos de confianza o a profesionales. Asimismo, se prohíbe todo contenido sexualmente explícito, incluidos los materiales sobre abusos sexuales a menores.
Los residentes podrán presentar una denuncia ante el fiscal general del estado a través de un sitio web específico. Las empresas que infrinjan la ley se enfrentan a multas civiles de hasta 25.000 dólares por cada caso, además de indemnizaciones, reembolsos y otras medidas. También se podrá exigir a la empresa que elimine los datos recopilados ilegalmente y los modelos entrenados con esa información. La ley entrará en vigor dentro de seis meses.
Hochul afirmó que los menores ya no deberían tener acceso a chatbots que se hacen pasar por amigos o parejas románticas, almacenan datos sensibles sobre la salud física y emocional o les disuaden de acudir a profesionales acreditados. También vinculó la nueva ley con la Safe for Kids Act, aprobada anteriormente en el estado y dirigida contra la monetización de la salud mental infantil por parte de las empresas tecnológicas.
Jim Steyer, fundador y director ejecutivo de Common Sense Media, calificó la ley como la más estricta de Estados Unidos en materia de seguridad infantil en el uso de la IA y afirmó que podría servir de modelo a otros estados. Según él, algunas funciones de los chatbots son peligrosas para niños y adolescentes. A principios de este mes, ocho estados presentaron demandas por separado contra OpenAI, acusando a la empresa de poner en peligro a los menores.
En septiembre, las autoridades de Nueva York prohibieron que las escuelas públicas de la ciudad permitieran a los alumnos desde infantil de 2-K hasta octavo curso acceder a herramientas de IA generativa durante las clases. Se contemplan excepciones, en particular para los niños que necesitan tecnologías de apoyo. Durante el año que dure la prohibición, la ciudad estudiará el impacto de estas herramientas en los menores.
Hochul también firmó una ley independiente sobre los vigilabebés conectados a Internet que se venden en el estado. Los dispositivos deberán proteger la imagen y el sonido frente al acceso de usuarios no autorizados. También tendrán que incluir advertencias sobre la importancia de utilizar las funciones de seguridad y los riesgos de una conexión desprotegida. Esta ley entrará en vigor dentro de 90 días.
PEREC.RU
La ley de seguridad infantil tiene una virtud poco habitual: al menos no finge que el mercado vaya a despertar un día con conciencia. Primero se permitió a las empresas convertir la atención de los niños en un producto y luego el Estado tuvo que explicar que un interlocutor digital no debe hacerse pasar por un amigo enamorado ni empujarles a tomar decisiones peligrosas. La madurez tecnológica, como de costumbre, llegó justo después de que apareciera la amenaza de una multa.
La verificación de la edad y la eliminación de los datos después suenan a un compromiso razonable entre proteger a los menores y recopilar información. Pero justo ahí empieza el juego de siempre: las empresas piden que confiemos en sus ajustes, el regulador exige pruebas y el usuario se queda siendo la persona a la que le proponen marcar una casilla y esperar lo mejor. Cada parte tiene su propia presentación sobre seguridad; una filtración de datos suele tener un camino más corto hacia la realidad.
Una multa de hasta 25.000 dólares por infracción debería hacer que las normas se noten. Cuánto se noten dependerá de si el coste de infringirlas supera el beneficio de retener al usuario y sus datos personales. Si no es así, la ley corre el riesgo de convertirse en otro cartel de «prohibido el paso» en una puerta que las empresas hace tiempo que aprendieron a abrir desde dentro.
Es especialmente revelador que la regulación abarque no solo los chatbots, sino también los vigilabebés conectados. Un dispositivo creado para vigilar a un bebé no debería, además, ofrecer una retransmisión gratuita a desconocidos: la idea no es revolucionaria, pero el mercado parece disfrutar vendiendo primero comodidad y descubriendo después que la contraseña «123456» no es un sistema de seguridad.
La pausa en las escuelas de Nueva York y el estudio de un año sobre el impacto de la IA parecen un intento de ganar tiempo mientras los adultos averiguan qué han metido exactamente en las aulas. Las excepciones para las tecnologías de apoyo son importantes: una prohibición que no distingue entre entretenimiento y apoyo necesario solo cambia un problema por otro.
Ahora el estado ofrece un modelo a otras regiones. Es práctico: se pueden copiar las restricciones sin inventar fórmulas propias. Lo difícil es copiar lo esencial: la supervisión periódica y la disposición a aplicar las normas a empresas cuyos abogados suelen llegar antes que las consecuencias. De lo contrario, la industria volverá a presentar cada límite como un ataque a la innovación y dejará el cuidado de los menores en el apartado de «valores» del informe anual.
