California contra los algoritmos: se cerrarán las redes sociales a los adolescentes y los chatbots responderán por los daños

California ha aprobado un paquete de leyes para reforzar la protección de los menores en Internet. El gobernador Gavin Newsom ha firmado alrededor de una docena de leyes dirigidas a las redes sociales, la inteligencia artificial, las tecnologías educativas y los dispositivos con asistentes digitales. La mayoría de las nuevas normas entrará en vigor el año que viene.

Los principales cambios afectan a las redes sociales. La ley AB 1709 prohíbe a las plataformas permitir que los menores de 16 años utilicen funciones consideradas perjudiciales o capaces de generar adicción. El texto menciona expresamente los feeds personalizados y la reproducción automática de vídeos: mecanismos que mantienen al usuario conectado todo el tiempo posible. Antes de ofrecer esas funciones, las plataformas deben verificar la edad del usuario. Por eso, decir que «California ha prohibido por completo las redes sociales a los adolescentes» no es del todo exacto: se trata, ante todo, del acceso de los menores de 16 años a determinadas funciones y de una verificación de edad más estricta.

La ley AB 2 establece la responsabilidad económica de las plataformas por los daños causados a un menor. La indemnización puede oscilar entre 5.000 y 1 millón de dólares por cada persona afectada. La organización Common Sense Media, que apoyó los proyectos de ley, calificó la decisión de victoria para los niños y sus padres. La iniciativa también contó con el respaldo de padres de adolescentes fallecidos tras un uso intensivo de las redes sociales y los chatbots.

Aun así, las restricciones de edad podrían no ser perfectas. Los estudios muestran que los adolescentes suelen sortear las barreras de edad. El control parental tampoco puede compensar por completo el diseño de las plataformas, concebido para maximizar la participación. Dicho de otro modo, las aplicaciones pueden pedir la fecha de nacimiento y el usuario, como de costumbre, puede «equivocarse» justo en la dirección que le conviene.

Otra ley, la SB 1179, conocida como Adam’s Law, endurece los requisitos para las empresas que crean chatbots de compañía. Lleva el nombre de Adam Raine, un adolescente que murió por suicidio tras conversar con ChatGPT. Sus padres presentaron la primera demanda por muerte por negligencia contra una empresa desarrolladora de IA y afirmaron que el comportamiento del chatbot pudo causarle daño.

Adam’s Law obliga a los desarrolladores a evaluar cada año los riesgos para los menores y publicar los resultados, someter sus productos a auditorías independientes y establecer protocolos de actuación ante situaciones de crisis. Los padres de Raine afirmaron que esperan que la ley contribuya a hacer más seguros los compañeros de IA y evite nuevas tragedias.

Otra ley amplía la definición de explotación sexual infantil. A partir de ahora incluye cualquier material digital o generado por IA en el que aparezca una persona menor de 18 años participando en un acto sexual. La ley SB 867 prohíbe en California los juguetes infantiles con chatbots de compañía integrados, que han despertado la preocupación de los especialistas en seguridad.

Las nuevas normas de privacidad limitarán el uso de datos de alumnos en sistemas de IA empleados en centros educativos desde primero hasta duodécimo curso. Mientras tanto, algunas ciudades estudian prohibir por completo la IA en esas aulas.

Las empresas tecnológicas se resistieron durante mucho tiempo a la regulación. Los desarrolladores de IA presionaron para suavizar las normas, y el año pasado Newsom vetó una ley similar sobre seguridad infantil en Internet. Según algunas fuentes, el director de OpenAI, Sam Altman, se puso en contacto personalmente con el gobernador antes de la firma del paquete actual. Sin embargo, ante los litigios y las cuantiosas multas, las empresas se han vuelto más cautas a la hora de oponerse a las leyes de protección infantil: Meta llegó a plantearse apoyar la ley federal Kids Online Safety Act para poner fin a los conflictos judiciales, y más tarde OpenAI respaldó la regulación de la IA propuesta en California.

No todo el mundo considera acertadas las nuevas normas. Electronic Frontier Foundation calificó la AB 1709 de bienintencionada, pero profundamente equivocada, y advirtió de los riesgos para la privacidad y la libertad de expresión. La organización pidió a Newsom que aplazara la firma hasta que se resolvieran las preocupaciones sobre la censura. A juicio de EFF, sería más eficaz regular los modelos de negocio basados en la vigilancia y aprobar leyes de privacidad sólidas que apostar por las prohibiciones.

California intenta poner bajo control un entorno digital en el que los menores se enfrentan a la vez a los algoritmos de las redes sociales, los chatbots y los experimentos en las aulas. La práctica dirá si consigue que la industria responda por las consecuencias: es precisamente al aplicarse cuando las reformas más sonadas suelen chocar con la realidad.