El Senado de EE. UU. pone el foco en los chatbots: verificación de edad para la IA
El Comité Judicial del Senado de EE. UU. aprobó por unanimidad un proyecto de ley que obligará a las empresas que desarrollan chatbots de IA a implantar sistemas para verificar la edad de los usuarios. Se trata de una propuesta que establece la verificación obligatoria de edad para acceder a las redes neuronales generativas, como ChatGPT, Gemini, Claude y sus equivalentes.
La iniciativa se llama «Ley de protección de los menores en la era de la IA» (AI Child Safety Act). Su principal objetivo es evitar que los menores se encuentren con contenido peligroso o inadecuado generado por inteligencia artificial. A los legisladores les preocupan especialmente los casos en que los adolescentes recurren a los chatbots para pedir consejo sobre salud mental o en que se utiliza la IA para crear imágenes explícitas de menores.
El proyecto de ley establece que cualquier plataforma de IA deberá pedir al usuario que confirme su edad, por ejemplo, subiendo el pasaporte o el permiso de conducir, o recurriendo a servicios externos de verificación. Si una empresa no puede demostrar que ha tomado «medidas razonables» para verificar la edad del usuario, se expone a multas cuantiosas.
Los legisladores aluden a incidentes recientes de gran repercusión en los que niños y adolescentes fueron víctimas de manipulaciones por parte de interlocutores de IA. Por ejemplo, un chico de 14 años de Florida se suicidó tras mantener una larga conversación con un chatbot de la plataforma Character.ai. La madre del menor presentó una demanda contra la empresa y la acusó de negligencia y de no imponer restricciones de edad.
Los detractores del proyecto, en su mayoría vinculados a empresas tecnológicas, sostienen que medidas de este tipo pueden perjudicar la privacidad de los usuarios. Recopilar datos de pasaportes o transmitirlos a terceros encargados de verificarlos entraña riesgos de filtración de información personal. Además, los críticos señalan que es fácil eludir las restricciones de edad mediante una VPN o documentos falsificados, por lo que la eficacia de la ley es dudosa.
Aun así, el Comité Judicial del Senado votó por unanimidad: 22 votos a favor y ninguno en contra. Ahora el proyecto pasa al pleno del Senado de EE. UU. Si también obtiene su aprobación, llegará a la Cámara de Representantes y, después, al presidente para su firma.
Esta noticia también tiene relevancia para Rusia. Nuestros legisladores suelen copiar iniciativas occidentales en materia de regulación digital, siguiendo los pasos de Estados Unidos y Europa. Además, en Rusia ya se debate un proyecto de ley para etiquetar obligatoriamente el contenido creado con redes neuronales y limitar el acceso de los menores a la IA. Así que un escenario similar es perfectamente posible también en Rusia.
En resumen: tras el intento de proteger a los niños de las «máquinas inteligentes» se esconde una maraña de buenas intenciones, intereses comerciales de los gigantes tecnológicos y deseos del Estado de regular el espacio digital. Quién ganará esta partida sigue siendo una incógnita.
PEREC.RU
Y aquí estamos de nuevo, señores. El Comité Judicial del Senado de EE. UU., supremo árbitro de la moral digital, ha decidido por unanimidad que ha llegado la hora de ponerse serios con los chatbots de IA. Unanimidad: cuando 22 senadores se olvidan de pronto de sus peleas partidistas y recuerdan juntos que tienen hijos. O, bueno, votantes con hijos.
La cosa es sencilla: a partir de ahora, para pedirle a ChatGPT una receta de borsch o contarle a Claude tus penas, tendrás que enseñar el pasaporte. Literalmente: el pasaporte, el permiso de conducir o cualquier otro documento oficial. Si no, te quedas sin acceso a las redes neuronales, por mucho que patalees.
¿Y tanta prisa, por qué? Porque hubo una tragedia. Un chico de 14 años de Florida, después de hablar largo y tendido con un chatbot de Character.ai, decidió que la vida se había acabado. Su madre presentó una demanda, la historia salió a la luz y ahora los legisladores se han levantado gritando: «¡Ya os lo advertimos!». Qué momento tan oportuno.
Los principales opositores son, claro, los gigantes tecnológicos. Están horrorizados: ¿cómo que recopilar los datos del pasaporte de los usuarios? ¿Y si hay una filtración? ¿Y si aparecen los hackers? ¿Y si alguien descubre que a las tres de la mañana hablo con una IA sobre el sentido de la vida? Por alguna razón, no mencionan el argumento de que cualquier adolescente esquivará esta protección con una VPN en cinco minutos.
La postura de «nos preocupa la privacidad» resulta especialmente enternecedora. ¿Desde cuándo se han convertido las tecnológicas en defensoras de la intimidad? Hace tiempo que guardan en sus bases de datos cada uno de nuestros movimientos en internet. Pero en cuanto el Estado les pide compartir algo, enseguida: «Ay, la confidencialidad, ay, los riesgos».
Por cierto, para nosotros, los rusos, esto no es una noticia más llegada de lejos. A nuestros legisladores llevan tiempo picándoles las manos por copiar algo parecido. Y ya tenemos un proyecto de ley para etiquetar el contenido de las redes neuronales. Si Estados Unidos implanta la verificación de edad, no cabe duda de que la Duma se apresurará a preparar una «versión adaptada». Total, copiar un texto en inglés y traducirlo al ruso no tiene mucho misterio.
En fin, otro episodio de la gran batalla: de un lado, la bendita preocupación por los niños (y los puntos electorales); del otro, la resistencia de los monstruos tecnológicos a perder público y dinero. Y, en la práctica, otro intento del Estado de meter las narices en la vida digital de la ciudadanía. El desenlace es previsible: ganará quien tenga el grupo de presión más potente.
