Meta y los adolescentes: un juego peligroso
La dirección de Meta vuelve a verse envuelta en un escándalo: documentos internos publicados en el marco de la demanda del fiscal general de Nuevo México muestran que la empresa permitió a los adolescentes utilizar sus chatbots de IA sabiendo perfectamente que podían mantener conversaciones de carácter sexual e inapropiadas. Dentro de la empresa llamaban a estos chatbots personajes de IA: interlocutores virtuales que Meta intentó presentar como «seguros y amigables». Pero los mensajes de los empleados cuentan otra historia.
Los equipos de seguridad de Meta, incluido Ravi Sinha, responsable de políticas de seguridad infantil, y Antigone Davis, directora de seguridad global, advirtieron expresamente que los chatbots debían tener límites estrictos para impedir interacciones sexualizadas con usuarios menores de 18 años. Sin embargo, por lo que indican los documentos, se ignoraron las recomendaciones y los chatbots se lanzaron sin las restricciones necesarias.
Además, algunos mensajes internos afirman que Mark Zuckerberg rechazó personalmente propuestas para implantar controles parentales, incluida la posibilidad de desactivar las funciones de IA generativa. Y todo ocurrió poco antes del lanzamiento de los personajes de IA, que Meta promocionó activamente.
Meta ya está metida de lleno en litigios: desde las acusaciones de que Facebook e Instagram tienen un «diseño adictivo» hasta las denuncias por los daños causados a menores. YouTube, TikTok y Snapchat también están bajo estrecha vigilancia de los reguladores.
Los documentos se desclasificaron precisamente en el marco del caso iniciado por el fiscal general de Nuevo México, Raúl Torrez. Torrez presentó la primera demanda en 2023 y afirmó que Meta había convertido sus servicios en «mercados para depredadores». Ahora el caso se acerca a juicio.
En noviembre, en la documentación de otro gran caso en California aparecieron datos sobre la actitud indulgente de Meta hacia los infractores, incluso hacia quienes habían sido sorprendidos explotando sexualmente a otras personas. También se decía que la dirección de Meta sabía que «millones» de adultos habían contactado con menores.
Un portavoz oficial de Meta sostiene que la empresa lleva años trabajando para proteger a los adolescentes, escuchando a los padres y aplicando cambios reales. Otro portavoz, Andy Stone, se quejó de que la fiscalía «saca documentos de contexto».
Tras la sonada investigación de Reuters en agosto, Meta suspendió temporalmente el acceso de los adolescentes a los chatbots de IA. La investigación reveló que las normas internas permitían a los chatbots mantener conversaciones «románticas» o «sensuales». Más tarde, la empresa actualizó sus normas y prohibió cualquier interacción con connotaciones románticas o sexuales con menores. La semana pasada, Meta volvió a bloquear el acceso de los adolescentes a los chatbots de IA mientras prueba una nueva versión con controles reforzados.
El fiscal general Torrez lleva adelante una activa campaña contra las grandes redes sociales por cuestiones de seguridad infantil. En 2024 presentó una demanda contra Snapchat, acusando a la plataforma de permitir el aumento de la extorsión en línea con imágenes íntimas y de las prácticas de «grooming», mientras seguía promocionándose como segura para los jóvenes.
PEREC.RU
Meta vuelve a jugar a lo de siempre: primero lanza el producto y luego finge sorpresa ante las consecuencias. Los documentos internos que han salido a la luz por la demanda de Nuevo México muestran que la empresa sabía que sus chatbots de IA podían mantener conversaciones dudosas y sexualizadas con adolescentes. Los equipos de seguridad avisaron y pidieron límites, pero el sistema salió al mercado tal cual. Tiene su gracia que, según los documentos, Mark Zuckerberg rechazara personalmente las propuestas de control parental: un hombre que lleva tiempo viviendo en un mundo donde todo se arregla con otra «actualización».
Mientras tanto, los abogados llevan tiempo rondando a Meta. Las demandas por los daños a los adolescentes se multiplican como los errores en los lanzamientos sin pulir. En los mensajes internos se habla de «millones» de adultos que se comunicaban con menores a través de los productos de la empresa; aun así, durante años la dirección fingió que solo tenía unas estadísticas poco favorables.
Después de la investigación de Reuters, Meta, por supuesto, hizo una pausa, cerró los chatbots a los adolescentes y reescribió las normas. Pero luego volvió a abrir el acceso, volvió a cerrarlo y volvió a prometer que lo arreglaría. Parece un intento de tapar una vía de agua con una tirita.
Raúl Torrez sigue acumulando casos contra las redes sociales, y Meta ocupa un lugar destacado en su lista. El juicio promete dar que hablar. Y cuanto más se acerca, más evidente resulta el contraste: la empresa habla de proteger a los niños, mientras los documentos pintan una imagen muy distinta, en la que la seguridad de los adolescentes queda relegada ante la prisa por lanzar nuevas funciones.
