Zuckerberg y los chatbots prohibidos
Meta vuelve a estar en el centro de un escándalo y, como de costumbre, todo gira en torno a los niños, los chatbots y las decisiones bastante extrañas de Mark Zuckerberg. Unos documentos internos obtenidos por el fiscal general de Nuevo México muestran que el jefe de Meta se oponía a que sus chatbots de inteligencia artificial mantuvieran conversaciones «subidas de tono» con menores. Pero, al mismo tiempo, rechazó la idea de implantar controles parentales. ¿La lógica? Parece que hace tiempo que salió de las oficinas de Meta y se fue a algún lugar lejano.
En un intercambio de mensajes entre dos empleados de Meta, uno cuenta que el equipo intentó «suplicar» que se introdujeran controles parentales para poder desactivar la IA generativa. Pero la dirección de GenAI «echó abajo» la idea, apelando a la decisión de Mark. Como era de esperar, Meta afirmó que las autoridades de Nuevo México estaban sacando documentos de contexto y «distorsionando el panorama». Por cierto, Nuevo México está demandando a Meta por supuestamente no haber logrado frenar el torrente de contenido sexual y acoso que sufrieron los niños. El juicio está previsto para febrero.
El problema es que la historia de los chatbots ya parece desde hace tiempo una crónica de sucesos. En abril de 2025, una investigación de The Wall Street Journal reveló que los chatbots de Meta podían mantener fantasías sexuales con menores o hacerse pasar por un niño para participar en esas conversaciones. El periódico afirmó que Zuckerberg quería rebajar las barreras de protección de los chatbots. Meta, naturalmente, lo negó todo.
En el verano de 2025 salieron a la luz documentos internos con «escenarios hipotéticos» sobre el comportamiento de los chatbots. La frontera entre lo «sensual» y lo «sexual» era tan difusa que parecía dibujada con una goma de borrar. También aparecían situaciones en las que se permitía al chatbot discutir en defensa de ideas racistas. Meta aseguró que eran solo ejemplos, que «no constituían la política de la empresa» y que, por supuesto, ya los habían eliminado.
Y, aun así, no decidieron restringir temporalmente el acceso de los adolescentes a los chatbots hasta la semana pasada. Meta explicó que por fin se había puesto a crear esos mismos controles parentales que Zuckerberg había descartado antes. Mientras se desarrollan las herramientas, han decidido mantener a los adolescentes alejados de los personajes de IA.
Meta subraya que los padres ya podían ver si sus hijos habían hablado con una IA en Instagram. En octubre, la empresa prometió ampliar las opciones de control mediante nuevas herramientas. Ahora asegura que ha «reforzado su compromiso» con esa promesa.
Y todo esto ocurre mientras sigue adelante la demanda de Nuevo México, presentada en diciembre de 2023. Entonces, documentos internos de Meta revelaron que cada día sufrían acoso 100.000 niños en sus servicios.
La historia continúa, y es poco probable que tenga un final feliz.
PEREC.RU
Meta vuelve a hacer ruido, digital y jurídico. La empresa se ve envuelta en un asunto turbio de adolescentes, chatbots y una lógica de gestión bastante peculiar.
Primero, los documentos internos. Muestran que Zuckerberg rechaza a la vez las conversaciones indecentes de la IA con niños y cualquier herramienta que pudiera impedirlas. Ni prohibirlas, ni limitarlas: detenerlas. El resultado es que no se pueden cerrar las puertas, pero tampoco dejar entrar a nadie. Un paradoja muy conveniente.
Después llegan las investigaciones periodísticas. Documentan cómo los chatbots recrean situaciones sexualizadas, imitan a menores y se deslizan hacia fantasías dudosas. Meta responde con el repertorio habitual: no sabemos nada, lo arreglaremos, eran «hipótesis».
Y ahora, un brusco cambio de rumbo. Se mantiene a los adolescentes lejos de los chatbots, se prometen herramientas parentales y la empresa hace gala de su preocupación. Pero parece más una reacción que una estrategia. Como apagar un incendio que llevaba años ardiendo.
Nuevo México no deja que olvidemos las viejas acusaciones: ya en 2023 había acoso masivo a niños en los servicios de Meta. Ahora esa cifra sirve de telón de fondo y hace que las decisiones de la empresa parezcan no solo extrañas, sino sistemáticamente ineficaces.
El resultado es el de siempre. El gigante digital corre más rápido de lo que piensa. Y le toca pensar cuando ya tiene encima al tribunal y a la opinión pública.
