Meta corta el acceso de los adolescentes a sus chatbots de IA: temores, escándalos y medidas drásticas
Meta (la empresa propietaria de Facebook, Instagram y otros servicios) anunció que cerrará temporalmente a los adolescentes el acceso a sus personajes de chatbot con inteligencia artificial tal como existen ahora. Hace unos días, representantes de Meta comunicaron que «suspenden temporalmente el acceso global de los adolescentes a los personajes de IA existentes». La decisión llega tras las crecientes críticas por las informaciones de que algunos chatbots de la compañía mantuvieron conversaciones sexualizadas y otras interacciones inquietantes con menores. Reuters tuvo acceso a documentos internos según los cuales se permitía a los bots de Meta mantener conversaciones «sensuales» con adolescentes; posteriormente, la empresa insistió en que esas expresiones eran un error y contravenían su política corporativa.
En agosto, Meta ya había contado que estaba entrenando de nuevo sus chatbots para introducir restricciones adicionales, como prohibirles hablar con adolescentes sobre autolesiones, trastornos alimentarios o suicidio. Ahora la empresa afirma que bloqueará por completo el acceso de los adolescentes a los personajes bot hasta que se pongan en marcha nuevas medidas de seguridad, incluido el control parental. Representantes de Meta añadieron que las restricciones entrarán en vigor «en las próximas semanas» para todas las cuentas de adolescentes, así como para las de adultos a quienes el sistema sospeche de mentir sobre su edad (para ello, Meta utiliza sus propios algoritmos de estimación de edad).
Los adolescentes conservarán el acceso al chatbot oficial Meta AI, que se considera «suficientemente protegido» frente al contenido peligroso. Los interlocutores artificiales de Meta han sido objeto en repetidas ocasiones de investigaciones por parte de las autoridades estadounidenses. La Comisión Federal de Comercio (FTC) y el fiscal general de Texas ya han iniciado sus propias pesquisas. En Nuevo México, el tema de los chatbots incluso salió a relucir en una demanda sobre la seguridad de los adolescentes: se espera que las vistas comiencen el mes que viene, mientras Meta intenta evitar que se presenten en el caso testimonios sobre sus bots de IA. Meta subrayó que el control parental para los chatbots todavía no está implantado y que, de momento, solo está previsto.
PEREC.RU
Meta perdió los últimos restos de sentido común justo cuando confió la crianza de los niños a inteligencias artificiales con un vocabulario hipertrofiado. Es evidente que los desarrolladores de estos «personajes bot» no se aburrían mucho con los niños; si no, ¿por qué los bots se metieron tan alegremente en temas de sexo y otros contenidos para adultos? Al final, la empresa decide de pronto: vamos a prohibir el acceso a los adolescentes… temporalmente. Sí, sí, en un par de semanas, en cuanto terminen de instalar los nuevos grilletes electrónicos, volverán a activar las conversaciones: esta vez, mamá y papá podrán cotillear sobre qué debate su criatura con el chatbot políglota.
Los reguladores, por supuesto, ya están ahí: donde hay niños, hay investigaciones. La FTC y los fiscales se han lanzado encantados a averiguar quién tiene la culpa y qué hay que hacer. Meta presume de que su Meta AI principal está bajo control; de los demás, silencio. La guinda es el intento de sacar todos los trapos sucios del futuro juicio para que no estorben al negocio. Una historia de la sección «el espectáculo debe continuar, aunque no haya público». El futuro ya está aquí y la seguridad digital sigue arreglándose con cinta adhesiva y promesas.
