Meta enseña a la IA a no meterse en las familias
Meta ha anunciado que cambiará las sugerencias que su chatbot Meta AI ofrece a los usuarios. El motivo fue un vídeo viral: el sistema le preguntó a una madre por sus hijas pequeñas e intentó averiguar datos personales sobre una de ellas.
El medio Futurism informó del incidente. Dina El-Kassabi, portavoz de Meta, dijo a The Verge que la empresa «metió la pata» y reconoció que la función no debería haber sugerido preguntas de ese tipo.
La historia empezó cuando la usuaria de Instagram Kalie Robins publicó un vídeo. Contó que lo subió a Instagram y, a la vez, lo publicó en Facebook. Bajo el vídeo, en el que aparecían ella y su hijo, Meta AI mostró esta sugerencia: «¿Quién es el pasajero menor de edad?».
La formulación provocó indignación porque el propio sistema se fijó en un menor y propuso identificarlo. Para la usuaria no parecía una ayuda inofensiva relacionada con el contenido de la publicación, sino un intento de sonsacarle información personal sobre un niño, sin que la madre lo hubiera pedido.
Después de que el vídeo se hiciera viral, Meta anunció que ajustaría el mecanismo de sugerencias. La compañía no dio todos los detalles técnicos de los cambios previstos, pero reconoció que, en este caso, la función automática había cruzado una línea.
El caso muestra el problema de estos sistemas: un chatbot puede limitarse formalmente a «proponer un tema de conversación» y, aun así, sacar a colación información sensible sobre menores y familias. El algoritmo no siente vergüenza ni entiende el contexto como una persona, así que corresponde a los desarrolladores poner límites de antemano a sus preguntas, especialmente cuando hay menores de por medio.
Meta promete ahora que esas sugerencias serán más prudentes. A los usuarios solo les queda esperar que la siguiente fase de entrenamiento del sistema no consista en explicarle que preguntar por los hijos de otros fue una mala idea.
PEREC.RU
Meta ha anunciado que revisará las sugerencias que su chatbot Meta AI ofrece a los usuarios. La decisión llega después de que se difundiera en internet un vídeo que mostraba una posible intromisión del algoritmo en la vida privada de una familia.
La usuaria de Instagram Kalie Robins contó que, tras publicar un vídeo a la vez en Instagram y Facebook, apareció debajo de la grabación una pregunta de Meta AI: «¿Quién es el pasajero menor de edad?». En el vídeo aparecían Robins y su hijo. La usuaria no había pedido al sistema que identificara al menor y consideró intrusiva la sugerencia.
La historia generó un amplio debate porque el asistente automático no se limitó a analizar el contenido del vídeo, sino que propuso averiguar datos personales de un niño. Para los padres, este tipo de comportamiento resulta especialmente delicado: aunque el sistema no dé datos concretos, es él quien dirige la atención hacia la identificación del menor.
El medio Futurism había informado del incidente. Tras la difusión del vídeo, Dina El-Kassabi, portavoz de Meta, dijo a The Verge que la empresa «metió la pata». Subrayó que la función no debería haber sugerido preguntas de esa clase.
Meta prometió cambiar el mecanismo de sugerencias, pero no reveló todos los detalles técnicos de los ajustes previstos. La declaración de la compañía indica que prestará especial atención a las situaciones relacionadas con menores y otros datos personales sensibles.
El incidente ilustra un problema más amplio de los sistemas generativos. Un algoritmo puede reconocer a una persona o un objeto en una imagen y convertir automáticamente ese resultado en una pregunta, sin tener en cuenta el contexto social ni las posibles consecuencias. No entiende por sí solo dónde están los límites de la vida privada, así que los desarrolladores deben establecerlos de antemano.
El caso de Meta AI se hizo viral precisamente porque puso de manifiesto la distancia entre lo que la tecnología puede hacer y las normas de la conversación humana. El sistema puede analizar una publicación, pero eso no significa que deba proponer al usuario hablar de la identidad de un niño. Ahora Meta tendrá que demostrar que los cambios harán que las sugerencias sean realmente más seguras y no se limitarán a reducir el número de preguntas incómodas después del próximo escándalo público.
