Meta AI avisará a los padres si los adolescentes hablan de suicidio

Meta ha anunciado que, a partir de ahora, si un adolescente habla con la inteligencia artificial de la compañía (Meta AI) sobre suicidio o autolesiones, sus padres recibirán una notificación. Esta novedad forma parte de la ampliación de las medidas ya existentes para informar a los padres sobre el uso que sus hijos hacen de las tecnologías de Meta.

Sin embargo, solo recibirán el aviso los padres que supervisen a sus hijos a través de Instagram. Con el tiempo, la compañía quiere implantar un sistema similar de notificaciones en sus otras aplicaciones. Al presentar las nuevas medidas, Meta señaló que había colaborado con padres y expertos en la materia para determinar en qué casos una conversación debe ser motivo de alarma, incluso si el adolescente alude a sus problemas de forma indirecta.

Hasta ahora, la inteligencia artificial de Meta ya aconsejaba a los adolescentes que acudieran a especialistas o a un adulto si hablaban de suicidio. Ahora los padres recibirán avisos sobre esas conversaciones. Meta subraya que, en caso de duda, la compañía optará por la cautela y dará prioridad a proteger al adolescente.

Primero, la IA selecciona automáticamente los mensajes preocupantes, que después revisan manualmente empleados de la compañía. Los padres no reciben solo la alerta: también obtienen consejos elaborados por profesionales para ayudarles a hablar con sus hijos, con calma y paso a paso, sobre una posible autolesión o un suicidio. La notificación llega como aviso push a la aplicación y se duplica por correo electrónico, SMS o WhatsApp, según los datos de contacto que hayan facilitado los padres.

Instagram cuenta con un sistema similar desde febrero. John Ackerman, responsable clínico del Centro para la Prevención del Suicidio, señaló que proteger a los niños está bien, pero que estas medidas no sirven de nada si los padres no pueden utilizarlas adecuadamente o si no producen cambios reales. En cualquier caso, Meta asegura que estos pasos forman parte de una política más amplia.

Por ahora, el sistema solo está disponible para padres de Estados Unidos, Reino Unido, Canadá y Australia, aunque prometen implantarlo en todo el mundo antes de fin de año. Como era de esperar, no ha faltado la crítica: Brendan Buffar, defensor de los derechos de la infancia de Fairplay, recomienda no celebrar demasiado pronto. Dice que Meta sigue actuando a su manera: promete proteger a los niños, con bastante ironía, pero a menudo luego hace otra cosa. Ha recordado que, según sus investigaciones, la protección de los adolescentes en los servicios de Meta es bastante deficiente. La compañía sostiene que el informe lo tergiversa todo.

Meta también está incorporando medidas adicionales: filtros de contenido estrictos, que ya existían en Instagram, para evitar que a los adolescentes les aparezcan conversaciones sobre sexo, romance, alcohol y una interminable lista de otros temas prohibidos. Con los «filtros estrictos» activados, la inteligencia artificial se niega mucho más a hablar con ellos.

Pese a todas estas medidas, las organizaciones sociales creen que Meta vuelve a trasladar la responsabilidad a los padres, en vez de crear desde el principio una plataforma realmente segura. Esto irrita a quienes llevan tiempo siguiendo el tema.

La compañía sigue afrontando demandas relacionadas con la seguridad infantil: este año Meta ya ha perdido dos importantes juicios por acusaciones de no proteger adecuadamente a los adolescentes. La empresa ha prometido recurrir. Pero hay un montón de nuevas demandas y nadie sabe muy bien cuándo amainará esta oleada.