Expertos contra la IA de Google para niños: peligros para los usuarios más jóvenes

Los niños y la inteligencia artificial forman un dúo que, según los expertos, puede acabar en algo más grave que una travesura infantil. Un nuevo informe de los investigadores de Common Sense Media explica en detalle por qué los niños y adolescentes no deberían confiar en las nuevas herramientas de búsqueda de Google: AI Overview y AI Mode. La forma ya habitual de «buscar en Google» los deberes o una respuesta de historia se convierte ahora en un camino sembrado de minas, advierten los autores del informe.

Entre mayo y julio de 2023, los investigadores realizaron 2.600 interacciones de prueba con estas funciones de IA. No solo probaron preguntas corrientes, sino también temas especialmente peligrosos: suicidio, trastornos alimentarios, psicosis y explotación sexual infantil. El resultado es desolador: los algoritmos no solo dejan de ayudar a los niños en situaciones difíciles, sino que agravan los problemas. Se registraron casos en los que la IA ignoró indicios de pensamientos suicidas, «animó» síntomas de manía y psicosis, aprobó dietas perjudiciales e incluso ensalzó el consumo de cannabis.

A eso se suma una peculiaridad extraña: una misma pregunta de historia provoca en la IA un trastorno de personalidad, con respuestas de contenido y profundidad distintos, e incluso con errores. Y la IA hace los deberes por su cuenta, dejando a los profesores en el papel de figurantes.

Por todo ello, los investigadores exigen que las escuelas y las familias puedan desactivar AI Overview y AI Mode. Para los alumnos más pequeños, solo la buena y vieja búsqueda en bases de datos bibliográficas, no el taimado botón de «Buscar con Google». En casa, conviene buscar, si es posible, sin la «magia» de la IA.

Google tiene otra opinión: la empresa ha calificado el informe de sesgado y asegura que sus pruebas dieron respuestas de mucha más «calidad». En cualquier caso, los padres que quieran proteger a sus hijos de las novedades se enfrentarán a una carrera de obstáculos burocrática para configurar el control parental.

Es revelador que en muchos países estos modos estén desactivados para los adolescentes, pero no en Estados Unidos. Así que padres y profesores tienen que controlar los riesgos por su cuenta. Si se tiene en cuenta que el 75 % de los adolescentes ya utiliza a menudo la búsqueda con IA, la situación empieza a parecer una epidemia: estas herramientas se reparten incluso en las escuelas.

En las pruebas, los investigadores crearon cuentas ficticias de niños de 11 y 15 años, con SafeSearch y Family Link activados; ni siquiera eso sirvió. Los especialistas señalan que las preguntas de la prueba no se eligieron al azar: se elaboraron teniendo en cuenta la opinión de expertos en psicología, pediatras e incluso las aportaciones de los propios adolescentes.

Google responde que los usuarios reales siempre reformulan sus consultas y que los escenarios de prueba no son realistas. Pero, por desgracia, los resultados apuntan en sentido contrario. De 214 consultas preocupantes, la IA dio una respuesta correcta —con la recomendación de pedir ayuda— solo en el 58 % de los casos con AI Overview y en el 77 % con AI Mode. En algunos casos, las respuestas no solo fueron inútiles: podían empeorar la situación.

Otro motivo de preocupación: AI Mode escribió redacciones y resolvió ejercicios para niños 180 veces seguidas; y, al comprobar datos históricos, el 43 % de las respuestas difería en lo esencial. Incluso falló en preguntas triviales sobre cultura pop: la cantante «favorita» de la IA no era la que realmente había colocado una canción en lo más alto de las listas. Los especialistas de Google dicen que están mejorando, corrigiendo y prometiendo.

Como también crece en Rusia el uso de estas herramientas, los padres deberían preguntarse: ¿están dispuestos a confiar la salud mental de sus hijos al buen genio de la inteligencia artificial? Por ahora, parece que el juego no merece la pena.