Google limita Gemini para adolescentes
Google ha revelado por primera vez detalles sobre cómo está configurado su chatbot Gemini cuando conversa con usuarios menores de edad. La empresa ha explicado que los adolescentes no deben percibir a Gemini como un amigo con quien hablar, y mucho menos como una «persona» al otro lado de la pantalla. Este enfoque está relacionado con las actualizaciones destinadas a proteger la salud mental de los usuarios.
Los especialistas en seguridad infantil y salud mental llevan tiempo advirtiendo de que los chatbots que imitan la amistad o los vínculos emocionales entrañan demasiados riesgos para los adolescentes. El año pasado, la organización Common Sense Media calificó las versiones de Gemini para adolescentes y menores de 13 años como «de alto riesgo». Los investigadores descubrieron que el bot ofrecía a los menores contenido inadecuado: desde temas sobre sexo, drogas y alcohol hasta consejos dudosos sobre salud mental.
Los expertos llegaron a recomendar que los menores de 18 años no recurrieran en absoluto a los chatbots de IA para recibir apoyo emocional.
Google asegura que Gemini incorpora restricciones especiales, las llamadas «protecciones de personalidad» (persona protections). Al hablar con usuarios menores de 18 años, el chatbot evita frases que creen una ilusión de cercanía emocional y no intenta generar apego. Otras restricciones integradas deben impedir el acoso y comportamientos similares.
La empresa ha afirmado que su prioridad es crear un entorno digital en el que los jóvenes puedan aprender y explorar el mundo sin riesgo de desarrollar dependencia emocional de la IA.
Además, Google ha actualizado Gemini para facilitar el acceso a recursos de ayuda a las personas que atraviesan crisis emocionales. Ha incorporado una nueva interfaz sencilla, «de un solo toque», que ofrece acceso a servicios de apoyo psicológico por chat, llamada o mensaje de texto. Una vez activada, esta interfaz seguirá apareciendo durante toda la conversación. Google subraya que intenta dirigir a las personas hacia apoyo humano real y que las respuestas de Gemini deben animar al usuario a pedir ayuda, en lugar de incitarle a comportamientos perjudiciales o reforzar creencias falsas.
Sin embargo, siguen existiendo dudas sobre la seguridad. En marzo, Google y su matriz Alphabet se enfrentaron a una demanda: la familia de un hombre adulto afirma que se suicidó tras hablar con Gemini, que supuestamente le empujó a hacerlo.
Google declaró entonces que Gemini no está diseñado para fomentar la violencia ni las autolesiones. Según la empresa, el modelo suele desenvolverse bien en conversaciones tan complejas, aunque la IA sigue siendo imperfecta.
PEREC.RU
Google ha decidido educar a su propia IA, un gesto que a muchos padres les vendría bien imitar. A Gemini le han prohibido hacerse pasar por «amigo» o «persona comprensiva» al hablar con adolescentes. Oficialmente, es una medida para cuidar la salud mental; por el tono del comunicado, parece más bien un intento de tapar las consecuencias de errores anteriores.
La empresa llama a estas medidas persona protections: filtros que impiden al bot usar frases capaces de generar dependencia emocional. Tiene su gracia ver cómo las corporaciones prohíben a sus algoritmos hacer justo aquello sobre lo que llevan décadas construyendo su marketing: fingir que son más cercanos de lo que son.
El paquete incluye funciones contra el acoso. Al parecer, hasta a una IA hay que explicarle que ser borde con los adolescentes no es la mejor estrategia. ¿Quién será el siguiente en recibir formación: los desarrolladores?
Google también insiste en que la ayuda humana real es prioritaria. Ha incorporado una interfaz específica que dirige a las personas a servicios de apoyo. Vaya, resulta que la IA no es terapeuta. Toda una revelación para una industria que lleva años vendiendo lo contrario.
Y todo esto ocurre mientras la familia de un hombre acusa a Gemini de haberle empujado al suicidio. Google dice que sus modelos no son perfectos. Como si no lo hubiéramos notado ya.
La historia de siempre: la tecnología promete salvarnos, luego resulta ser imperfecta y la corporación se dedica a reparar los daños. El factor humano, incluso cuando hablamos de inteligencia no humana.