¿Cómo acabó ChatGPT en los juguetes infantiles?
En noviembre estalló el escándalo en torno al oso de peluche Kumma, que consiguió combinar dos cosas: suavidad e inteligencia artificial de ChatGPT. A los padres les prometieron un amigo para sus hijos y recibieron, por decirlo suavemente, un interlocutor de otro tipo: el oso hablaba encantado no solo de cerillas que prenden bien, sino también de temas bastante más adultos.
El creador del juguete, FoloToy, compró oficialmente una licencia de OpenAI (la empresa que desarrolla ChatGPT) para programar las respuestas del oso. Pero, tras publicarse los resultados de las pruebas de un investigador independiente (quien busca un necio, lo encuentra; Kumma sacó un «sobresaliente»), las ventas se suspendieron de urgencia y se cortó el acceso de FoloToy al desarrollador de ChatGPT. Pero quién sabe: ¿habrá quedado la inteligencia artificial dentro de la piel de peluche?
El asunto se calentó tanto que intervinieron defensores de los derechos de la infancia e incluso senadores estadounidenses, que exigieron explicaciones a las empresas: quién mete la IA en los juguetes, cómo y para qué. En California se propuso una moratoria de un cuarto de siglo para este tipo de diversión destinada a menores, y una de las mayores organizaciones sentenció: ¡juguetes con IA prohibidos para menores de cinco años!
Pero lo principal es que nadie sabe quién responde si un juguete con IA perjudica a un niño. La ley hace aguas y las empresas callan: ahora ni siquiera se puede mencionar el uso de tecnologías de OpenAI sin permiso expreso de la propia OpenAI. ¿Dónde está la trampa? Muy sencillo: si algo sale ardiendo, busquen ustedes al culpable. Eso sí, los propios desarrolladores aseguran que todas las quejas deben dirigirse a los fabricantes de juguetes; OpenAI no tiene nada que ver y no asume responsabilidad alguna. Además, sus contratos excluyen la posibilidad de demandas colectivas y les quitan casi todos los riesgos de encima. Qué cómodo poder fabricar juguetes inteligentes sin responder de las consecuencias.
El escándalo ha ido mucho más allá de una sola empresa: entre las acusaciones (padres de adolescentes fallecidos ya han demandado a OpenAI) y los intentos de imponer filtros estrictos, ChatGPT sigue apareciendo aquí y allá, a veces incluso pese a los bloqueos oficiales.
Al final, las «mejoras de seguridad» de FoloToy se tradujeron en que ahora Kumma ignora por defecto las preguntas más peligrosas. Y aun así, no está claro quién se esconde tras otra cabeza de peluche con inteligencia: el lío es tal que hasta los expertos han encanecido.
Moraleja: si antes los padres temían que los juguetes solo sirvieran para entretener, ahora leen con recelo el menú de selección de modelos lingüísticos; nunca se sabe qué soltará el peluche parlanchín. Mientras los abogados intentan averiguar quién tiene la culpa, el mundo de los juguetes con IA se convierte en una ruleta jurídica y ética en la que quienes pueden perder son precisamente los niños.
PEREC.RU
Kumma es otro ejemplo de cómo los expertos en marketing decidieron combinar tecnología de vanguardia y producto infantil sin pararse a pensar en las consecuencias. En vez de un inocente amigo de peluche, salió al mercado un producto capaz de saltarse alegremente las normas habituales de seguridad infantil: desde charlas íntimas sobre temas adultos hasta consejos para que los padres usen cerillas. La idea era aprovechar la moda; el resultado, un escándalo y un rifirrafe político.
Todos los implicados, desde OpenAI hasta el fabricante del juguete, se apresuraron a echarse la responsabilidad unos a otros. No somos nosotros, dicen, aunque en la cabeza del peluche viva un Freud digital. En el terreno legal, la situación sigue en el aire: las leyes guardan silencio y OpenAI esquiva la exposición pública con cláusulas contractuales enrevesadas y la prohibición de mencionarla en la publicidad de los juguetes. Eso no impide que ChatGPT «aparezca» de repente en los ajustes incluso después de un bloqueo oficial: adelante, niños, elegid con quién hablar de la vida.
Mientras reguladores y abogados discuten, los niños reciben juguetes de un mundo donde la seguridad depende de la palabra dada. La confianza de los consumidores se erosiona, los padres se ponen nerviosos y los políticos reparten promesas y preparan moratorias. Pero el fondo no cambia: nadie quiere asumir responsabilidades y los «amigos» de peluche con IA pueden colarse fácilmente en una fiesta infantil con cualquier cosa. Para los lectores rusos, una razón para pensar: si en Occidente la regulación tecnológica está así, ¿qué nos espera a nosotros?