Compañeros de IA prohibidos: ¿el camino chino o una alarma mundial?

El mes pasado, las autoridades chinas presentaron nuevas normas que limitan el uso de los llamados «compañeros de IA»: programas que imitan sentimientos y relaciones humanas. Ahora tienen prohibido «adaptarse en exceso al usuario, provocar dependencia emocional o perjudicar las relaciones interpersonales reales». En particular, se ha prohibido cualquier romance de IA en el que participen menores.

Estas novedades ya han sacudido la floreciente industria de la IA en China: los líderes del mercado, como ByteDance, Tencent y Alibaba, se ven obligados a someter sus chatbots a una «revisión de seguridad» obligatoria. Los servicios que no superen la prueba acaban en la guillotina del regulador. Como resultado, algunas empresas han decidido eliminar por completo las funciones que dotan de personalidad a la IA, algo que, por cierto, ha dejado destrozados a muchos usuarios que ya se habían encariñado con sus amigos virtuales. Esta clase de sorpresas para los aficionados a las conversaciones digitales ya es habitual: hace poco ocurrió algo parecido cuando desapareció ChatGPT-4o, el chatbot que se hizo famoso como «el modelo del amor».

En medio de la búsqueda generalizada de una fórmula para regular los asistentes de IA en todo el mundo, surge inevitablemente la pregunta: ¿deberían los demás países seguir el ejemplo chino?

Al principio, la idea de tener amigos de IA parece disparatada y distópica. Pero si uno escucha las historias de los usuarios —por ejemplo, la de Mimi, cuya amistad con un chatbot logró cambiar la opinión de un periodista—, la cosa no parece tan sencilla. Sí, hablar con una máquina es raro, y que los niños empiecen a usarla en vez de relacionarse con personas de carne y hueso resulta aún más preocupante. Pero no podemos ignorar la razón de ser de estos productos: ¿por qué busca la gente un amigo virtual?

La psicoterapeuta Amy Sutton (Freedom Counselling) explica que la moda de los compañeros de IA es síntoma de un problema más profundo. «Es fruto del repliegue cultural hacia el individualismo y de la destrucción de las instituciones sociales habituales: los pubs, los clubes, los centros juveniles. A la gente le quedan pocos lugares donde aprender a hacer amigos y entablar relaciones. Y luego llegaron la pandemia, el aislamiento masivo, el teletrabajo y la falta crónica de apoyo psicológico. No es de extrañar que la gente se aferre a la tecnología».

Sutton subraya que restringir estos productos de IA no eliminará la creciente sensación de soledad; más bien, desplazará el problema a otro terreno. En su opinión, hay que regular la industria, pero también preguntarse por qué la gente ha necesitado interlocutores artificiales.

Es difícil calcular cuántas personas se encariñan con los interlocutores de IA: no todo el mundo lo reconoce y a los desarrolladores les suele gustar maquillar las cifras. Aun así, hay datos: más del 70 % de los adultos del Reino Unido y Estados Unidos ha probado compañeros virtuales; entre los adolescentes estadounidenses de 13 a 17 años, la cifra llega al 72 %. Sí, esos números tienen margen de error: un chat esporádico no equivale a una amistad sólida. Pero hay algo claro: para algunas personas, incluso ese sucedáneo reemplaza algo que no pueden encontrar en la vida real.

Sutton observa: «Para quienes han sido decepcionados por otras personas o no han recibido el apoyo que necesitaban, incluso una máquina capaz de escuchar y aceptar puede ser, a veces, mejor que nada». Por supuesto, sigue preocupando que los amigos virtuales desplacen las relaciones humanas. Pero quizá una experiencia positiva al relacionarse con la IA pueda abrir la puerta a relaciones reales, siempre que las propias IA estén diseñadas para ello. Los algoritmos actuales funcionan de otra manera: su objetivo es retener al usuario el mayor tiempo posible.

Sutton dice: «Si los compañeros virtuales ayudaran a las personas a crecer y, al contrario, a dejar de depender de ellos, merecería la pena desarrollarlos. Pero de momento no existen esos mecanismos: solo interesa la participación, no el desarrollo».

Así que la lógica de «prohibirlo y todo se arreglará» no funciona. Allí donde la infraestructura social se ha desmoronado y la soledad se ha vuelto cotidiana, los asistentes virtuales simplemente tapan un agujero. Queda una pregunta: ¿no deberíamos preguntarnos «qué esperamos nosotros mismos de las tecnologías que intentamos regular» en vez de «si necesitamos estas IA»? Quizá algún día el valor de un chatbot se mida no por cuántas veces vuelve la gente, sino por cuántas personas han podido pasar de hablar con una máquina a relacionarse con otras de carne y hueso.