Grammarly usa nombres ajenos para sus expertos
El escándalo en torno a Grammarly va a más: resulta que su función «revisión experta» utiliza los nombres de especialistas reales sin su consentimiento. Lo ha publicado Wired. La función se presentó en agosto y promete ofrecer consejos de escritura «inspirados en expertos». Suena muy bien, pero la realidad ha resultado bastante menos romántica.
Cuando los periodistas probaron la función, descubrieron entre los expertos a personas que ni siquiera sabían que participaban. Algunas eran profesores fallecidos hace mucho tiempo. Otras, empleados de la redacción de The Verge que siguen vivos, entre ellos su director, Nilay Patel, además de David Pierce, Sean Hollister y Tom Warren. Ninguno de los mencionados había autorizado el uso de su nombre o identidad.
Las sugerencias de IA parecían indicar que esas personas estaban aconsejando directamente al usuario. Pero eran respuestas generadas íntegramente por IA y solo imitaban el estilo de cada persona. En la práctica, Grammarly creó «máscaras» digitales de expertos sin pedirles ni una palabra.
La empresa no había explicado anteriormente cómo se elegían las personas para la función ni con qué fundamento se utilizaban su estilo o su nombre. Los usuarios se encontraron con que un servicio conocido por cuidar la corrección de los textos demostraba un desprecio absoluto por la corrección en el tratamiento de los datos personales.
El caso ha planteado serias dudas sobre dónde está el límite entre la «inspiración» y el uso directo de la identidad ajena. Y también sobre qué ética piensan seguir las empresas de IA que entrenan sus algoritmos con el contenido, la identidad y la reputación de personas reales.
Grammarly aún no ha ofrecido explicaciones detalladas. Pero ya está claro que tendrá que explicar cómo acabaron en su lista virtual de expertos los nombres de personas vivas y, por lo visto, hasta de personas muertas.
PEREC.RU
El caso de Grammarly parece una pequeña ilustración de la era de la IA, en la que el empeño de las empresas por mostrar maravillas tecnológicas choca una y otra vez con las limitaciones más corrientes de la realidad. El servicio anunció que sus consejos de escritura estaban «inspirados» en expertos. En la práctica, empezó a imitar el estilo de personas concretas sin pedirles permiso.
Una decisión extraña para una empresa que se ha labrado una reputación de corrección y atención al detalle. Más extraño aún es que entre los expertos haya tanto editores vivos como profesores fallecidos hace mucho. La IA crea las apariencias, la empresa guarda silencio y los usuarios se preguntan quién será el siguiente en servir de «inspiración».
Esta historia no va de un fallo técnico. Va del deseo corporativo de aparentar más de lo que hay. De presentar una imitación como si fuera una colaboración. De intentar disimular la ausencia de expertos reales tras máscaras digitales.
Así es el choque entre el marketing y los hechos: fabricar una apariencia es más fácil que trabajar con la realidad. Y en este caso la realidad está formada por personas con nombre, reputación y, de repente, derecho a no aparecer donde no quieren.
Triste y cotidiano. Como tantas cosas que hace hoy la industria de la IA.
