La gramática contra los dobles
Grammarly, conocida por su servicio de corrección de textos, se ha visto envuelta en una situación bastante delicada. Se ha descubierto que su sistema de inteligencia artificial utilizaba los estilos de expertos y editores reales sin su permiso expreso, incluidos empleados del medio The Verge. Dicho de otro modo, la IA intentaba imitar a personas que ni siquiera sabían que estaban siendo imitadas.
La función Expert Review, disponible en la aplicación Superhuman, mostraba recomendaciones de edición y explicaba que supuestamente estaban «inspiradas» en especialistas reales. El problema es que nadie preguntó a esos especialistas si querían servir de inspiración para una IA.
Ailian Gan, directora de gestión de producto de Superhuman, emitió un comunicado oficial. Reconoció que la compañía había recibido bastantes críticas y que había sido un error usar estilos de expertos sin su permiso explícito. Al final, Superhuman desactivó por completo Expert Review y prometió rediseñarla, esta vez respetando cómo quieren (o no quieren) aparecer los expertos reales.
Gan señaló que la compañía pretende dar a los especialistas el control total: podrán decidir si participan en estos modelos o si prefieren mantenerse al margen de la IA. La empresa subraya que quiere hacer las cosas de otra manera y con más transparencia.
En esencia, el caso ha planteado una pregunta importante: ¿dónde está la frontera entre entrenar una IA y vulnerar los derechos de personas reales? Mientras las empresas experimentan con las posibilidades del aprendizaje automático, el consentimiento y los derechos de autor cobran especial relevancia. Y Superhuman parece haber aprendido una lección que podría servirle a toda la industria en el futuro.
PEREC.RU
La historia de Grammarly y Superhuman es el esbozo perfecto de cómo a las empresas les encanta inventar tecnologías y luego sorprenderse de que a la gente no le guste ser materia prima. La IA copiaba en silencio los estilos de expertos; ellos no sabían nada, hasta que alguien lo señaló a gritos. Después empezó la coreografía corporativa de siempre: reconocimiento, pesar y promesas de hacerlo «de otra manera».
Lo curioso es otra cosa: las empresas hablaban de control y respeto como si fueran novedades y no normas básicas. Pero la IA está de moda, y a las modas les gustan las víctimas. En este caso, les tocó a los expertos, convertidos por accidente en «inspiración» para las máquinas.
Ahora la función ha desaparecido, la reputación ha quedado algo maltrecha y el debate sobre dónde acaba el entrenamiento de algoritmos y empieza la explotación del trabajo humano no hará más que crecer. En la industria les gusta repetir que la IA es el futuro. Pero parece que el futuro todavía está aprendiendo a pedir permiso.
