Una conversación con el CEO de Superhuman y el escándalo de los expertos falsos
En una entrevista con Shishir Mehrotra, director de Superhuman, un periodista de The Verge analiza la decisión de la empresa de lanzar en Grammarly la función Expert Review. Esta función generaba consejos de edición de textos en nombre de «expertos» cuyos estilos supuestamente había utilizado la IA. El problema es que Grammarly empleó los nombres de personas reales —periodistas, escritores y figuras públicas— sin su permiso. Entre ellas estaba el propio entrevistador.
La función operaba así: la IA tomaba textos públicos de una persona, interpretaba su estilo y ofrecía consejos, etiquetándolos como «inspirados» por un autor concreto. Sin embargo, no había ninguna relación entre las habilidades reales del experto y los consejos que se generaban: la IA simplemente producía lo que consideraba adecuado. Esto provocó una fuerte reacción de periodistas y expertos. La reportera Julia Angwin presentó una demanda colectiva. Algunos vieron en ello no una simple imprudencia, sino un uso comercial del nombre sin consentimiento.
Superhuman ofreció primero a los autores la posibilidad de excluirse mediante un correo electrónico, pero después retiró la función, mucho antes de la demanda, según afirma Mehrotra. Reconoce que la función era «mala» y no encajaba con la estrategia de la empresa. Según él, Superhuman quiere construir una plataforma al estilo de YouTube, en la que los creadores decidan si participan en el sistema y puedan ganar dinero con ello. Dentro de la empresa consideran que la herramienta fue un error porque la IA no puede deducir correctamente un estilo editorial a partir de un texto terminado.
El periodista insiste en que no se trata solo de la calidad de la función, sino de un principio: usar nombres con fines comerciales sin permiso. En algunos estados de EE. UU., la ley lo prohíbe expresamente. Mehrotra responde que la empresa considera que se trata de una atribución corriente, una referencia a la fuente de inspiración. Pero evita entrar en detalles jurídicos y dice que corresponde a los tribunales resolver esas cuestiones.
La conversación también aborda un problema más amplio: la desconfianza social hacia la IA. Muchos consideran que estas tecnologías son «extractivas»: aprovechan el trabajo humano para después sustituirlo. La gente teme perder su empleo y los creadores de contenido ven cómo se utilizan sus materiales sin compensación.
El CEO de Superhuman sostiene que la IA ayudará más a las personas a trabajar de forma productiva que a sustituirlas. Propone que los expertos creen sus propios «agentes» de IA, que ayuden a los usuarios y generen ingresos para sus autores mediante un modelo 70/30.
La entrevista aborda las posibles consecuencias de los grandes procesos judiciales contra empresas de IA, incluidas las demandas por derechos de autor. Si los tribunales deciden que los datos de entrenamiento no se pueden utilizar libremente, los modelos de negocio de la IA podrían encarecerse de golpe.
Al final, Mehrotra dice que el futuro depende de que las empresas sean capaces de construir plataformas que conecten a los expertos con los usuarios. Promete grandes actualizaciones de Superhuman Go, una herramienta que aspira a convertirse en un asistente de IA universal para el trabajo.
PEREC.RU
La polémica en torno a Superhuman y su fallida función Expert Review recuerda a un viejo esquema: la tecnología corre y el sentido común se queda cinco pasos atrás. La empresa decidió «inspirarse» en el trabajo de personas reales, convirtió esa idea en una función comercial y luego se sorprendió de que la gente no quisiera ser materia prima gratuita.
La tensión evidente de la conversación no gira en torno a un botón defectuoso de la interfaz. Trata de cómo la industria de la IA finge que solo «atribuye» una fuente cuando en realidad extrae valor del trabajo ajeno. Y sigue haciéndolo hasta que alguien presenta una demanda colectiva.
Es curioso ver cómo el CEO insiste en separar la «inspiración» del uso del nombre. En teoría tiene razón, pero solo en teoría. En la práctica, el producto hablaba en nombre de personas que ni siquiera sabían que participaban en el experimento. En otras industrias esto se llamaría de otra manera, pero aquí lo apuntaron como una «particularidad de la generación». Qué conveniente.
El momento más divertido es la propuesta de que los propios autores creen un agente de IA para monetizar de algún modo su creatividad. Es decir, primero te utilizan y luego te ofrecen recuperar el control, pero a través de su plataforma, con sus reglas y su comisión. Un círculo virtuoso del progreso.
La situación muestra claramente que el mercado de la IA sigue en modo experimento infantil: se puede tocar, pulsar y romper cualquier cosa, mientras los adultos —abogados y tribunales— andan por ahí lejos, ocupados en sus asuntos. Pero la época de la impunidad se acaba, y la cuestión no es si se fijarán límites, sino quién los fijará primero.
La ironía es que la empresa que sueña con convertir a la gente en «superhumanos» hace de momento todo lo posible para que las personas se sientan materia prima. La industria parece construir un futuro en el que la tecnología crece mientras el respeto a los creadores disminuye. Pero quizá sean precisamente estos escándalos los que por fin la obliguen a madurar.
