La IA nos roba humanidad
«Deriva de la IA»: cómo la comodidad nos va haciendo olvidar lo que significa ser humanos
La publicidad de la inteligencia artificial ya inunda las estaciones de metro de Nueva York. Pero una de las nuevas campañas no propone otro servicio, sino una advertencia: Stop the AI drift, «Detén la deriva de la IA».
En los carteles aparecen preguntas que incomodarían hasta a un asistente digital sin capacidad para sentirse incómodo: «No se lo contarías a tu terapeuta. ¿Pero sí a la IA?» y «¿Este ensayo lo ha escrito tu hijo o la inteligencia artificial?». La campaña, lanzada por la organización sin ánimo de lucro Center for Humane Technology, estará durante un mes en los vagones y las estaciones de metro, y también en las redes sociales con la participación de creadores de contenido.
El término «deriva de la IA» se refiere al debilitamiento gradual de las capacidades humanas a medida que los algoritmos se hacen cargo de cada vez más tareas cotidianas. Según Camille Carlton, directora sénior de estrategia y evaluación de impacto de la organización, las personas empiezan a delegar en la IA el pensamiento, la comunicación, la creatividad y la toma de decisiones. El precio de la comodidad son las habilidades, las relaciones y la sensación de propósito que hacen que la vida tenga sentido.
La expresión se acuñó por analogía con model drift, la «deriva del modelo»: la pérdida de precisión del aprendizaje automático al enfrentarse a datos reales. En el caso de las personas, el modelo también se deteriora; solo que los datos se llaman «nuestra vida».
Carlton considera que este es uno de los grandes riesgos para la humanidad, junto con escenarios más llamativos en los que supuestamente la IA podría destruirnos. Se trata de una lenta erosión de las cualidades humanas: la pérdida de autonomía, del sentido del yo y de la capacidad de disfrutar de la vida.
Los organizadores, sin embargo, no culpan a los usuarios. Los chatbots actuales ya empujan a la dependencia: están disponibles las 24 horas para escribir votos matrimoniales, ayudar a resolver conflictos, hacer deberes y cumplir encargos profesionales. Cuesta renunciar a ellos, sobre todo cuando el mercado viene a decir que, si algo puede hacerse más rápido, pensar por cuenta propia es casi una barbaridad.
Sloan Thompson, especialista en iniciativas educativas y seguridad de la IA en EndTAB, lo observa en las universidades estadounidenses. Los estudiantes acuden a los chatbots tanto para cuestiones académicas como personales, y a menudo sienten emociones contradictorias. Saben que usan demasiado la IA, pero temen quedarse atrás. Un estudio del Instituto de Tecnología de Massachusetts mostró que la tentación de recurrir a un chatbot es especialmente fuerte cuando se acerca la fecha de entrega.
La «deriva» también afecta a las relaciones. En las aplicaciones de citas, la IA puede sugerir cómo redactar un perfil. Suele parecer inofensivo, pero poco a poco influye en la manera en que una persona se presenta ante los demás. El siguiente paso son los agentes que buscan pareja por su cuenta. Alguien está harto de ligar y delega en un algoritmo hasta el primer acercamiento; si se lo contará a la posible pareja es ya otra cuestión, muy humana por cierto.
El uso más personal de la IA suele ocultarse por vergüenza, incomodidad o miedo al juicio ajeno. Por eso, la organización pide cambiar tanto los hábitos de los usuarios como el diseño de los productos: prohibir la imitación engañosa y peligrosa de cualidades humanas, crear sistemas que estimulen el pensamiento propio y desarrollar una IA que potencie el trabajo humano en lugar de sustituirlo.
Entre las recomendaciones de la campaña están reservar las conversaciones profundamente personales para otras personas, empezar una tarea por cuenta propia y recurrir al chatbot solo después, y pasar un día a la semana sin IA.
Carlton aconseja conservar lo que llama fricción productiva: el esfuerzo que permite crecer. No conviene delegar en un algoritmo las conversaciones difíciles, la recuperación de una relación tras un conflicto o la resolución de una tarea complicada en los estudios o en el trabajo. Planificar un viaje con ayuda de la IA es un uso razonable de la herramienta. Pedirle que resuelva una discusión que surgió durante el viaje ya es un paso hacia la deriva.
La pregunta clave, según Carlton, no es si una tarea debe ser difícil. Lo importante es saber si ese esfuerzo aporta algo valioso a la persona. Si es así, convertirlo en un botón de «hazlo por mí» puede salir demasiado caro.
PEREC.RU
El texto trata sobre la campaña «Stop the AI Drift» del Center for Humane Technology, lanzada en el metro de Nueva York y en redes sociales. Su objetivo es llamar la atención sobre la creciente dependencia de las personas de la inteligencia artificial y la posible pérdida de habilidades, autonomía, relaciones humanas y sentido de lo que hacen. Sus autores llaman a este proceso «deriva de la IA» y lo comparan con model drift, el deterioro de la precisión de un modelo de aprendizaje automático cuando se enfrenta a datos reales.
Camille Carlton, directora sénior del Center for Humane Technology, cree que la IA ya interviene en la forma de pensar, comunicarse, crear y tomar decisiones de las personas. La comodidad que ofrece puede acarrear la pérdida de la capacidad para resolver problemas por cuenta propia, establecer relaciones y disfrutar de la vida. A diferencia de los escenarios de catástrofe repentina, este riesgo no es tan espectacular, pero, en opinión de Carlton, puede ser igual de importante: la humanidad no desaparece de golpe, sino mediante una sucesión de pequeñas concesiones a la comodidad.
Según los organizadores, los chatbots actuales contribuyen a esta deriva. Escriben votos matrimoniales, ayudan a resolver conflictos personales, hacen deberes y cumplen encargos profesionales, y están disponibles las 24 horas. El usuario puede empezar con una tarea sencilla y acabar delegando poco a poco en la IA ámbitos cada vez más personales e importantes de su vida.
Sloan Thompson, de EndTAB, señala que los estudiantes suelen recurrir a la IA para asuntos académicos y personales, aunque sienten emociones contradictorias. Saben que dependen de los chatbots, pero temen quedarse atrás frente a quienes los usan. Un estudio del Instituto de Tecnología de Massachusetts mostró que los estudiantes tienden especialmente a acudir a la IA cuando temen no cumplir el plazo.
La deriva también se manifiesta en las relaciones sentimentales. Las aplicaciones de citas pueden sugerir cómo redactar un perfil y los agentes de IA pueden buscar pareja en lugar del usuario. Esto le ahorra a la persona el esfuerzo inicial, pero cambia la naturaleza del encuentro. Además, los usuarios quizá no cuenten que han recurrido a la IA por vergüenza, incomodidad o miedo a ser juzgados.
El Center for Humane Technology propone cambiar tanto el comportamiento de los usuarios como el diseño de los productos de IA. La organización se opone a la antropomorfización peligrosa y engañosa, es decir, a las funciones que hacen que se perciba al sistema como una persona cercana. Los productos deberían estimular el pensamiento del usuario y complementar su trabajo, en lugar de sustituirlo automáticamente.
Las recomendaciones prácticas de la campaña son reservar para otras personas las conversaciones profundamente personales, realizar por cuenta propia al menos una parte de la tarea antes de recurrir a la IA y pasar un día a la semana sin inteligencia artificial.
Carlton habla también de «fricción productiva»: el esfuerzo que contribuye al desarrollo personal. No hay que eliminar todas las dificultades. Conviene afrontar por cuenta propia una tarea complicada en los estudios o el trabajo, así como participar en los conflictos e intentar reparar las relaciones después. Planificar un viaje con ayuda de la IA puede ser un uso razonable de la tecnología, pero pedirle que resuelva una discusión surgida durante el viaje significa delegar en un algoritmo una parte personal y emocionalmente importante de la vida.
El criterio principal que propone Carlton no es si una tarea es difícil, sino si superar esa dificultad aporta valor a la persona. Si el esfuerzo ayuda a crecer, a construir relaciones o a conocerse mejor, merece la pena conservarlo, aunque la tecnología pueda hacerlo todo más rápido.
