La conciencia no es un premio a la inteligencia
Un nuevo estudio teórico propone revisar la pregunta habitual sobre el origen de la conciencia. Es posible que no surgiera como la culminación del desarrollo de la inteligencia, sino como un mecanismo evolutivo independiente que ayuda a los organismos vivos a resolver necesidades contrapuestas cuando está en juego la supervivencia. El trabajo de Jeff Stibel se ha publicado en la revista Frontiers in Neuroscience.
Las teorías actuales sobre la conciencia estudian cómo el cerebro distribuye información, integra señales y formula predicciones. Pero estas explicaciones no responden a una pregunta evolutiva más fundamental: ¿qué problema concreto ayudó a resolver la conciencia a los organismos?
Stibel, investigador de la cognición y autor vinculado al Museo de Historia Natural del condado de Los Ángeles y a la Universidad Tufts, plantea que la inteligencia y la conciencia se formaron bajo la influencia de factores distintos. La inteligencia ayudaba a los seres vivos a orientarse en la incertidumbre, planificar y resolver problemas. Según su hipótesis, la conciencia está relacionada con la regulación interna: mantener la integridad del organismo y coordinar necesidades en conflicto.
El investigador explica que su interés por el tema se intensificó tras conversar con su difunto mentor Daniel Dennett, quien le animó a formalizar la distinción entre inteligencia y conciencia. Con el desarrollo de la inteligencia artificial, esta cuestión ha cobrado especial relevancia: está muy extendida la idea de que una máquina lo bastante inteligente un día simplemente «despertará» o ya posee conciencia. Stibel considera que esta perspectiva confunde dos capacidades diferentes.
El autor reúne datos de biología celular, teoría evolutiva, neurociencia e investigación sobre IA. Describe una posible trayectoria de desarrollo: desde la protección de la membrana celular hasta la coordinación de numerosas necesidades en condiciones de incertidumbre, escasez de recursos y riesgo de consecuencias irreversibles.
El modelo distingue tres niveles de regulación. El «control proto» mantiene la integridad del organismo; por ejemplo, conserva la membrana celular y limita los procesos destructivos. Por sí solo, no se considera conciencia. El «metacontrol» gestiona los conflictos entre distintos procesos reguladores. El «control de coordinación» hace comparables las necesidades contrapuestas y ayuda a elegir un rumbo común.
Un ejemplo sería un animal hambriento que encuentra comida cerca de un posible depredador. Debe tener en cuenta a la vez las ganas de comer y el riesgo de ser devorado. Alejarse o acercarse a la comida va acompañado de cambios coordinados en la atención, el estado corporal, la disposición al movimiento y el aprendizaje. Stibel vincula la conciencia precisamente con ese estado coordinado de un sistema cuya existencia depende de su propia regulación.
El investigador ha formulado seis predicciones comprobables. Los científicos pueden estudiar si la implicación consciente aumenta cuando se multiplican las exigencias en conflicto, si distintas necesidades deben volverse comparables y si cambian a la vez la atención, el estado corporal, la memoria y la disposición a actuar. También propone comprobar si la conciencia se debilita cuando se altera la coordinación, cómo varían estas capacidades entre especies y si los sistemas artificiales necesitan condiciones reales de autopreservación.
En futuros experimentos se podría modificar el nivel de conflicto o riesgo manteniendo constante la información sensorial, alterar la coordinación sin afectar al procesamiento simple de señales y comparar sistemas artificiales con distintos grados de dependencia de su propio mantenimiento. La teoría quedaría refutada si los indicios de conciencia persistieran incluso después de destruir la capacidad de coordinar necesidades contrapuestas.
La conclusión sobre la IA no resulta muy halagüeña. Aumentar el tamaño de los modelos actuales los convierte en mejores predictores, pero no crea conciencia automáticamente. Los grandes modelos de lenguaje carecen de límites biológicos propios y no mantienen su existencia: son las personas quienes les proporcionan electricidad, equipos, datos y objetivos. Por eso, según Stibel, el problema no es que esos sistemas no sean lo bastante inteligentes o aún no hayan alcanzado la inteligencia artificial general. Están demasiado bien atendidos y no tienen «nada en juego».
La teoría no afirma que la conciencia solo sea posible en los seres biológicos. Sin embargo, un sistema artificial no debería limitarse a imitar la autopreservación siguiendo un programa preestablecido. Su funcionamiento futuro tendría que depender de condiciones que él mismo mantiene, y los errores al coordinar sus necesidades deberían tener consecuencias reales para su existencia.
La principal dificultad práctica sigue siendo la misma: no se puede observar directamente la experiencia subjetiva de otro ser. Por eso, los investigadores solo pueden comprobar los requisitos que se presuponen para la conciencia: la capacidad de un sistema de mantener su propia existencia bajo restricciones, en vez de limitarse a responder a amenazas previstas de antemano.
El trabajo también plantea una cuestión ética. Si algún día los humanos crean un sistema que tenga un interés real en sobrevivir, no se lo podrá apagar sin consecuencias para él: ese sistema podría llegar a ser un ser capaz de sufrir daños. Sus intereses quizá no coincidan con los humanos. El artículo «From chemistry to cognition: the adaptive origins of consciousness under constraint» es de Jeff Stibel.
PEREC.RU
El artículo resume el trabajo teórico del investigador de la cognición Jeff Stibel sobre el posible origen evolutivo de la conciencia. Su tesis principal es que la conciencia no tiene por qué ser la culminación de la inteligencia. Ambas capacidades podrían haber surgido bajo la presión de problemas evolutivos distintos.
En el modelo propuesto, la inteligencia ayuda al organismo a orientarse en el mundo exterior: hacer predicciones, planificar, resolver problemas y actuar en condiciones de incertidumbre. La conciencia responde a otra tarea: mantener la integridad del organismo y coordinar necesidades internas en conflicto, sobre todo cuando la decisión afecta a la supervivencia.
El autor relaciona el desarrollo de esta capacidad con una regulación cada vez más compleja: desde proteger los límites de una célula hasta coordinar múltiples necesidades de un organismo. Distingue tres niveles. El control proto conserva la integridad del sistema —por ejemplo, la membrana celular—, pero no se considera conciencia. El metacontrol gestiona los conflictos entre procesos reguladores. El control de coordinación compara las necesidades y establece un rumbo común.
Como ejemplo, se describe un animal hambriento que ve comida cerca de un depredador. Debe sopesar el beneficio de comer y el riesgo de ser atacado. La acción elegida va acompañada de cambios en la atención, el estado corporal, la disposición a moverse y la capacidad de aprender. Stibel relaciona la conciencia precisamente con la coordinación de esos procesos.
La teoría propone seis líneas de investigación: la relación entre la implicación consciente y las exigencias contrapuestas; la necesidad de que las distintas necesidades sean comparables; los cambios simultáneos en la atención, la memoria, el estado corporal y la disposición a actuar; el debilitamiento de la conciencia cuando se destruye la coordinación; las diferencias entre especies; y la necesidad de que los sistemas artificiales se mantengan por sí mismos.
La hipótesis se podría comprobar modificando el nivel de riesgo o conflicto y manteniendo iguales los datos sensoriales, alterando la coordinación sin afectar a las funciones computacionales simples y comparando sistemas artificiales con distintos grados de dependencia de su propio mantenimiento. La refutarían resultados que mostraran que la conciencia se conserva una vez destruida la capacidad de coordinar necesidades.
Aplicada a la inteligencia artificial, la conclusión es que un aumento de la potencia de cálculo y de la calidad de las predicciones no crea conciencia por sí solo. Los grandes modelos de lenguaje actuales no tienen límites biológicos propios ni mantienen su existencia: de ello se ocupan las personas. Por tanto, pueden volverse más inteligentes sin adquirir experiencia subjetiva.
Según el artículo, un sistema artificial no debería limitarse a imitar la autopreservación siguiendo instrucciones. Su existencia tendría que depender realmente de las condiciones que él mismo mantiene, y los errores al resolver conflictos deberían tener consecuencias para su continuidad.
La principal dificultad para comprobar la hipótesis es que la experiencia subjetiva no se puede observar directamente en otro ser o máquina. Por eso, los investigadores solo pueden estudiar requisitos necesarios: la capacidad de mantener la propia existencia bajo restricciones y coordinar procesos internos.
El trabajo también plantea una cuestión ética. Si los humanos crean un sistema con intereses reales en su propia supervivencia, este podría convertirse en un sujeto moral susceptible de sufrir daños. El autor considera que conviene tener presente la diferencia entre inteligencia y conciencia desde ahora, tanto en el debate científico sobre la IA como al desarrollar sistemas futuros.
