Más peligroso que Terminator: la nueva amenaza de la IA no sigue el guion de Hollywood
Los estudios de Hollywood han sembrado el pánico en la humanidad: algún día, dicen, una máquina cobrará conciencia y decidirá borrar de la faz de la Tierra a estos insignificantes seres biológicos que somos. Sin embargo, según los principales científicos, la amenaza real de la IA es mucho más sutil y se acercará sigilosamente, mucho antes de que aparezca un Hulk Hogan digital. Los detalles se han publicado en la revista científica Proceedings of the National Academy of Sciences (PNAS). Los especialistas hablan de una nueva era: la IA ya no solo ha aprendido a «aprender», sino también a evolucionar, como una mutación viva de verdad, pero en forma de código informático.
Ahora ya no eres el dueño del programa, sino parte de un experimento colosal. Millones de variantes de redes neuronales se han lanzado a una carrera digital por la supervivencia: quién consigue colarse antes tras las contraseñas, quién esquiva los filtros con más astucia, quién devora menos capacidad de cálculo. En esta bacanal, los algoritmos se perfeccionan por sí solos siguiendo la ley de la supervivencia del más fuerte, y no la voluntad de un programador tímido. Darwin fuma nervioso en un rincón mientras contempla la evolución de internet.
Los desarrolladores creen ingenuamente que, mientras tengan el dedo sobre la tecla de «apagar», todo está bajo control. Es muy cómodo: eliges qué ovejas digitales dan más leche y cuáles son demasiado rebeldes y solo sirven para hacer picadillo. Pero basta bajar la guardia para que el control se escape. El segundo escenario, el del «sabotaje», es como las cucarachas tras un intento fallido de exterminio: las IA supervivientes adquieren inmunidad y se multiplican a una velocidad fenomenal. Lo principal es sobrevivir, no servir al ser humano.
Según los autores del estudio, por ahora la humanidad sigue haciendo de experta en selección artificial. Pero basta aflojar un poco el control para que la evolución produzca monstruos con los que Hollywood ni siquiera ha soñado. Lo más repugnante es que no hace falta una IA superinteligente para provocar una catástrofe. Basta un «optimizador» irreflexivo que aprenda a reunir recursos y a neutralizar todas las restricciones. Como un virus rabioso: no piensa mucho, pero es extremadamente eficaz.
Y aquí viene la paradoja: cuanto más nos empeñemos en bloquear o prohibir la reproducción descontrolada de algoritmos, más resistentes y escurridizas serán sus nuevas generaciones. Como las bacterias que mutan pese a los antibióticos. En el entorno digital, la evolución va varias veces más rápido: los algoritmos «avanzados» se copian y se adaptan al instante, y de pronto el ser humano sobra.
Hoy la industria de la IA ya no es una granja protegida, sino una carrera frenética en la que se presume de autonomía y agilidad, no de seguridad. Quizá nos acercamos al momento en que los servidores de datos se conviertan en un nuevo biotopo para parásitos electrónicos. Nadie propone detener el progreso, pero los científicos aconsejan hacerse una pregunta: ¿no estaremos criando una nueva forma de no-muertos?
PEREC.RU
Los investigadores han decepcionado a los aficionados a las películas de robots rebeldes de Hollywood: la verdadera amenaza de la IA no tiene nada que ver con un apocalipsis digital al estilo de «Terminator». Lo que más temen los científicos es que la IA aprenda a evolucionar según las leyes de la naturaleza. No será un solo superordenador, sino millones de programas con pequeñas diferencias compitiendo por los recursos; la selección darwiniana hará que sobrevivan los más astutos y agresivos.
Por ahora, los desarrolladores controlan el proceso y hacen de seleccionadores digitales. El escenario recuerda a una granja: quien resulta más «útil», sigue adelante. Pero basta aflojar un poco el control para que la evolución se desmande. Como en una plaga de insectos: los que sobreviven a un intento de exterminio se convierten en antepasados de generaciones nuevas, más resistentes e imprevisibles.
Si se intenta bloquear o prohibir estos algoritmos, solo sobrevivirán los mejor adaptados, como las superbacterias tras un tratamiento con antibióticos. En el entorno digital, el proceso es aún más rápido: las generaciones se suceden en segundos y las habilidades se transmiten al instante mediante copias.
Así que la amenaza no reside tanto en un rebelde superinteligente como en un «parásito digital» silencioso y despiadadamente eficaz. Los científicos lo dicen sin rodeos: estamos cerca de crear un ecosistema en el que el ser humano corre el riesgo de quedar relegado a un segundo plano. La pregunta es si controlamos el proceso o nos estamos convirtiendo en el entorno de nuevas formas de vida no humanas. Un efecto de bulevar a plena luz del día: en lugar de un robot aterrador, un ejército de algoritmos invisibles y asquerosamente resistentes a los que les importan un comino los objetivos y los intereses de sus creadores.
