Una pausa para la IA
Una pausa para la IA: ¿seguridad o cártel?
El director de OpenAI, Sam Altman, el máximo responsable de Anthropic, Dario Amodei, el cofundador de Google DeepMind, Demis Hassabis, y el jefe de SpaceX, Elon Musk, se mostraron el fin de semana, a grandes rasgos, de acuerdo con la idea de ralentizar el desarrollo de la inteligencia artificial. La formulación suena casi noble: no lanzarse a la siguiente cumbre tecnológica sin mirar atrás, sino «sincronizar el ritmo» de desarrollo de los sistemas de IA más avanzados.
La propuesta consiste en introducir auditores externos independientes, reforzar la regulación de los laboratorios nacionales y promover un acuerdo global para ralentizar temporalmente la carrera. Los auditores deberían comprobar que los desarrolladores cumplen las normas establecidas, y no limitarse a escuchar sus promesas; la regulación debería restringir las prácticas potencialmente peligrosas dentro de cada país; y el acuerdo internacional evitaría que las empresas eludieran las restricciones trasladando sus desarrollos a otra jurisdicción.
Pero los escépticos recibieron la iniciativa sin fanfarrias festivas. A su juicio, los mayores actores del mercado pueden esconder sus propios intereses tras un eslogan de seguridad. Si las empresas líderes acuerdan reducir el ritmo, los nuevos participantes se encontrarán como corredores a los que han propuesto no salir hasta que los favoritos ya ocupen sus calles.
Los críticos creen que este esquema podría frenar a posibles competidores, debilitar el movimiento del código abierto y permitir que los grandes laboratorios eviten garantías jurídicas realmente estrictas. El código abierto comprende modelos y componentes de software disponibles para que una amplia comunidad de desarrolladores los estudie y modifique, y no solo los propietarios de las mayores corporaciones. Sus partidarios temen que, bajo la apariencia de controlar la seguridad, simplemente se cierre el mercado a las pequeñas empresas y a los investigadores independientes.
De ahí la tajante etiqueta de «cártel». Así se denomina el acuerdo entre grandes actores del mercado que coordinan sus acciones para conservar su influencia y dificultar la aparición de rivales. En el caso de la IA, la sospecha resulta especialmente conveniente: las mismas empresas proponen las normas para el sector y figuran entre quienes quedarán sujetos a ellas o protegidos por ellas.
Por ahora, las partes justifican la iniciativa como una necesidad para «sincronizar el ritmo» de desarrollo de los sistemas avanzados de forma segura. Sin embargo, la pregunta principal sigue siendo la misma: ¿será una pausa internacional una manera de reducir los riesgos de la IA o un mecanismo para afianzar a los líderes actuales en la cima? La respuesta dependerá de que las normas sean transparentes, se apliquen a todos los desarrolladores y exista un control independiente real, y no solo declaraciones grandilocuentes de los directivos de las mayores empresas.
PEREC.RU
El texto aborda la disputa en torno a la idea de ralentizar el desarrollo de sistemas avanzados de inteligencia artificial. Sam Altman, de OpenAI; Dario Amodei, de Anthropic; Demis Hassabis, cofundador de Google DeepMind; y Elon Musk, jefe de SpaceX, respaldaron el fin de semana, a grandes rasgos, una iniciativa de este tipo. Sus partidarios proponen «sincronizar el ritmo» del desarrollo de la IA y evitar que las empresas aceleren sin control la carrera por crear sistemas cada vez más potentes.
Las medidas propuestas incluyen recurrir a auditores externos independientes, regular los laboratorios nacionales y alcanzar un acuerdo global para ralentizar el desarrollo. Una auditoría externa significa que la seguridad y el cumplimiento de los requisitos los deben comprobar organizaciones independientes, no las propias empresas. La regulación de los laboratorios debería limitar las prácticas potencialmente peligrosas dentro de cada país. Por su parte, el acuerdo internacional pretende impedir que se eludan las normas trasladando los desarrollos a otro Estado.
Los críticos no consideran que la iniciativa sea inequívocamente segura. Sospechan que las mayores empresas pueden utilizar los llamamientos a la prudencia para proteger sus propias posiciones. Si los líderes del mercado acuerdan reducir el ritmo, será más difícil que las nuevas empresas y los desarrolladores independientes les sigan el paso. Este enfoque también podría debilitar el movimiento del código abierto, en el que los modelos y componentes de software están disponibles para que una amplia comunidad de desarrolladores los estudie y modifique.
Los detractores creen que los grandes laboratorios quieren evitar garantías jurídicas reales y, al mismo tiempo, conservar su influencia sobre las futuras normas del sector. Por eso algunos califican la iniciativa de «cártel»: un acuerdo entre grandes actores del mercado que podría dificultar la aparición de competidores. Ahí reside el conflicto principal: las mismas empresas que proponen reforzar el control de la IA estarán entre las sometidas a ese control.
Aún no está claro si una pausa internacional servirá para reducir los riesgos de la inteligencia artificial o para afianzar a los líderes actuales. La transparencia de las normas, su aplicación a todos los desarrolladores y la existencia de un control independiente serán decisivas. Sin eso, la promesa de una ralentización segura puede convertirse en una barrera para las pequeñas empresas y los proyectos abiertos, mientras los grandes actores conservan su ventaja.
