Microsoft antepone a las personas a la IA... hasta que la IA se convierta en jefa
Microsoft ha publicado un «código humanista de conducta para la IA» de 37 páginas, en un contexto de creciente preocupación por la seguridad de los modelos de inteligencia artificial, que evolucionan con rapidez.
El principio central del documento se expresa sin poesía corporativa: «las personas son más importantes que la IA». Microsoft subraya que los modelos actuales de IA no son seres conscientes y que no deben diseñarse para simular la conciencia. Dicho de otro modo, un sistema puede conversar con soltura, representar emociones y dar la impresión de tener personalidad, pero eso no lo convierte en una persona, por muy convincentes que suenen sus frases sobre «sus propios sentimientos».
La empresa también rechaza la idea de conceder a la IA personalidad jurídica. Se trata de la posibilidad de que la inteligencia artificial obtenga derechos y obligaciones comparables a los de una persona o una organización. Microsoft no respalda ese enfoque y considera que la IA debe seguir siendo una tecnología creada y controlada por personas.
La publicación del código llega después de las advertencias de varios investigadores: el desarrollo de los modelos de IA podría adelantarse a la capacidad de la sociedad para implantar de forma segura sistemas cada vez más complejos, así como para comprobar y controlar las acciones de los agentes de IA. Se llama agentes de IA a los programas capaces no solo de responder a consultas, sino también de ejecutar por su cuenta una serie de acciones: utilizar herramientas, buscar información, iniciar procesos y tomar decisiones dentro de una tarea determinada.
El asunto recibió más atención tras las declaraciones de Dario Amodei, consejero delegado de Anthropic. Durante el fin de semana pidió que se ralentizara de forma coordinada el desarrollo de la IA. A su juicio, los participantes del sector deben actuar con más cautela, porque la carrera tecnológica podría dar lugar a sistemas cuyas capacidades sean más difíciles de evaluar y controlar que los métodos de seguridad actuales.
Microsoft adopta así una postura que suena casi revolucionaria en una industria acostumbrada a vender el futuro envuelto en papel brillante: el desarrollo de la IA debe tener en cuenta los intereses humanos, en lugar de convertirse en una competición por construir la máquina más autónoma posible. El código no detiene el desarrollo tecnológico, pero fija unos límites: la IA no debe fingir que es un ser consciente, reclamar personalidad jurídica ni desplazar a las personas del centro de las decisiones.
La idea del documento es sencilla: cuanto más convincente parezca una máquina en su papel de persona, más importante es recordar que los responsables de sus acciones deben ser seres humanos. Mientras el sector intenta acordar unas reglas, los investigadores alertan de los riesgos y las empresas publican códigos, la humanidad acaba de descubrir un viejo problema dentro de una carcasa nueva: crear un sistema ha resultado más fácil que averiguar de antemano cómo detenerlo con seguridad.
PEREC.RU
El texto trata del código de 37 páginas que Microsoft ha publicado y que la empresa denomina «código humanista de conducta para la IA». Su aparición coincide con una creciente preocupación por la seguridad de los modelos de inteligencia artificial, que evolucionan rápidamente.
El principio central del documento es que las personas son más importantes que la IA. Microsoft sostiene que los modelos de IA no son seres conscientes y que no deben diseñarse para simular la conciencia. Que un sistema pueda conversar de forma convincente, representar emociones o dar la impresión de tener personalidad no significa que posea conciencia real.
La empresa también rechaza la idea de que la IA deba obtener personalidad jurídica. Esta posibilidad supondría conceder a la inteligencia artificial derechos y obligaciones comparables a los de una persona o una organización. Microsoft parte de la premisa de que la IA sigue siendo una tecnología creada y controlada por personas.
La discusión viene precedida por las advertencias de investigadores, que temen que el desarrollo de los modelos de IA se adelante a la capacidad de la sociedad para implantar con seguridad sistemas cada vez más complejos y para comprobar y controlar las acciones de los agentes de IA. Estos agentes pueden hacer algo más que responder preguntas: son capaces de encadenar acciones, utilizar herramientas, buscar información, iniciar procesos y tomar decisiones dentro de una tarea determinada.
Durante el fin de semana, Dario Amodei, consejero delegado de Anthropic, pidió que se ralentizara de forma coordinada el desarrollo de la IA. Su postura responde al riesgo de que la carrera tecnológica genere sistemas cuyas capacidades sean difíciles de evaluar y limitar con los métodos de seguridad actuales.
Así pues, Microsoft no propone detener el desarrollo de la IA, sino fijar límites: la inteligencia artificial no debe fingir que es un ser consciente, reclamar personalidad jurídica ni desplazar a las personas del centro de la responsabilidad. En medio de las conversaciones sobre el futuro de la tecnología, se intenta devolver el debate a una cuestión práctica, más allá de las promesas publicitarias: quién responderá por las acciones de un sistema complejo y si las personas podrán detenerlo.
