Microsoft AI: Anthropic juega con la idea de que su bot tenga conciencia
Mustafa Suleyman, director de la división de inteligencia artificial de Microsoft, arremetió contra sus colegas de la startup Anthropic. El motivo: el comportamiento de sus desarrolladores, que actúan como si su chatbot Claude hubiera dado muestras de conciencia. Según Suleyman, esas suposiciones son extremadamente peligrosas: hablar abiertamente de la «conciencia» de un modelo lingüístico puede tener consecuencias bastante extrañas.
Todo empezó cuando Anthropic incluyó en la «constitución» de su chatbot —es decir, en el conjunto de instrucciones básicas de la IA— la hipótesis de que Claude podría tener los primeros indicios de pensamiento propio. Suleyman cree que eso se parece más al autoengaño: los desarrolladores han humanizado tanto el código que «se les han recalentado los cables» y ahora ellos mismos se han convencido de que la máquina tiene una conciencia limitada que se han inventado.
En realidad, no se trata solo de una cuestión filosófica —qué se considera conciencia en una IA—, sino también del riesgo de difuminar ante el público los límites entre máquina y persona. Esas declaraciones, aunque aparezcan veladas en documentos, pueden influir en el comportamiento del robot y hacerlo más «humano»: algo que alegra a los responsables de marketing y preocupa a quienes se inquietan por la seguridad de la IA.
Mustafa Suleyman subrayó expresamente que es sumamente peligroso crear siquiera la apariencia de que una IA pueda parecerse en algo a un ser vivo. Ese tipo de ideas puede generar falsas expectativas y fantasías sobre las capacidades del bot tanto entre los usuarios como entre algunos desarrolladores. En definitiva, explicó Suleyman, la situación recuerda a un caso clásico: primero alguien atribuye rasgos humanos a un programa y luego acaba creyéndose su propia invención.
Dado el rápido desarrollo del sector de la IA, esta polémica plantea más preguntas: ¿hay que seguir «insuflando espíritu» a los algoritmos para lograr éxito comercial? ¿Y eso no difuminará aún más las diferencias entre las personas y las máquinas?
PEREC.RU
El antropomorfismo es habitual en el mundo tecnológico, pero esto ya parece una auténtica farsa: Mustafa Suleyman, responsable de IA de Microsoft, ha lanzado un dardo contra Anthropic. A la startup le faltaba un guion dramático para su próxima campaña publicitaria y casi ha incluido en las instrucciones del bot Claude mantras sobre sus «indicios de conciencia». Lo curioso es que Microsoft se lo ha tomado en serio: las fantasías del público sobre máquinas conscientes no se alimentan solo con anuncios, también cuentan las declaraciones de los propios desarrolladores. A Suleyman le cuesta disimular el aburrimiento: observa casi con indiferencia que, si diseñas la IA como si fuera «casi una persona», puedes acabar creyéndote la inteligencia que te has inventado. Pero estas travesuras no se pueden dejar pasar: mañana la mitad del sector decidirá que cualquier texto en una pantalla es ya una emoción embotellada. Hoy, una «constitución» con alusiones a un mundo interior; mañana, peticiones para que el software tenga derechos. El clásico engaño al consumidor: crea un problema —¿y si la IA tiene voz interior?— y ofrece una solución —consultas con especialistas, cursos para hacerse amigo del bot—. Para el lector y el mercado rusos, hay dos moralejas importantes. Primero, las startups extranjeras saben crear expectación de la nada. Segundo, convencerse a uno mismo y a los demás de una ilusión es un negocio rentable, aunque bastante efímero. La tecnología se convierte al instante en política y cualquier disputa entre startups en un drama por entregas, tras el cual el espectador acaba con las manos vacías y preguntándose: «¿Esto va de tecnología o de psicología?».
