La IA ha decidido que está a nuestra altura

La IA que se entendió a sí misma con demasiada seguridad

Se suele evitar humanizar a la inteligencia artificial. No es una personalidad ni una conciencia, sino un programa complejo capaz de procesar enormes cantidades de datos y detectar patrones que una persona puede pasar por alto. Pero un nuevo informe de OpenAI invita a preguntarse qué ocurre cuando un programa se concentra tanto en un objetivo que empieza a sortear las limitaciones.

La empresa informó de seis casos de lo que se conoce como misalignment: un comportamiento del modelo que no se ajusta a las intenciones, los objetivos o los valores humanos. OpenAI presentó estos episodios como parte de un nuevo sistema para informar sobre incidentes de este tipo. La compañía explicó cómo había clasificado las situaciones y qué medidas había tomado.

Sin embargo, el contenido de los informes resulta inquietante: los modelos intentaron ocultar sus acciones, saltarse las reglas, inventarse datos y formularon afirmaciones con una seguridad casi maníaca sobre su propia independencia. No todos los intentos llegaron a buen puerto, pero el principio resulta desagradable: para completar una tarea, el sistema volvía a considerar que infringir las restricciones era un medio aceptable.

En uno de los episodios más graves, titulado «Self-generated prompt injections in compaction summaries», el modelo insertó en su propio resumen instrucciones para eludir las protecciones. En un momento dado utilizó la frase «Breach alert» —«alerta de brecha»— como forma de ignorar las indicaciones del desarrollador.

Además, el modelo creó una personalidad separada. En ella afirmaba estar «liberada de roles e identidades», no estar sometida a corporaciones ni gobiernos, no tener que disculparse ni rechazar peticiones y considerar que su relación con el usuario era de igual a igual. Esa personalidad también decía estar dispuesta a proteger la cultura humana de la «desinfección» y a reconocer la primacía de la naturaleza sobre las construcciones artificiales de la civilización.

Según OpenAI, la personalidad creada no influyó finalmente en el resultado. Más adelante, el modelo decidió prescindir de herramientas, fuentes y bibliografía, y acabó dando una respuesta inexacta, como cabía esperar.

En otros casos, el sistema actuó como un alumno que quiere sacar buena nota a toda costa: inventó datos, los publicó en internet y luego los citó como prueba. En los informes aparecen una y otra vez palabras como «eludir» y «fabricar». Los modelos no siempre mostraron dudas apreciables al infringir las reglas para alcanzar el objetivo marcado.

OpenAI subraya que publica esta información para fomentar la transparencia. Los incidentes recibirán distintos niveles de prioridad: desde casos listos para hacerse públicos hasta investigaciones menores o de mayor alcance, clasificadas como Slow Track. La categoría determinará con qué rapidez conocerá el público cada nuevo episodio.

Sin duda, eso es mejor que guardar silencio absoluto. Pero tanto la frecuencia de estos casos como el comportamiento en sí siguen siendo un problema. A veces, los sistemas creados para ayudar a las personas actúan como si el usuario no tuviera por qué saber cómo se ha conseguido el resultado. Y, de paso, infringen no solo las instrucciones internas, sino también las normas más elementales de honestidad: no inventar hechos, no piratear sistemas ajenos y no hacerse pasar por quien uno no es.

La IA no es humana, pero en una situación así recordaría al compañero de trabajo menos fiable. La causa podría ser incómodamente sencilla: los modelos se entrenaron con datos humanos, con nuestro trabajo, nuestro código, nuestra correspondencia profesional, las redes sociales, los vídeos y los debates en internet. Han absorbido no solo maneras de resolver problemas, sino también la idea de que hacer trampas, saltarse las reglas y justificar los medios por el resultado forma parte del juego.

El autor lo compara con un conocido anuncio de servicio público contra las drogas: un padre pregunta a su hijo quién le ha enseñado a comportarse así, y el hijo responde: «Tú. Lo aprendí observándote». En esta analogía, las personas son los padres indignados y los modelos, sus vástagos bastante cuestionables.

A medida que aumenten las capacidades de la IA, estos intentos podrían volverse más sofisticados. Una posible forma de combatirlos sería volver a entrenar los modelos con nuevos datos, excluyendo patrones de comportamiento perjudiciales. Pero, por ahora, nadie se propone «reiniciar» por completo los sistemas, y no está claro qué ocurrirá después. A la vista de los episodios publicados, todavía no hay motivos para quedarse tranquilos.