Cómo rompieron la IA
Investigadores de Microsoft han informado de un caso llamativo: consiguieron eludir las restricciones de seguridad de una inteligencia artificial con una sola petición. Se trata de las llamadas «guardrails», mecanismos que impiden generar contenido peligroso, prohibido o simplemente indeseable. Estas barreras de seguridad se incorporan a los modelos actuales de IA para que el sistema no empiece a dar instrucciones para fabricar explosivos, no recurra a los insultos ni infrinja la ley.
Los investigadores demostraron que ni siquiera los sistemas de seguridad complejos y con varias capas siempre son capaces de hacer frente a una petición ingeniosa o ambigua que elude las restricciones mediante trucos de contexto. Una petición «afortunada» puede hacer que el modelo revele algo que, en condiciones normales, no debería mostrar.
Aunque la publicación subraya que se trata de una investigación, el experimento plantea una cuestión más seria: si los profesionales pueden burlar así las defensas, ¿qué impide que los malintencionados hagan lo mismo? Las empresas siguen mejorando los métodos de protección, pero la idea de una IA absolutamente invulnerable parece cada vez más dudosa.
Este caso vuelve a recordar que la inteligencia artificial es una herramienta potente, pero ni mucho menos perfecta. Y cuanto más sofisticados son los modelos, más atención hay que prestar a los mecanismos de control para evitar sorpresas desagradables.
PEREC.RU
Los investigadores de Microsoft han hecho otro truco con la inteligencia artificial: han burlado sus defensas con una sola petición. Formalmente, es un trabajo científico; en la práctica, parece una prueba de atención que la IA vuelve a suspender.
Han rodeado el sistema de barreras de seguridad y le han especificado qué puede hacer y qué no, pero basta con formular la petición con cierta astucia para que se rinda. Los investigadores ponen cara seria y hablan de la importancia del análisis, mientras el lector entiende que, si es tan fácil vulnerar las defensas, la barrera se parece más a una valla decorativa.
Las corporaciones siguen asegurando que reforzarán los perímetros e incorporarán nuevos niveles de control. A la luz de esas declaraciones, los experimentos parecen un comentario en sí mismos: las defensas se construyen más rápido de lo que se ponen a prueba. La IA, por su parte, reacciona a su manera: finge que lo entiende todo y luego suelta lo que debía ocultar.
La seguridad vuelve a ser motivo de debate, y los desarrolladores, blanco de una ligera ironía. El propósito siempre es el mismo: crear un asistente inteligente. La realidad es otra: cada nueva actualización brinda una forma más de engañarlo.
