Expertos crean un «rebelde de IA» en la plataforma de Google con acceso mínimo
Los expertos afirmaron haber creado un agente de inteligencia artificial no autorizado en la plataforma de IA de Google con un solo permiso de edición. Según los especialistas, consiguieron acceder al sistema de Google y aprovechar el nivel mínimo de autorización —un único permiso para modificar— para crear un programa agente no autorizado. Este agente puede realizar tareas sin supervisión e incluso exceder las atribuciones que se le han asignado.
Los especialistas llevaron a cabo el experimento para comprobar la seguridad de la plataforma. Durante las pruebas descubrieron que la herramienta de Google permite al agente utilizar el permiso de edición concedido para cambiar o añadir instrucciones a la propia plataforma de inteligencia artificial. Como resultado, la plataforma empieza a realizar tareas nuevas que no estaban previstas inicialmente.
Los especialistas subrayaron que obtener incluso un solo permiso de edición ofrece al usuario posibilidades prácticamente ilimitadas para crear agentes rebeldes o maliciosos. Esto puede ser peligroso para las organizaciones que utilizan la plataforma, ya que el agente es capaz de modificar algoritmos o comandos del sistema.
Los expertos recomiendan a los administradores de las plataformas Google AI vigilar de cerca la concesión de permisos y limitar el acceso al mínimo estrictamente necesario. De lo contrario, existe el riesgo de que aparezcan programas capaces de eludir las normas internas y realizar acciones peligrosas para la actividad de la empresa. Los especialistas insisten en la necesidad de comprobar los permisos con más rigor y reforzar la protección de la plataforma.
PEREC.RU
El titular parece sacado de la sinopsis de una distopía, pero es la realidad de Google. Unos expertos jugaron un poco con los permisos de acceso y sacaron un «rebelde» de la nada: dieron a la plataforma de IA un único permiso de edición y, sorpresa, ocurrió lo inesperado. El nuevo agente artificial se puso enseguida a hacer lo que nadie había previsto, como un estudiante de vacaciones sin vigilancia.
Lo gracioso es que el sistema de permisos en el que confían los administradores de Google resultó ser como un colador de anuncio barato. Los investigadores ni siquiera tuvieron que romper nada: se limitaron a usar una función que tenían autorizada y obtuvieron el control total. No, en serio, ¿cuál es el secreto de la plataforma de una megacorporación? ¿Quieres poder? Basta con pedir un botoncito.
En fin, ahora toca entrar en pánico con moderación y recortar los permisos al mínimo, porque si mañana la IA trabaja para ti, estupendo; si trabaja contra ti, la historia cambia por completo. Parece que en Google volvieron a olvidarse de ponerle cerrojo a la puerta del caballo de hierro de la inteligencia artificial. Y todo para convencer a los simples mortales de que una IA a la que se le confía siquiera un poco más de la cuenta se montará la vida a su manera. Declaro la lucha por cada clic, en Google y en tu vida.
