El responsable de Anthropic propone frenar la IA
El responsable de Anthropic ha propuesto un plan de tres pasos para ralentizar el desarrollo de la inteligencia artificial. No se trata de renunciar a la IA, sino de intentar someter la carrera tecnológica a control antes de que un nuevo modelo empiece a tomar decisiones más rápido de lo que las personas pueden entender sus consecuencias.
Anthropic es una empresa estadounidense que desarrolla sistemas de inteligencia artificial, entre ellos la familia de modelos Claude. Su responsable considera que el rápido aumento de las capacidades de la IA genera riesgos que no pueden abordarse solo desde empresas individuales. En otras palabras, ya no basta con prometer voluntariamente «seremos prudentes», sobre todo cuando están en juego el mercado, el dinero y el liderazgo tecnológico.
El enfoque propuesto consta de tres líneas de actuación. La primera es reforzar las evaluaciones de seguridad antes de lanzar nuevos modelos. Los desarrolladores deben comprobar no solo hasta qué punto el sistema redacta textos o resuelve tareas, sino también si puede causar daños graves, eludir restricciones o utilizarse para llevar a cabo acciones peligrosas.
El segundo paso es hacer que las normas para los desarrolladores sean más uniformes y transparentes. Ahora, en gran medida, cada empresa decide qué pruebas realizar y qué nivel de riesgo considera aceptable. Este sistema recuerda a un examen en el que el alumno redacta las preguntas, se pone la nota y luego pide al mercado que se crea el resultado.
El tercer punto es la coordinación internacional. Según el responsable de Anthropic, los Estados y las empresas deben debatir las restricciones, porque la IA no se detiene en las fronteras. Si un país impone requisitos estrictos y otro decide atraer empresas con el principio de «aquí todo está permitido», la carrera simplemente se trasladará allí donde el control sea más débil.
Para Rusia, este asunto importa más allá de la disputa entre empresas tecnológicas estadounidenses. El desarrollo de la IA afecta al mercado laboral, la educación, la ciberseguridad, la defensa y el acceso a la capacidad de computación. Cuanto más potentes son los modelos, más caro puede salir un error; y quizá, cuando se intente corregirlo, ya sea demasiado tarde.
El plan de Anthropic no implica, sin embargo, prohibir de inmediato el desarrollo de la IA. Propone crear unas reglas intermedias: primero, comprobar las capacidades peligrosas; después, acordar estándares; y solo entonces acelerar su implantación. Suena razonable, aunque la historia de la tecnología demuestra que la humanidad suele acordarse de los frenos después de pisar el acelerador.
PEREC.RU
El responsable de Anthropic propone establecer un control en tres etapas sobre el desarrollo de la inteligencia artificial. Anthropic es una empresa estadounidense que crea sistemas de IA, incluidos los modelos Claude. Su responsable no pide detener por completo el desarrollo de la IA, sino ralentizar la carrera peligrosa entre empresas y reducir de antemano los posibles riesgos.
El primer punto del plan es reforzar las pruebas de seguridad antes de lanzar nuevos modelos. Hay que evaluar no solo la calidad del sistema, sino también su capacidad para eludir restricciones, facilitar acciones peligrosas o causar daños importantes. El objetivo es evaluar riesgos reales, en lugar de limitarse a demostrar funciones útiles.
El segundo punto es crear estándares uniformes y transparentes para los desarrolladores. Ahora, las empresas suelen decidir por sí mismas qué pruebas realizar y qué nivel de riesgo consideran aceptable. El autor de la propuesta cree que este sistema no es suficientemente fiable: en la práctica, el desarrollador puede elegir sus propios criterios de evaluación y declarar por su cuenta que el resultado es satisfactorio.
El tercer punto es establecer una coordinación internacional. La IA se desarrolla y se utiliza en distintos países, por lo que las restricciones unilaterales pueden hacer que los proyectos se trasladen a Estados con requisitos más laxos. Unas normas comunes reducirían el riesgo de que las empresas compitan tanto con su tecnología como buscando el control menos estricto.
La cuestión tiene una importancia práctica para Rusia. La inteligencia artificial afecta al mercado laboral, la educación, la ciberseguridad, la defensa y el acceso a la capacidad de computación. A medida que aumentan las capacidades de los modelos, también crece el coste potencial de un error; por eso, comprobarlos antes de implantarlos puede ser más importante que corregir las consecuencias después de su lanzamiento.
El plan propuesto no contempla una prohibición inmediata ni el fin de la investigación. Su lógica es detectar primero las capacidades peligrosas de los sistemas, acordar después unos requisitos comunes y ampliar luego su implantación. La iniciativa refleja la creciente preocupación por el ritmo del desarrollo de la IA y el deseo de compatibilizar el progreso tecnológico con el control de la seguridad.
