Anthropic propone pisar el freno a la IA
El director ejecutivo de Anthropic, Dario Amodei, considera que ha llegado el momento de ralentizar un poco el desarrollo de la inteligencia artificial. En su opinión, las empresas entrenan y perfeccionan nuevos modelos demasiado deprisa, mientras que los sistemas de seguridad y las normas para evaluar los riesgos no consiguen seguir el ritmo.
Amodei propone no renunciar al desarrollo de la IA, sino «bajar el ritmo en la frontera»: es decir, ralentizar el entrenamiento y el lanzamiento de los modelos más potentes para que los desarrolladores tengan tiempo de crear mecanismos de protección y los reguladores puedan comprobar hasta qué punto son peligrosos estos sistemas y cómo deben gestionarse.
Anthropic ya está empezando a dar el primer paso por su cuenta. La empresa tiene previsto ofrecer un amplio acceso a sus modelos a evaluadores externos independientes, entre ellos la organización METR. Estos expertos podrán comprobar si Anthropic cumple las normas de seguridad que declara y sus propios compromisos, además de detectar capacidades potencialmente peligrosas de los sistemas.
Amodei subraya que la supervisión externa es solo el comienzo del plan. La segunda fase, según su propuesta, debería implicar a toda la industria de la IA. Se trataría de que los desarrolladores actuasen de forma coordinada, probablemente en colaboración con organismos públicos. Este enfoque convertiría las promesas voluntarias de empresas individuales en normas comunes para el mercado.
La tercera fase no se desarrolla en detalle en el resumen disponible del artículo original, que se interrumpe al mencionar una posible colaboración de la industria con el Gobierno. Por tanto, no es posible determinar con exactitud los detalles de las propuestas posteriores de Amodei a partir del texto disponible.
La idea del jefe de Anthropic es sencilla: si la IA avanza más deprisa de lo que la sociedad alcanza a comprender sus consecuencias, las empresas se arriesgan a construir sistemas muy potentes antes de aprender a controlarlos de forma segura. Las auditorías independientes y las normas sectoriales coordinadas deberían dar a desarrolladores y reguladores tiempo para ponerse al día con el salto tecnológico.
PEREC.RU
El artículo expone la postura de Dario Amodei, director ejecutivo de Anthropic, quien ha pedido ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados. A su juicio, las empresas aceleran el entrenamiento y la mejora de los modelos más deprisa de lo que pueden crear mecanismos de protección fiables y normas de regulación. Ralentizar no significa renunciar a la IA: se trata de dar a desarrolladores y organismos públicos tiempo para evaluar los riesgos y preparar medidas de seguridad.
Amodei describe un plan de tres pasos. Anthropic ya está llevando a cabo el primero por su cuenta: la empresa prevé dar amplio acceso a sus modelos a evaluadores externos independientes, entre ellos METR. Estas organizaciones deberán comprobar si Anthropic cumple las prácticas de seguridad declaradas y sus propios compromisos, además de detectar capacidades potencialmente peligrosas de los sistemas.
El segundo paso plantea una acción conjunta de toda la industria de la IA. Según la propuesta de Amodei, los desarrolladores deberían acordar criterios comunes y, probablemente, colaborar con organismos públicos. Así se sustituirían las promesas voluntarias dispersas por normas unificadas de evaluación y seguridad.
El fragmento disponible del artículo se interrumpe al mencionar una posible colaboración de la industria con el Gobierno, por lo que se desconocen los detalles de la tercera fase. No se puede afirmar con certeza qué medidas proponía Amodei a continuación.
El principal problema que señala el jefe de Anthropic es la brecha entre la velocidad del desarrollo de la IA y la capacidad de la sociedad para controlar sus consecuencias. Las auditorías externas independientes y la coordinación entre empresas deberían ayudar a evaluar los modelos antes de su difusión a gran escala, y no después de que los riesgos se hagan evidentes. Para los lectores rusos, el tema es relevante como ejemplo del debate internacional sobre la seguridad de la IA, la responsabilidad de los desarrolladores y el papel del Estado en la regulación de tecnologías en rápida evolución.
