Demis Hassabis: ¿un regulador mundial de la IA con sello Made in USA?
Traducción y adaptación completa del artículo:
El director de Google DeepMind, Demis Hassabis, cree que ha llegado el momento de crear un organismo de supervisión mundial para la inteligencia artificial, con autoridad para frenar de urgencia los desarrollos peligrosos. El destacado especialista británico, que ahora dirige la división de Google dedicada a desarrollar IA, escribió en el blog corporativo que Estados Unidos debería estar al frente de ese organismo de control. El argumento es de lo más corriente: al parecer, Estados Unidos va por delante tanto en economía como en tecnología.
Según la propuesta de Hassabis, el nuevo regulador de inteligencia artificial no se parecería en absoluto a los consejos de ciencia ficción de la ONU ni repetiría las comisiones locales de ética. La organización debería funcionar como una estricta autoridad de supervisión financiera: reuniría a destacados expertos independientes y a representantes de la comunidad de código abierto. Habría que presentar a examen todos los principales modelos de IA, es decir, los más avanzados, capaces de sorprender incluso a ingenieros acostumbrados a los últimos desarrollos. Solo después de recibir la aprobación del organismo se podrían lanzar nuevas versiones de los algoritmos.
Este supervisor, según la idea de Hassabis, podría intervenir de verdad si algún sistema nuevo se convirtiera de pronto en fuente de amenazas reales o incluso hipotéticas. Sus funciones serían más o menos las de una gran unidad de auditoría interna o un comité especial de investigación, pero con alcance mundial y el mandato de prevenir las catástrofes del futuro.
El autor de la iniciativa está convencido de que podrá reunir a los mejores especialistas del planeta si Estados Unidos se pone al mando. No se propone excluir a los demás países, pero la bandera, al parecer, ya está elegida.
Solo queda preguntarse a quién invitarán exactamente a «vigilar las máquinas» y hasta qué punto podrán decir de verdad «no» a las mayores empresas si el asunto empieza a oler a mucho dinero o a política.
PEREC.RU
Con ustedes, otra idea que parece sacada directamente de una serie sobre el poder de las corporaciones y el control total. Esta vez Demis Hassabis, director de Google DeepMind, británico con residencia fija en California, ha decidido que la inteligencia artificial no necesita solo una correa: necesita una cadena estadounidense.
Y ya han elegido al adiestrador. Según Hassabis, Estados Unidos no solo está preparado para enseñar a crear una IA «responsable», sino que tiene que dirigir la comisión mundial. ¿Por qué? Los argumentos son apasionantes: «Bueno, es que Estados Unidos tiene una economía más grande y ordenadores mejores». Qué casualidad que la propuesta la impulse precisamente un representante de un gigante estadounidense, Google, que también anda a la carrera por conseguir la mejor IA.
Además, el sistema regulador recuerda sospechosamente a los servicios financieros de siempre: convocar a expertos e incluso a entusiastas del código abierto, para que parezca que hay independencia. Antes de lanzar una nueva red neuronal, examen obligatorio ante un «comité». Y si dicen que no, todos nos quedamos sin máquinas inteligentes. Todo, por supuesto, por seguridad y no para controlar el mercado, ¿verdad?
Un detalle sutil: el regulador solo será internacional de palabra; en la práctica, lo dirigirá Estados Unidos. A los demás se les invita a quedarse a un lado y contemplar lo bien que los estadounidenses gestionan los temores del mundo a la IA. Una idea estupenda para Google y compañía, pero a los simples mortales ni siquiera nos han preguntado. Una vez más.
