Anthropic busca a un experto en armas
La empresa estadounidense Anthropic, conocida como uno de los líderes en el desarrollo de sistemas de inteligencia artificial, se ha visto de repente en el centro de un intenso debate tras publicar una oferta de empleo poco habitual. En las redes sociales, el anuncio despertó de inmediato asociaciones con películas de ciencia ficción como Terminator y con la famosa Cyberdyne Systems, la empresa que creó la inteligencia artificial Skynet. Pero, a diferencia de los sombríos escenarios del cine, la realidad resultó ser mucho más prosaica.
En LinkedIn, la empresa publicó una oferta para el puesto de «Responsable de políticas: armas químicas y explosivos de gran potencia». Pese al inquietante título, el objetivo del puesto es otro. Anthropic explicó que busca a una persona que defina cómo deben gestionar los sistemas de inteligencia artificial la información sensible relacionada con sustancias peligrosas. Dicho de otro modo, se trata de prevenir abusos, no de desarrollar armas.
Representantes de Anthropic aclararon que la empresa prohíbe categóricamente utilizar sus productos y tecnologías para crear armas de cualquier tipo. El nuevo puesto pertenece al equipo Safeguards, una división dedicada por completo a impedir usos dañinos de la IA. La persona que tienen previsto contratar en Nueva York deberá crear y supervisar mecanismos de seguridad para que nadie utilice los desarrollos de Anthropic para fabricar armas químicas o explosivos.
La empresa subraya que quiere contratar a expertos en ámbitos sensibles precisamente para que sus conocimientos ayuden a bloquear cualquier intento de abuso. Estas medidas cobran especial relevancia ante la creciente atención que recibe la IA.
El paso ha llamado especialmente la atención porque Anthropic está ahora enfrentada al Departamento de Defensa de Estados Unidos. La empresa se niega rotundamente a permitir que sus modelos se utilicen para crear sistemas de armamento plenamente autónomos o para la vigilancia masiva. En respuesta, el secretario de Defensa, Pete Hegseth, afirmó que la empresa supone una amenaza para la seguridad nacional y anunció que se prohibirá el uso de sus tecnologías en el Pentágono tras un periodo de transición de seis meses. Anthropic ha presentado una demanda para defender su postura.
Sin embargo, según los medios, algunos empleados del Pentágono no están nada contentos con tener que prescindir de Claude, el modelo de IA de Anthropic que utilizaban activamente.
Ya en febrero, Anthropic actualizó su política de seguridad, denominada Responsible Scaling Policy. Según la empresa, en la decisión influyeron varios factores, entre ellos las prioridades de las autoridades federales, que, a juicio de Anthropic, prestan más atención al crecimiento económico que al endurecimiento de las normas de seguridad.
La nueva persona responsable trabajará en pleno centro del debate sobre el futuro de la IA y quizá desempeñe un papel en la prevención de escenarios que hasta ahora solo podían verse en películas sobre la rebelión de las máquinas.
PEREC.RU
La oferta de Anthropic se convirtió en un meme: el título parecía una invitación a entrar en el laboratorio de un villano de ciencia ficción. Pero detrás hay trabajo rutinario: la empresa busca a un especialista que impida que se use la IA para crear armas químicas y explosivos.
Anthropic está construyendo activamente un sistema de restricciones para sus modelos, y eso provoca roces con el Departamento de Defensa de Estados Unidos. Al Departamento no le gusta que la empresa prohíba usar la IA para armamento autónomo y vigilancia masiva. El conflicto político no tarda en llenarse de tópicos sobre seguridad nacional.
Toda esta historia encaja a la perfección en la imagen del mundo tecnológico actual, donde hasta el intento de protegerse de los abusos parece sospechoso. Al final, la empresa parece demasiado principista, el Estado demasiado impaciente y la futura persona responsable quedará entre dos fuegos. La IA avanza deprisa, pero inspira menos confianza de la que a algunos les gustaría. Las emociones, los miedos y la política vuelven a dar forma a un debate que debería tratar sobre seguridad y ha acabado tratando sobre poder.
