La dimisión de la responsable de robótica de OpenAI
La responsable del área de robótica de OpenAI, Caitlin Kalinowski, ha dimitido, y lo ha hecho a lo grande. El motivo ha sido el paso rápido y, según ella, insuficientemente meditado de la empresa hacia una colaboración con el Departamento de Defensa de Estados Unidos. Kalinowski acusó a la dirección de precipitarse y de no establecer límites claros que pudieran prevenir abusos.
Kalinowski, que llegó a OpenAI a finales de 2024 tras trabajar en Meta, escribió abiertamente que cuestiones como la vigilancia de ciudadanos sin orden judicial y los sistemas autónomos capaces de usar la fuerza sin intervención humana requieren un debate mucho más profundo. Su publicación provocó una oleada de comentarios y, al responder a las preguntas, subrayó que el problema principal era la gobernanza y la ausencia de barreras concretas que deberían haberse definido de antemano.
OpenAI confirmó rápidamente su salida y declaró que comprende la intensa reacción de sus empleados y de la sociedad ante el asunto. En su comentario oficial, la empresa afirmó que no comparte las preocupaciones expresadas por Kalinowski y aseguró que la colaboración con el Pentágono no contempla desarrollar herramientas de vigilancia interna ni armas autónomas.
Según la empresa, el acuerdo con el Departamento de Defensa de Estados Unidos debe establecer un marco seguro y controlado para el uso de la IA en el ámbito de la seguridad nacional. OpenAI recalcó que las líneas rojas incluyen la prohibición de la vigilancia interna y el rechazo absoluto a los sistemas de armas autónomos.
La salida de Kalinowski ha sido la consecuencia más visible de la decisión de cerrar un acuerdo con el departamento militar. La situación también se ve agravada porque Anthropic, competidora de OpenAI, se negó hace poco a retirar las restricciones de seguridad de sus sistemas de IA relacionadas con la vigilancia masiva y la creación de sistemas de armas totalmente autónomos.
Incluso el director ejecutivo de OpenAI, Sam Altman, declaró al comentar el acuerdo que pretendía introducir cambios para prohibir expresamente cualquier intento de usar la tecnología para vigilar a ciudadanos estadounidenses. La declaración llegó tras una dura oleada de críticas dentro y fuera de la empresa y, al parecer, demasiado tarde para que Kalinowski se quedara en el equipo.
Su dimisión vuelve a plantear preguntas sobre si una gran empresa que desarrolla IA puede controlar eficazmente sus propias tecnologías y resistir la presión del Estado cuando se trata de seguridad. Y sobre dónde está esa fina línea entre «ayudar a proteger el país» y «abrir la puerta al control total».
PEREC.RU
La responsable de robótica de OpenAI se marcha y deja tras de sí un rastro de preguntas incómodas. Formalmente, la causa es un acuerdo con el Pentágono que no pasó por el filtro de las restricciones internas. En la práctica, es la brecha entre las declaraciones públicas de la empresa y sus maniobras políticas reales.
Kalinowski habló sin rodeos. Señaló dos puntos delicados: la vigilancia sin orden judicial y las armas autónomas. Ambos son tóxicos. Ambos llevan tiempo preocupando. La empresa prefirió esquivar los dos con un paso ligero, como si estuviera eligiendo una tipografía nueva para una presentación.
OpenAI responde con su aplomo habitual. Asegura que hay líneas rojas, que hay normas y que no hay riesgos. Suena convincente, siempre que olvidemos que las modificaciones del acuerdo salieron a la luz después de que la oleada de críticas ya hubiera alcanzado al CEO. Una coincidencia poco común: primero toman una decisión y luego se acuerdan de la gente que tienen dentro.
También resulta reveladora la comparación con la competencia: Anthropic no saltó por encima de sus restricciones. OpenAI sí. Y después explicó que todo estaba bajo control.
La dimisión de Kalinowski no es un simple conflicto interno. Es una prueba de fuego que muestra que ni siquiera quienes desarrollan IA de vanguardia tienen respuesta a la pregunta clave: quién pone los límites. Y quién responde si los intereses del Estado los borran de un plumazo.
La historia demuestra que las primeras grietas siempre aparecen en las palabras de quienes se van. No es casualidad que sus voces se oigan más que las demás.
