OpenAI propone frenar el ritmo de la IA
El científico jefe de OpenAI, Jakub Pachocki, pidió al sector de la inteligencia artificial que ralentice el ritmo de desarrollo. Según explicó, no se trata solo de las decisiones de OpenAI, sino de una acción coordinada de todas las empresas dedicadas a la IA.
La declaración llegó apenas unos días después del lanzamiento de GPT-6 Astra, el nuevo modelo de OpenAI orientado a las empresas. La proximidad resulta incómoda: la compañía lanza otra potente herramienta y, acto seguido, su principal científico recuerda que la humanidad quizá no entienda hacia dónde se precipita.
En una publicación en la web de OpenAI, Pachocki escribió que los sistemas actuales de inteligencia artificial plantean «nuevas amenazas evidentes» para la seguridad informática. Más inquietante aún es su valoración de las consecuencias: nadie está preparado para lo que ocurrirá si continúa el rápido crecimiento de la inteligencia artificial.
El científico vinculó su advertencia a los planes de OpenAI de crear un asistente de investigación automatizado y al desarrollo de la automejora recursiva. Esta vía supone que la IA pueda participar en la creación de su siguiente versión, acelerando así su propio desarrollo. En una situación así, sostiene Pachocki, es especialmente importante no limitarse a aumentar las capacidades de los modelos, sino decidir de antemano cuál será la siguiente etapa.
Señala que el progreso computacional ha llevado al sector a un momento histórico: la inteligencia artificial empieza a superar a la humana en ámbitos capaces de transformar profundamente la sociedad. Al mismo tiempo, la investigación en IA basada en el aprendizaje profundo sigue siendo, en gran medida, una ciencia experimental. En otras palabras, la humanidad está poniendo en marcha procesos cuyo funcionamiento y consecuencias apenas comprende.
Pachocki recuerda la historia de OpenAI: desde el principio, el aumento de la capacidad de cálculo se consideró una forma de acelerar la investigación. Los nuevos algoritmos hicieron los sistemas más eficientes, pero la carrera por conseguir aún más potencia no ha desaparecido. El artículo no aborda por separado el consumo energético, la refrigeración de los centros de datos ni la oposición de los vecinos a la construcción de nuevas instalaciones. En cambio, sí admite abiertamente el riesgo de perder el control de la IA.
Como posible solución, Pachocki señala dos vías. La primera consiste en desarrollar a la vez la alineación de los objetivos de la IA con los intereses humanos, reforzar la supervisión y mantener a las personas implicadas en la toma de decisiones. La segunda, si fuera necesario, sería ralentizar de forma coordinada el desarrollo para comprobar la fiabilidad de estas medidas y reforzar la confianza en ellas.
Él considera que lo óptimo es combinar ambos enfoques: no abandonar la investigación, pero tampoco acelerarla sin frenos. La gran pregunta ahora es si toda la industria aceptará reducir la velocidad para evaluar el alcance de las capacidades y los riesgos de la IA. Por ahora, parece dudoso: en una carrera tecnológica, lo habitual es que alguien pise el freno voluntariamente solo cuando ya ve una columna de hormigón delante.
PEREC.RU
El artículo trata sobre la petición de Jakub Pachocki, científico jefe de OpenAI, de ralentizar el desarrollo de la inteligencia artificial. Considera que deben hacerlo no solo OpenAI, sino toda la industria mundial de la IA, porque ni la sociedad ni los especialistas están preparados para las consecuencias del rápido crecimiento de la inteligencia artificial.
La declaración se publicó poco después del lanzamiento de GPT-6 Astra, el modelo empresarial de OpenAI, lo que crea un contraste evidente entre la promoción activa de nuevos productos y la advertencia pública sobre los riesgos de su desarrollo futuro.
Pachocki calificó los sistemas actuales de IA como fuente de nuevas amenazas para la seguridad informática. También advirtió de la posible pérdida de control sobre estas tecnologías y afirmó que nadie está preparado para las consecuencias de la aceleración continua de la inteligencia artificial.
El artículo presta especial atención a los planes de OpenAI de crear un asistente de investigación automatizado y al desarrollo de la automejora recursiva. Esto se refiere a la capacidad de la IA para participar en el diseño de su siguiente versión. Esa perspectiva podría acelerar el progreso, pero también dificulta el control de la dirección y el ritmo del desarrollo de los sistemas.
Según Pachocki, la humanidad ha entrado en una etapa en la que la inteligencia artificial empieza a superar a la humana en ámbitos capaces de transformar la sociedad. Aun así, el aprendizaje profundo sigue siendo en gran medida una ciencia experimental. Los investigadores crean modelos cada vez más potentes, pero no siempre comprenden del todo su comportamiento ni sus consecuencias a largo plazo.
Durante mucho tiempo, el desarrollo de OpenAI y de todo el sector se basó en aumentar la capacidad de cálculo. Los nuevos algoritmos hicieron la IA más eficiente, pero se mantuvo el afán por utilizar cada vez más recursos. La publicación no analiza en detalle el consumo energético, la necesidad de refrigerar los centros de datos ni las protestas contra su construcción, aunque estos problemas acompañan a la infraestructura actual de IA.
Pachocki destacó dos formas principales de reducir los riesgos. La primera es mejorar la alineación del comportamiento de la IA con los objetivos humanos, reforzar la supervisión y mantener a las personas en el proceso de toma de decisiones. La segunda es ralentizar de forma coordinada los futuros desarrollos para comprobar la fiabilidad de las medidas de protección y generar confianza en ellas.
El científico jefe de OpenAI considera que lo más sensato es combinar ambos enfoques: continuar la investigación, pero evitar una aceleración sin control. Sin embargo, parece dudoso que toda la industria esté dispuesta a reducir voluntariamente el ritmo, ya que las empresas compiten por el liderazgo tecnológico y las ventajas comerciales. El tema es relevante para los lectores rusos por la posible influencia de la IA en la ciberseguridad, el mercado laboral, el desarrollo empresarial y la regulación estatal de la tecnología.
