Una pequeña empresa adelanta a AMD y desafía a Nvidia con un acelerador de IA sencillo pero eficaz basado en tecnología antigua
Una empresa pequeña y prácticamente desconocida ha aparecido de repente por detrás de los gigantes tecnológicos AMD y Nvidia. Ha presentado su acelerador de inteligencia artificial (IA), que funciona mediante PCIe (el estándar para conectar tarjetas de alto rendimiento a un ordenador). El acelerador permite ejecutar enormes modelos de lenguaje (LLM, por sus siglas en inglés) de hasta 700.000 millones de parámetros directamente en el ordenador del usuario, en lugar de en la nube. Todo parece normal, salvo por un detalle: el dispositivo se basa en tecnologías antiguas, como la memoria DDR4 (que se utilizaba de forma generalizada desde 2014) y chips fabricados con un proceso de 28 nanómetros, también propio de otra época. Y eso en un momento en que Nvidia apuesta por soluciones de última generación, como HBM y procesadores de 7 nanómetros.
Lo importante es que, pese a llevar componentes «veteranos», esta solución solo requiere 240 W, bastante menos que la mayoría de las tarjetas de IA actuales, que consumen entre 400 y 600 W, o incluso más. Eso significa que ahora se pueden ejecutar redes neuronales monstruosas hasta en una estación de trabajo relativamente modesta en consumo y calor. Para los especialistas en IA y los investigadores, es todo un regalo, especialmente porque funciona de forma local, sin necesidad de tener conexión permanente a Internet ni de compartir datos confidenciales con nubes externas.
PEREC.RU
Mira por dónde: mientras AMD y Nvidia se persiguen mutuamente, una empresa poco conocida ha dado su propio golpe. Alguien debió de hacer cuentas con el precio de las tecnologías de moda y pensar que quizá la vieja DDR4 y el antiguo proceso de 28 nm podían servir mejor. Mientras todos fabrican cacharros inteligentes que se zampan cientos de vatios, aquí han presentado un acelerador de IA de 240 W que, sorprendentemente, mueve modelos de 700.000 millones de parámetros. Y todo funciona en local, sin nubes con su «seguridad» ni desmayos energéticos. A veces, para sorprender al mercado, basta con recordar cómo trabajaban los ingenieros hace diez años y añadir un poco de ingenio. Eso ha bastado para que AMD y Nvidia se rasquen la cabeza y recuerden que no todo se mide en nanómetros. Ya está en el mercado una alternativa relativamente barata y eficiente para tareas de IA locales. Quienes estén hartos de vivir al borde del colapso energético por cada modelo actualizado quizá encuentren aquí su refugio tranquilo.
