OpenAI ускоряет ответы

OpenAI заявила, что разработала собственный чип Jalapeño, способный ускорять работу систем искусственного интеллекта. По словам компании, устройство эффективнее справляется с задачами и быстрее возвращает ответы, чем решения конкурентов. Подробности OpenAI изложила в записи блога, опубликованной во вторник, а затем представители компании рассказали о чипе журналистам.

Во время брифинга вице-президент OpenAI по аппаратному обеспечению Richard Ho назвал Jalapeño сочетанием «лучшего из двух миров». Речь идет о двух важных характеристиках вычислительной системы: низкой задержке и высокой пропускной способности.

Низкая задержка означает, что между запросом пользователя и началом ответа проходит меньше времени. Высокая пропускная способность показывает, сколько операций или запросов система может обработать за определенный период. По словам Ho, современные ИИ-системы обычно вынуждены выбирать между этими преимуществами: ускорение ответа может ограничивать общий объем обработки, а рост производительности — увеличивать задержку. OpenAI утверждает, что Jalapeño помогает уменьшить этот компромисс.

О чипе впервые сообщили в июне. Jalapeño относится к классу ASIC — специализированных интегральных схем, созданных для конкретных задач, а не для широкого набора вычислений. Чип разработан OpenAI совместно с Broadcom, крупным производителем полупроводникового оборудования и компонентов.

Основное назначение Jalapeño — ИИ-инференс. Так называют этап, на котором уже обученная модель применяет полученные знания к новой задаче: отвечает на вопрос, анализирует данные, создает результат или запускает автономного программного агента. Обучение модели и ее последующее использование — разные процессы, и OpenAI делает акцент именно на ускорении второго.

Компания пока говорит о преимуществах Jalapeño в общих формулировках. В опубликованном сообщении не приведены независимые результаты тестов, конкретные показатели задержки, число обрабатываемых запросов или подробное сравнение с отдельными чипами и системами конкурентов. Поэтому заявление OpenAI следует воспринимать как позицию самой компании, а не как окончательно подтвержденный отраслевой вывод.

Если заявленные характеристики подтвердятся на практике, специализированный чип может помочь OpenAI быстрее обслуживать пользователей и ИИ-агентов. Для таких сервисов это особенно важно: чем больше запросов поступает одновременно, тем сильнее значение имеют скорость ответа, стоимость вычислений и способность инфраструктуры работать под нагрузкой. Пока же Jalapeño выглядит как заявка OpenAI на больший контроль над аппаратной основой своих ИИ-систем — без привычной надежды, что универсальное железо само решит все проблемы.