OpenAI dijo que sus nuevos chips Jalapeno tuvieron un mejor desempeño que la actual línea de Nvidia Corp. durante las pruebas, lo que pone de relieve los avances de la compañía en el desarrollo interno de procesadores de inteligencia artificial.
En las pruebas, el procesador Jalapeno lideró en dos categorías: la cantidad de trabajo de IA que podía manejar por unidad de energía y la velocidad para entregar respuestas. El semiconductor fue comparado con el GB300 de Nvidia, que era la opción líder en el sistema público de pruebas de referencia utilizado, dijo en una entrevista Richard Ho, jefe de chips de OpenAI.
El fabricante de ChatGPT planea comenzar a utilizar los nuevos chips para respaldar sus modelos de inteligencia artificial este año, como parte de un esfuerzo más amplio para construir su propia infraestructura de IA. Se suma así a una oleada de empresas que trabajan para desarrollar chips de IA propios, un campo actualmente dominado por Nvidia.
OpenAI creó Jalapeno en asociación con Broadcom Inc., que fabrica chips personalizados para diversos clientes. Las dos compañías, que anunciaron su alianza el año pasado, destacaron en junio la rapidez con la que se desarrolló el procesador y dijeron que estuvo listo en tiempo récord.
Normalmente, algunos chips son más potentes para ejecutar tareas de IA y otros son mejores para entregar respuestas rápidas, pero Jalapeno ofrece ambas capacidades, dijo Ho. OpenAI determinará cuáles de sus modelos de IA funcionarán con Jalapeno, agregó, lo que permitirá a los clientes beneficiarse al seleccionar opciones que ofrezcan ahorro de costos o un mejor desempeño.
“En el laboratorio, Jalapeno está mostrando un buen desempeño tanto en el ámbito de alto rendimiento, lo que significa que podrá atender a muchos clientes a menor costo, como en el de baja latencia, lo que significa que, para los clientes a los que les importa, el tiempo de respuesta será realmente muy, muy rápido”, dijo Ho.
Debido a que el chip está logrando buenos resultados con un bajo consumo de energía —700 vatios—, Jalapeno permitirá a OpenAI ahorrar dinero al operar sus centros de datos, donde la energía es un costo clave, dijo.
Jalapeno no fue probado frente a la nueva generación de chips de Nvidia, Vera Rubin, que acaba de comenzar a distribuirse. Tampoco está diseñado para entrenar modelos de IA, un área en la que sobresale la tecnología de Nvidia. Jalapeno está destinado a la fase de inferencia de la IA, la etapa en la que los modelos ya han sido entrenados y pueden comenzar a responder instrucciones y realizar tareas.
Las ventajas de velocidad de Jalapeno son tales que OpenAI puede lograr resultados que previamente solo eran posibles con chips que utilizan otro tipo de memoria y diseño. Por ejemplo, OpenAI actualmente utiliza tecnología de Cerebras Systems Inc. para algunos de sus modelos. Pero ese tipo de chip es más adecuado para modelos pequeños, dijo Ho.
OpenAI comparó el rendimiento de sus nuevos chips de desarrollo propio con el de los procesadores GB300 de Nvidia. Fotógrafo: Lam Yik Fei/Bloomberg
Jalapeno, en cambio, puede manejar modelos más grandes, dijo. Aun así, la tecnología de OpenAI no reemplazará próximamente a proveedores como Cerebras, agregó Ho.
“Tenemos una necesidad enorme de capacidad de cómputo, y por eso contratamos a tantos proveedores diferentes”, dijo. “Eso continuará durante un tiempo”.
Ho hablará el martes en la conferencia Hot Chips de Stanford University. Dijo que OpenAI quiere dar a conocer públicamente lo que ha hecho para ayudar a impulsar la innovación en el sector de chips de IA.
Otras startups están trabajando en ideas similares. Etched, que dijo la semana pasada que recaudó fondos con una valoración de US$ 21,000 millones, está comenzando a distribuir un chip de bajo consumo. Y una empresa llamada MatX, fundada por dos exintegrantes del negocio de silicio de Google, trabaja en un semiconductor que busca lograr tanto un alto rendimiento como una baja latencia.
OpenAI probó públicamente sus nuevos chips utilizando uno de sus modelos de código abierto más pequeños, así como modelos de terceros de DeepSeek y Moonshot AI. Jalapeno mostró ventajas más amplias con el modelo Kimi de Moonshot, el más grande con el que OpenAI lo probó. Durante pruebas internas, también tuvo un buen desempeño al ejecutar algunos de los modelos grandes y avanzados de OpenAI que aún no han sido lanzados. Eso sugiere que el diseño del chip “se vuelve más valioso a medida que las cargas de trabajo aumentan y se vuelven más exigentes”, dijo la compañía en una publicación de blog.
OpenAI dijo que utilizó sus propios modelos de IA para desarrollar el chip con mayor rapidez. Una segunda versión ya está muy avanzada en el proceso. La compañía espera completar el diseño final del chip —una etapa conocida como tape out— en los “próximos meses”, dijo Ho.
OpenAI ya está diseñando los conceptos para la tercera generación, mientras la compañía busca reducir los costos de las enormes cantidades de infraestructura de IA que está construyendo en todo el mundo. “Estamos en un nivel de costos y de consumo de energía que reducirá el costo de la infraestructura”, dijo Ho. “Este es el primer paso”.
Aunque OpenAI destaca su propio trabajo y lo compara con Nvidia, Ho se esforzó por señalar que todavía considera a esa compañía un proveedor clave de chips. “Nvidia es un socio realmente bueno y seguimos necesitando muchos chips de Nvidia”, dijo.
