Inferencia

OpenAI afirma que GPT-5.6 mejora la inteligencia por dólar en modelos, inferencia y agentes, lo que indica que la eficiencia de costes es ahora central en la IA de frontera.

OpenAI y Broadcom presentan Jalapeño, el primer chip acelerador de IA personalizado de OpenAI, diseñado específicamente para cargas de trabajo de inferencia y desarrollado utilizando los propios modelos de OpenAI.

Según informes, Anthropic mantiene conversaciones preliminares para comprar chips de inferencia de Fractile, mientras aumentan los costos de memoria para IA y la presión sobre el suministro.

Google está negociando con Marvell Technology para co-desarrollar dos nuevos chips de IA: una unidad de procesamiento de memoria y una TPU de última generación, con el fin de mejorar la eficiencia de la inferencia de IA.

Nvidia tiene previsto anunciar una nueva plataforma de chips de inferencia en su próxima conferencia GTC en marzo, con el objetivo de consolidar aún más su dominio en el mercado de hardware para IA.

Inferact, la startup que comercializa el popular motor de inferencia de código abierto vLLM, ha conseguido una ronda seed de 150 millones de dólares liderada por Andreessen Horowitz y Lightspeed para acelerar el despliegue de aplicaciones de IA.