Inférence

OpenAI affirme que GPT-5.6 améliore l’intelligence par dollar à travers les modèles, l’inférence et les agents, signalant que l’efficacité des coûts est désormais au cœur de l’IA de frontière.

OpenAI et Broadcom présentent Jalapeño, la première puce accélératrice IA personnalisée d’OpenAI, conçue spécialement pour les charges de travail d’inférence et développée à l’aide des propres modèles d’OpenAI.

Anthropic serait en pourparlers préliminaires pour acheter des puces d’inférence Fractile, alors que les coûts de mémoire pour l’IA et les tensions sur l’approvisionnement s’intensifient.

Google négocie avec Marvell Technology pour co-développer deux nouvelles puces d’IA — une unité de traitement de la mémoire et une TPU de nouvelle génération — afin d’améliorer l’efficacité de l’inférence IA.

Nvidia s'apprête à annoncer une nouvelle plateforme de puces d'inférence lors de sa prochaine conférence GTC en mars, visant à consolider encore davantage sa domination sur le marché du matériel pour l'IA.

Inferact, la startup qui commercialise le moteur d'inférence open-source populaire vLLM, a levé un tour de financement seed de 150 millions de dollars mené par Andreessen Horowitz et Lightspeed afin d'accélérer le déploiement d'applications d'IA.