Inferência

A OpenAI afirma que o GPT-5.6 melhora a inteligência por dólar em modelos, inferência e agentes, sinalizando que a eficiência de custos agora é central na IA de fronteira.

OpenAI e Broadcom lançam o Jalapeño, o primeiro chip acelerador de IA personalizado da OpenAI, projetado especificamente para cargas de trabalho de inferência e desenvolvido com os próprios modelos da OpenAI.

A Anthropic estaria em negociações iniciais para comprar chips de inferência da Fractile, à medida que os custos de memória de IA e a pressão sobre a oferta se intensificam.

O Google está negociando com a Marvell Technology para co-desenvolver dois novos chips de IA — uma unidade de processamento de memória e uma TPU de próxima geração — para aumentar a eficiência da inferência de IA.

A Nvidia está prestes a anunciar uma nova plataforma de chips de inferência na sua próxima conferência GTC em março, com o objetivo de consolidar ainda mais sua hegemonia no mercado de hardware para IA.

A startup Inferact, que comercializa o popular motor de inferência open-source vLLM, levantou uma rodada seed de US$150 milhões liderada pela Andreessen Horowitz e Lightspeed para acelerar a implantação de aplicações de IA.