Anthropic изучает чипы для инференса Fractile AI на фоне дефицита памяти
Сообщается, что Anthropic ведёт ранние переговоры о покупке чипов для инференса Fractile, поскольку затраты на память для ИИ и давление на поставки усиливаются.
Сообщается, что Anthropic ведёт ранние переговоры о покупке чипов для инференса Fractile, поскольку затраты на память для ИИ и давление на поставки усиливаются.
Google ведёт переговоры с Marvell Technology о совместной разработке двух новых ИИ-чипов — блока обработки памяти и TPU следующего поколения — чтобы повысить эффективность инференса ИИ.
Nvidia намерена объявить о новой платформе для чипов инференса на предстоящей конференции GTC в марте, стремясь ещё больше укрепить своё доминирование на рынке аппаратного обеспечения для ИИ.
Стартап Inferact, коммерциализирующий популярный open-source движок инференса vLLM, привлек раунд посевного финансирования в размере $150 млн под руководством Andreessen Horowitz и Lightspeed, чтобы ускорить развёртывание AI-приложений.