Anthropic, 메모리 부족 속 Fractile AI 추론 칩 검토
Anthropic이 AI 메모리 비용과 공급 압박이 심화되는 가운데 Fractile 추론 칩 구매를 위해 초기 협상을 진행 중인 것으로 알려졌다.
Anthropic이 AI 메모리 비용과 공급 압박이 심화되는 가운데 Fractile 추론 칩 구매를 위해 초기 협상을 진행 중인 것으로 알려졌다.
Google은 AI 추론 효율을 높이기 위해 메모리 처리 장치와 차세대 TPU라는 두 개의 새로운 AI 칩을 Marvell Technology와 공동 개발하기 위해 협상하고 있다.
엔비디아는 3월에 열리는 예정인 GTC 컨퍼런스에서 새로운 인퍼런스 칩 플랫폼을 발표할 예정이며, 이를 통해 AI 하드웨어 시장에서의 지배력을 더욱 강화하려 하고 있다.
인기 오픈소스 추론 엔진 vLLM을 상업화하는 스타트업 Inferact가 Andreessen Horowitz와 Lightspeed가 주도한 1억5천만 달러 규모의 시드 라운드를 유치하여 AI 애플리케이션 배포를 가속화합니다.