AWS, 긴 컨텍스트와 프롬프트 캐싱을 갖춘 Moonshot AI의 Kimi K3를 Amazon Bedrock에 제공
AWS가 Moonshot AI의 Kimi K3를 Amazon Bedrock에 추가해, 비전, 긴 컨텍스트, 프롬프트 캐싱을 갖춘 오픈웨이트 모델을 개발자에게 제공한다.
장문맥 AI
장문맥 AI에 대한 최신 뉴스 및 분석
장문맥 AI
NVIDIA, 장문 컨텍스트 AI 추론을 위해 Groq 3 LPX를 본격 생산 체제로 전환
NVIDIA는 Groq 3 LPX가 Vera Rubin과 함께 본격 생산에 들어갔으며, AI 에이전트와 멀티턴 워크로드를 위한 더 빠른 장문 컨텍스트 추론을 목표로 한다고 밝혔다.
Liquid AI, Hugging Face에서 LFM2.5-Encoders 출시… CPU 우선 장문 컨텍스트 NLP가 더 큰 모델을 앞설 수 있다는 데 베팅
Liquid AI는 Hugging Face에 LFM2.5-Encoder 모델을 공개하며, 더 큰 하드웨어 없이 문서 규모 NLP를 위한 더 빠른 장문 컨텍스트 CPU 추론을 내세웠다.
DeepSeek V4는 다음 AI 경쟁이 단순한 규모가 아니라 효율성을 중심으로 전개될 것임을 보여준다
DeepSeek V4의 낮은 비용의 백만 토큰 추론은 AI 경쟁이 단순한 파라미터 수에서 비용 효율적인 장문맥 지능으로 이동하고 있음을 시사한다.
광고