Salesforce와 Nvidia, 기업 특화 추론이 프런티어 AI에 도전할 수 있다고 베팅
Salesforce와 Nvidia는 비용을 낮추고 데이터를 보호하며 비즈니스 워크플로를 처리하도록 설계된 Agentforce용 기업 추론 모델 Koa를 발표했다.
Salesforce와 Nvidia는 범용 문제 해결이 아니라 영업, 마케팅, 고객 지원 업무를 위해 구축된 추론 모델 Koa를 발표했다. Salesforce의 Dreamforce 컨퍼런스에서 공개된 Koa는 회사의 AI 에이전트를 구축하는 플랫폼인 Agentforce를 통해 제공되는 모델 옵션에 합류한다.
이 발표가 중요한 이유는 프런티어 AI 개발과 기업 배포 사이의 분리가 점점 커지고 있음을 보여주기 때문이다. 모든 복잡한 요청을 OpenAI나 Anthropic의 범용 모델로 보내는 대신, Salesforce는 고객의 워크플로에 맞춰 조정된 시스템을 제공하며, 데이터 제어와 추론 효율성은 비즈니스 소프트웨어를 중심으로 설계되어 있다.
Koa는 Nvidia의 오픈 웨이트 모델인 Nvidia Nemotron을 기반으로 구축됐다. 두 회사는 포스트 트레이닝에서 협력해 영업 대화와 고객 서비스 상호작용을 나타내는 합성 시나리오를 사용했다. Salesforce 임원 Jayesh Govindarajan에 따르면 실제 고객 데이터는 사용되지 않았다.
Koa는 Salesforce의 운영 워크플로를 겨냥한다
Salesforce는 Koa가 Agentforce 고객들이 자동화하고자 하는 다단계 작업을 처리하도록 설계됐다고 말한다. 여기에는 고객 질문에 답변하고, 영업 활동을 지원하며, 다양한 고객 페르소나와 복잡성 수준이 포함된 서비스 상호작용을 처리하는 일이 포함될 수 있다.
이러한 초점은 Koa를 폭넓은 추론 능력을 내세워 마케팅되는 모델들과 구분한다. Salesforce는 이 모델을 기업 내 모든 AI 시스템을 대체하는 존재로 포지셔닝하지 않는다. 대신, 이미 더 작은 작업 특화 언어 모델을 포함하고 있는 Agentforce의 기존 모델 포트폴리오에 전문화된 옵션을 추가하고 있다.
이전에는 회사가 더 까다로운 추론 작업을 AI 게이트웨이를 통해 Claude나 ChatGPT 같은 외부 모델로 전달했다. 게이트웨이는 어떤 모델이 요청을 처리할지 결정한다. Koa는 Salesforce에 이 라우팅 계층을 위한 또 하나의 선택지를 제공하며, 특히 작업이 영업이나 고객 지원 프로세스와 밀접하게 연결될 때 유용하다.
모델의 기업용 포지셔닝은 어디에서 실행되는지, 그리고 무엇으로 학습됐는지에도 달려 있다. Salesforce는 Koa가 고객 기록으로 학습되지 않았다고 말한다. 포스트 트레이닝 데이터는 서비스 센터에 연락하는 화난 고객과 거래를 성사시키려는 영업 전문가를 포함해 상호작용을 시뮬레이션하도록 합성 생성됐다.
오픈 웨이트와 출처가 중요한 이유
Salesforce가 Nvidia Nemotron을 기반으로 구축하기로 한 결정은 더 많은 통제권을 원하는 기업이 직면한 현실적 제약을 반영한다. 유능한 베이스 모델을 처음부터 학습시키는 것은 비용이 많이 들고 기술적으로 어렵다. Govindarajan은 TechCrunch에 Nemotron이 이용 가능한 미국산 사전학습 모델이었고, Salesforce가 보기에 강력한 능력과 더 명확한 데이터 출처를 갖췄다고 말했다.
이 출처 문제는 오픈 웨이트 모델을 평가하는 기업 구매자에게 중요하다. Govindarajan은 Nemotron을 Alibaba의 Qwen과 비교하며, Salesforce는 Qwen이 어떤 데이터로 학습됐는지 모른다고 말했다. 그의 발언은 경쟁 모델에 대한 독립적 평가가 아니라 Salesforce의 선택 기준에 대한 임원 발언이다.
Nvidia의 Kari Ann Briski는 Nemotron의 아키텍처가 토큰 효율적인 추론을 위해 설계됐다고 말했다. 실무적으로 Salesforce와 Nvidia는 Koa가 더 적은 생성 텍스트로 유용한 답을 얻을 수 있어, 같은 작업을 더 큰 범용 모델로 보내는 것보다 사용 비용이 낮다고 주장한다.
현재 공개된 보도에는 Koa에 대한 독립 벤치마크, 가격, 지연 시간 측정, 또는 나란히 비교한 품질 결과가 없다. 따라서 토큰 사용 감소, 더 빠른 응답, Salesforce 워크플로에서의 더 우수한 성능에 대한 주장은 고객이나 제3자 평가자가 비교 가능한 증거를 공개할 때까지는 벤더 보고로 취급해야 한다.
Anthropic이나 OpenAI에서 벗어나는 것이 아닌, 특화 모델
Salesforce의 Koa 발표는 회사가 프런티어 모델 제공업체와의 관계를 끊는다는 신호가 아니다. Salesforce는 또한 Anthropic과의 파트너십인 Claudeforce를 발표했는데, 이를 통해 기업은 Claude를 AI 인터페이스로 사용하면서 기업 데이터를 Salesforce의 시스템과 보안 인프라 안에 유지할 수 있다.
이 조합은 단일 모델에 대한 약속보다는 포트폴리오 전략을 시사한다. Koa 같은 특화 모델은 예측 가능한 비즈니스 작업을 처리하고, Claude나 다른 프런티어 시스템은 더 넓은 역량이 필요한 요청을 위해 계속 제공될 수 있다. AI 게이트웨이는 제어 지점이 되어 Salesforce가 워크로드를 서로 다른 모델에 매칭하도록 한다.
기업 고객에게는 이런 구성이 고급 모델 접근성을 유지하면서 특정 공급자에 대한 의존도를 줄일 수 있다. 또한 Salesforce가 모델 선택, 데이터 거버넌스, 에이전트 실행에서 더 중심적인 플랫폼이 되도록 만든다. 다만 복잡성은 늘어난다. 구매자는 라우팅 결정이 어떻게 내려지는지, 작업별 모델 품질이 어떻게 달라지는지, 그리고 범용 시스템이 개선될수록 특화 모델이 경쟁력을 유지할 수 있는지 이해해야 한다.
Koa가 빌더와 구매자에게 의미하는 것
AI 제품 팀에게 Koa는 범용 모델이 널리 사용 가능하더라도 도메인 특화 포스트 트레이닝이 왜 매력적인지 보여준다. 기업의 워크플로 관습을 이해하는 모델은 더 적은 지시로도 충분하고, 더 짧은 추론 흔적을 만들며, 기존의 권한 및 기록 시스템에 더 자연스럽게 맞아떨어질 수 있다.
합성 데이터 접근은 생산 데이터를 모델 개발에 사용할 수 없는 조직에도 매력적일 수 있다. 실제 기록을 노출하지 않고 민감한 고객 상호작용이 포함된 시나리오를 테스트하는 데 도움이 된다. 하지만 시뮬레이션된 대화가 실제 비즈니스 운영의 모든 다양성, 모호성, 실패 모드를 자동으로 포착하는 것은 아니다. Salesforce 고객은 중요한 작업을 맡기기 전에 자신의 프로세스에 맞춰 Koa를 검증해야 한다.
신뢰성과 거버넌스는 원시 모델 품질만큼 중요하다. Agentforce 배포에는 이례적인 요청에 대한 명확한 에스컬레이션 규칙, 자동화된 작업에 대한 감사 로그, 저비용 모델이 평가받지 않은 작업에 사용되는 것을 막는 통제가 필요할 수 있다. AI 게이트웨이는 이러한 정책을 지원할 수 있지만, 보도만으로는 아직 Koa의 통제나 평가 프레임워크가 얼마나 상세한지 알 수 없다.
경쟁적 함의는 Salesforce의 제품군을 넘어선다. 기업 소프트웨어 회사들이 오픈 웨이트 베이스 모델과 합성 포스트 트레이닝, 통제된 라우팅을 결합할 수 있다면, 현재 범용 AI 연구소로 흘러가는 가치의 더 많은 부분을 가져올 수 있다. 프런티어 제공업체는 여전히 중요한 역량을 제공하겠지만, 소프트웨어 회사들이 그러한 역량이 언제 필요한지 결정하는 계층이 될 수 있다.
다음에 주목할 점
첫 번째 신호는 실제 Agentforce 워크로드 전반에서 Koa의 품질, 지연 시간, 토큰 사용량, 비용에 대한 독립적인 증거가 될 것이다. 고객 사례는 이 모델이 사람 검토를 늘리지 않으면서 해결률이나 작업 완료율을 개선하는지 명확히 해줘야 한다.
빌더들은 또한 AI 게이트웨이를 통해 Koa가 어떻게 노출되는지 지켜봐야 한다. 고객이 라우팅 규칙을 설정하고, 출력을 비교하고, 지출 한도를 설정하고, 모델 결정을 감사할 수 있는지 여부다. 배포 옵션, 지역별 가용성, 데이터 보존 정책은 규제 산업에서 중요하다.
마지막으로 시장은 Salesforce의 이중 접근 방식—특화 작업에는 Koa, 더 넓은 추론에는 Claude나 다른 프런티어 모델—이 기업 소프트웨어 전반에서 반복 가능한 패턴이 되는지를 보여줄 것이다. Nvidia의 오픈 웨이트 전략은 Salesforce의 플랫폼 데이터, 도구, 유통 없이 얼마나 많은 회사가 Salesforce의 포스트 트레이닝 접근법을 재현할 수 있는지에 따라 일부 평가될 것이다.
Creati.ai 관점
Koa가 중요한 이유는 이용 가능한 증거가 그것이 더 우수한 추론 모델임을 증명해서가 아니라, 엔터프라이즈 AI 경쟁이 어디로 이동하는지를 보여주기 때문이다. Salesforce는 추론을 단순한 벤치마크 범주가 아니라 배포 가능한 워크플로 능력으로 보고 있다. 이는 초점을 작업당 비용, 데이터 경계, 라우팅, 운영 신뢰성으로 옮긴다.
Koa에 대한 가장 강한 주장은 발표 자체가 아니라 실제 운영 결과에서 나올 것이다. Salesforce가 특화되고 합성 데이터로 학습한 모델이 일반적인 Agentforce 작업을 안정적이고 저렴하게 처리한다는 것을 입증한다면, 다른 기업 플랫폼들도 비슷한 아키텍처를 추구할 수 있다. 그렇지 못하면 고객은 추가 비용과 거버넌스 우려에도 불구하고 어려운 작업을 계속 프런티어 제공업체로 보낼 것이다.
