2024년 말에 설립된 스타트업 Smallest.ai가 자동화된 전화 대화를 봇과의 상호작용이 아니라 인간 간의 대화처럼 느껴지게 만들기 위한 음성 AI 시스템을 구축하려고 시리즈 A로 1,300만 달러를 유치했다. TechCrunch에 따르면 이번 라운드는 Seligman Ventures가 주도했으며 Sierra Ventures와 3one4 Capital이 참여했고, 이에 따라 회사의 총 누적 자금은 2,100만 달러를 넘겼다.

이 제안이 눈에 띄는 이유는 생성형 AI의 지배적인 가정 중 하나, 즉 더 나은 대화형 시스템은 주로 대형 언어 모델을 확장함으로써 나온다는 생각에 반하기 때문이다. TechCrunch에 따르면 Smallest.ai는 대신 실시간 대화를 위한 더 작고 특화된 음성 모델을 만들고 있으며, 전화 기반 AI는 응답을 생성하기 전에 전체 프롬프트를 기다리기보다 듣고, 생각하고, 말하는 일을 병렬로 해야 한다고 주장한다. 이 접근이 실제 운영에서 작동한다면, 빠르게 성장하는 엔터프라이즈 AI의 한 영역, 즉 짧은 지연만으로도 상호작용이 로봇처럼 느껴지는 고객 접점 음성 시스템에서 의미가 클 수 있다.

음성 AI를 위한 다른 아키텍처

TechCrunch에 따르면 Smallest.ai의 핵심 주장은 기존 LLM의 동작이 실시간 대화에는 너무 많은 지연을 만든다는 점이다. 텍스트 채팅에서는 사용자가 모델이 프롬프트를 처리하고 답을 쓰는 동안 잠깐의 멈춤을 감수한다. 하지만 전화 통화에서는 같은 멈춤이 즉시 대화의 흐름을 끊을 수 있다.

CEO Sudarshan Kamath는 TechCrunch에 회사가 모델을 대화 속 사람처럼 동작하도록 설계하고 있으며, 상대가 아직 말하고 있는 동안 음성을 지속적으로 처리하고 응답을 준비한다고 말했다. 회사는 이를 특히 고객 지원형 대화에 맞는, 제한된 대화 과제를 위한 실시간 지능 레이어라고 설명한다.

SiliconANGLE의 보도는 이 설계를 “비동기 음성 AI 아키텍처”라고 표현했는데, 제공된 원문에서는 더 자세한 기술 내용이 없었음에도 TechCrunch의 설명과 대체로 부합한다. TechCrunch 보도에 따르면 실질적인 아이디어는 더 작은 모델이 빠른 주고받기를 담당하고, 대화가 그 작은 모델의 범위를 넘을 때만 더 큰 시스템이 호출된다는 것이다.

이 인계 모델은 스타트업 전략의 핵심이다. TechCrunch는 Smallest.ai의 음성 시스템이 제한된 지식 베이스 밖의 질문을 만나면 그 질의를 더 큰 파운데이션 모델로 넘기고, 답을 얻기 위해 발신자를 잠시 보류 상태로 둔다고 보도했다. Kamath는 이를 인간 상담원이 즉흥적으로 답하는 대신 정보를 확인하기 위해 잠시 멈추는 것과 비슷하다고 설명했다.

투자자들이 ‘작은 모델’ 베팅을 지지할 수 있는 이유

이번 자금 조달은 투자자들이 여전히 광범위한 파운데이션 모델 구축사보다 수익화 경로가 더 분명한 애플리케이션 계층 AI 기업을 찾고 있는 가운데 이뤄졌다. 음성 AI는 콜센터, 영업, 일정 예약, 채권 회수, 기타 명확한 자동화 예산이 있는 비즈니스 기능에 닿아 있기 때문에 특히 활발한 분야가 됐다.

Smallest.ai는 가장 잘 알려진 음성 스타트업들보다 더 좁은 초점으로 이 시장에 진입하고 있다. TechCrunch는 회사가 더빙이나 팟캐스트 제작 같은 인접 음성 미디어 활용 사례가 아니라 기업용 실시간 대화형 에이전트에 집중하고 있다고 보도했다.

이 차이는 중요하다. 합성 내레이션 도구의 성능 요건은 인바운드 지원 전화의 요건과 매우 다르다. 엔터프라이즈 전화 환경에서는 낮은 지연, 끼어들기 처리, 억양에 대한 강건성, 소음 많은 회선에서의 성능이 순수한 음성 자연스러움보다 더 중요할 수 있다. TechCrunch는 Smallest.ai가 바로 그런 음성 특화 문제, 즉 다양한 억양, 수십 개 언어 지원, 소음 환경에서의 동작에 집중하고 있다고 전했다.

투자자 입장에서는 이런 초점이 측정 가능한 사업 성과가 있는 사용 사례를 겨냥한다는 점에서 매력적으로 보일 수 있다. 음성 자동화를 구매하는 기업은 대체로 새로움보다 시스템이 처리 시간을 줄일 수 있는지, 전환을 피할 수 있는지, 해결률을 높일 수 있는지, 고객 만족을 유지할 수 있는지에 관심이 많다. Smallest.ai는 제공된 보도에서 그런 생산 지표를 공개하지 않았지만, 시장 논리는 분명하다. 지연 시간 우위가 실제라면 더 큰 범용 시스템에 대한 의미 있는 차별점이 될 수 있다.

고객, 경쟁사, 그리고 엔터프라이즈 관점

TechCrunch는 Smallest.ai의 고객에 이미 RingCentral과 Truecaller가 포함돼 있다고 보도했다. 둘 다 커뮤니케이션과 음성 관련 제품에서 잘 알려진 이름이다. 다만 보도는 그 관계의 범위, 도입 규모, 또는 이 회사들이 Smallest.ai를 운영 환경, 파일럿, 인프라 구성 요소로 사용하는지 여부는 구체적으로 밝히지 않았다. 따라서 고객 목록만으로 추론할 수 있는 범위에는 한계가 있지만, 최소한 음성 워크플로를 이해하는 기업들로부터 초기 검증을 얻었다는 점은 시사한다.

Kamath는 또한 Sierra와 Decagon 같은 고객 지원 소프트웨어 회사들이 잠재 고객이라고 TechCrunch에 말했다. 보도에서 요약한 그의 논지는, 고객 서비스 플랫폼이 주력 제품에서 벗어나게 되는 일을 감수하면서 자체 특화 음성 스택을 구축하고 싶어하지 않을 수 있다는 것이다.

이 포지셔닝은 Smallest.ai를 스택의 여러 층과 경쟁하게 만든다. TechCrunch는 ElevenLabs를 음성 AI 리더로 지목했고 Cartesia와 Sarvam을 경쟁사 또는 인접 플레이어로 언급했다. 각 회사는 다른 강점을 갖고 있다. ElevenLabs는 합성 음성 품질과 개발자 사이의 폭넓은 인지도와 강하게 연결돼 있고, Cartesia는 저지연 음성 인프라를 밀어왔으며, Sarvam은 지역 언어 역량과 연결된다. Smallest.ai는 가장 넓은 음성 플랫폼이 아니라 실시간 기업 통화에 가장 잘 맞는 선택지가 되려는 듯하다.

이 회사는 사실상 더 큰 플랫폼들의 자체 구축 노력과도 경쟁하고 있다. RingCentral 스타일의 통신 소프트웨어를 쓰는 기업이나 자체 스택 위에 AI 통화 흐름을 만드는 기업은 결국 전용 음성 계층을 구매할지, 여러 벤더를 조합할지, 아니면 점점 더 멀티모달화되는 범용 모델에 의존할지 결정해야 한다.

증거, 주장, 그리고 아직 입증되지 않은 것들

원문 자료에서 가장 확실한 사실은 자금 조달 자체, 참여 투자자, 회사의 설립 시기, 그리고 언급된 고객 이름들이다. 이런 세부 내용은 TechCrunch의 라운드 보도에서 나온 것이며, SiliconANGLE은 별도로 투자 유치를 보도하면서 회사 아키텍처를 비슷한 용어로 설명했다.

보다 야심찬 주장들 중 상당수는 여전히 스타트업의 자체적인 프레이밍일 뿐, 독립적으로 검증된 결과는 아니다. 특히 Kamath는 TechCrunch에 회사가 전화 통화에서 모델이 “튜링 테스트를 깨뜨리길” 원한다고 말했는데, 즉 사용자가 자신이 AI와 통화 중인지 인간과 통화 중인지 구분하지 못하게 하겠다는 것이다. 이는 목표이지, 이용 가능한 증거에서 입증된 벤치마크는 아니다.

마찬가지로 TechCrunch가 묘사한 “사실상 제로에 가까운 응답 지연”은 공개된 측정치가 아니라 제품 주장으로 읽어야 한다. 제공된 출처에는 지연 시간 데이터, 단어 오류율, 끼어들기 복구 수치, 다국어 벤치마크 결과, ElevenLabs·Cartesia·기타 음성 AI 시스템과의 비교가 포함돼 있지 않다.

고객 언급도 주의가 필요하다. RingCentral과 Truecaller가 고객으로 언급되지만, 출처에는 계약 규모, 사용량, 갱신 데이터, 직접적인 고객 증언이 없다. 엔터프라이즈 구매자와 개발자에게 이는 진짜 시험이 아직 남아 있다는 뜻이다. Smallest.ai가 유망한 데모와 초기 통합에서 벗어나, 지속 가능하고 대규모의 배포로 넘어갈 수 있는지가 관건이다.

이것이 AI 개발자와 엔터프라이즈 구매자에게 의미하는 것

개발자에게 Smallest.ai의 전략은 AI 에이전트 설계의 더 넓은 변화를 강조한다. 모든 상호작용을 처음부터 끝까지 대형 범용 모델로 처리할 필요는 없다. 지연에 민감한 애플리케이션에서는 작은 고속 모델이 상호작용 관리를 맡고, 큰 모델은 복잡한 추론을 위해 남겨두는 계층형 시스템이 더 실용적일 수 있다.

이 아이디어는 전화 지원, IVR 대체, 아웃바운드 영업 통화, 업종 특화 어시스턴트에서 팀이 AI 에이전트를 설계하는 방식에 영향을 줄 수 있다. 핵심 트레이드오프는 속도와 범위다. 좁은 모델은 특정 도메인에서는 더 자연스럽게 느껴질 수 있지만, 그 밖에서는 실패가 더 잦고 우아한 에스컬레이션이 필요하다. Smallest.ai의 “발신자를 보류하고 더 큰 모델에 묻기” 패턴은 가능한 해결책이지만, 오케스트레이션, 신뢰성, 고객 경험 측면에서 복잡성을 더한다.

엔터프라이즈 AI 구매자에게 이 이야기는 새로움보다 조달 기준에 가깝다. 사람 같은 통화를 약속하는 벤더는 여전히 표준 운영 질문에 답해야 한다. 얼마나 자주 잘못 끼어드는가, 억양에 얼마나 잘 대응하는가, 시끄러운 환경에서 어떻게 동작하는가, 실패 시 대체 규칙은 무엇인가, 자동 통화에서 고지와 동의에 대한 거버넌스는 무엇인가. 제공된 보도는 Smallest.ai가 이런 기술적 고통 지점 몇 가지를 강조하고 있음을 보여주지만, 아직 공개된 증거는 제시하지 않는다.

Sierra와 Decagon 같은 고객 지원 플랫폼에도 전략적 의미가 있다. 특화 음성 계층이 빠르게 개선되면 일부 소프트웨어 벤더는 독자적인 음성 시스템을 만드는 대신 외부 음성 인프라를 통합하는 편을 택할 수 있다. 하지만 멀티모달 파운데이션 모델이 지연 격차를 좁히면 독립 음성 전문업체의 창은 좁아질 수 있다.

다음에 주목할 점

Smallest.ai를 둘러싼 다음 신호는 자금 조달보다 운영 관련일 가능성이 크다. 하나는 RingCentral이나 Truecaller, 또는 이름이 언급된 다른 파트너들이 구체적인 사용 사례나 측정 가능한 결과를 공개적으로 설명하는지 여부다.

또 하나는 기술 공개다. Smallest.ai가 ElevenLabs, Cartesia, Sarvam과 차별화하려면, 지연 시간, 끼어들기 처리, 다국어 품질, 실제 지원 환경에서의 성능에 대한 더 명확한 증거를 공개해야 할 수도 있다.

세 번째는 제품 범위다. 현재 이 회사의 사례가 가장 강한 이유는 기업들이 여전히 엔드투엔드 LLM 스택보다 전용 음성 시스템을 가치 있게 여길 때다. 주요 모델 제공업체들이 더 낮은 지연의, 통화 가능한 음성 상호작용으로 움직이면 그 압력은 더 강해질 수 있다.

마지막으로 사람처럼 들리는 AI 통화에 대한 시장의 수용도를 지켜봐야 한다. 시스템이 사람과 구분하기 어려워질수록, 법률, 규제 준수, 신뢰 문제가 엔터프라이즈 AI 배포에서 더 중요해질 것이며, 특히 규제 대상 지원 및 아웃바운드 통화 맥락에서는 더욱 그렇다.

Creati.ai 관점

Smallest.ai는 오늘날 AI 스택의 실제 약점, 즉 음성 대화는 채팅보다 지연을 훨씬 더 가혹하게 벌한다는 점에 대해 설득력 있는 베팅을 하고 있다. 작은 특화 모델과 더 큰 시스템으로의 선택적 인계에 대한 스타트업의 강조는 AI 제품 설계의 커지는 현실과 잘 맞아떨어지며, 여기서 오케스트레이션은 종종 원시 모델 능력만큼이나 중요하다.

하지만 이 카테고리는 무자비하다. 엔터프라이즈 음성 구매자에게 필요한 것은 그럴듯한 데모만이 아니다. 억양, 끼어들기, 도메인 경계, 규제 준수의 경계 사례 전반에 걸친 신뢰성이다. Smallest.ai의 자금 조달은 투자자들이 이 문제를 전용 인프라로 풀 가치가 있다고 본다는 뜻이다. 더 어려운 질문은, 더 큰 플랫폼과 기존 음성 사업자들이 같은 교훈을 흡수하기 전에 회사가 자신의 아키텍처 가설을 재현 가능한 운영 성능으로 바꿀 수 있느냐는 것이다.