골드만삭스 출신과 메타 공동 창업자들이 소외된 시장을 겨냥한 음성 AI를 개발 중

고객 지원 및 서비스는 오늘날 음성 AI 분야에서 가장 주목받는 분야 중 하나입니다. 하지만 사람처럼 자연스러운 음성을 내고 지연 시간을 최소화하며 응답하는 제품을 개발하는 일은 일부 시장에서 다른 시장보다 훨씬 더 어려운 과제이며, 대부분의 주요 기업들은 아프리카와 중동 시장을 염두에 두고 제품을 설계하지 않았습니다.

이러한 격차를 해소하기 위해 작년에 설립된 스타트업 AethexAI는 4DX Ventures가 주도하고 Enza Capital, Dorm Room Fund, Mojo Ventures, 스탠포드 GSB 26 펀드가 참여한 프리시드(pre-seed) 투자 라운드에서 300만 달러를 유치했다. 개인 투자자로는 스탠포드 교수진, 통신 업계 임원, Anthropic의 AI 연구원들이 참여했다.

이 회사는 Vapi나 LiveKit과 같은 기존 오케스트레이션 도구에 의존하는 대신, 목표 시장에서 사용되는 영어, 프랑스어, 아랍어의 지역별 방언을 수용하기 위해 자체적인 소형 모델과 오케스트레이션 레이어를 처음부터 구축했습니다. 이는 앞서 살펴볼 것처럼 해당 지역에서 사업을 운영함에 따른 구체적인 요구 사항에 따른 결정이었습니다.

또한 이 회사는 기업들이 자사의 기술을 테스트하고 서비스에 가입할 수 있는 플랫폼을 출시하는 한편, 개발자들이 모델을 실험해 볼 수 있는 API와 SDK도 함께 제공하고 있다.

이 스타트업은 마리아마 디알로(Mariama Diallo)와 아유루와 오데무이와(Ayooluwa Odemuyiwa)가 공동 설립했다. CEO인 디알로는 이전에 골드만삭스에서 근무했으며, 이후 YC(Y Combinator)의 투자를 받은 ModelML에 제품 및 성장 담당자로 합류했다. CTO인 오데무이와는 캘텍(Caltech)을 졸업하고 메타(Meta)에서 근무한 뒤 스탠포드 경영대학원을 수료한 후 이 회사를 공동 설립했다. 두 사람은 신흥 시장을 위한 무언가를 만들고자 했으며, 이를 위한 기회를 모색하기 시작했다.

전 세계 기업들은 운영의 일부를 자동화하기 위해 AI 도구 도입 경쟁을 벌이고 있습니다. 하지만 이 과정이 항상 순조롭게 진행되는 것은 아닙니다. 창업자들은 이집트의 한 콜센터가 전화 응대 업무의 상당 부분을 자동화했으나, 성과가 저조해 시스템을 다시 수동 방식으로 되돌렸다는 사실을 발견했습니다. 아프리카의 여러 고객 지원 센터들은 적절한 비용으로 통화 자동화를 담당할 엔지니어를 찾고 채용하는 것이 지속적인 과제라고 그들에게 전했습니다.

“이 지역의 자동화된 통화에서 나타난 지연 시간과 지터는 터무니없이 컸습니다. 만약 우리가 오케스트레이터 역할을 맡았다면, 지역 외부에 호스팅된 대규모 모델을 사용해야 했을 것이고, 이는 더 높은 지연 시간으로 이어졌을 것입니다. 이것이 제대로 작동하려면 매우 작은 모델을 사용하고 모든 단계에서 지연 시간을 줄여야 한다는 것을 깨달았습니다,”라고 오데무이와는 테크크런치와의 인터뷰에서 자사 모델과 오케스트레이션 레이어를 구축하기로 한 결정에 대해 설명했습니다.

최신 모델을 배포하는 AI 연구소들은 대개 모델 훈련과 데이터 수집에 수백만 달러를 지출합니다. AethexAI는 이 두 가지 문제 모두에 대한 해결책을 찾았습니다. 가능한 한 가장 큰 모델을 추구하는 대신, 정확도를 유지하면서도 지연 시간 문제를 해결하는 데는 소형 모델만으로도 충분하다는 결론을 내리고, 매개변수가 3억에서 17억에 이르는 자체 ‘코라(Kora)’ 시리즈를 개발했습니다. 이는 대규모 언어 모델 크기의 극히 일부에 불과하며, 바로 그 점이 핵심이다.

이 모델들을 훈련하기 위해 이 스타트업은 제휴 콜센터의 익명화된 녹음 자료를 활용했습니다. 또한 더 많은 오디오 데이터를 수집하기 위해 아프리카 전역의 라디오 방송국에 하드 드라이브를 보냈습니다. 비용을 절감하기 위해 대학생들로 구성된 기여자 네트워크를 구축하여 데이터 주석 작업과 현지 이름 발음 작업을 수행하게 했습니다. 그 결과, 이 스타트업은 현재 하루 17,000건 이상의 통화를 처리하고 있다고 밝혔습니다.

비즈니스 측면에서는 음성 AI를 처음 접하는 고객사를 세심하게 안내하며, 자동화에 가장 적합한 활용 사례를 파악할 수 있도록 현장 시연과 워크숍을 제공하고 있다.

“우리는 고객들에게 ‘현재로서는 모든 사람에게 모든 것을 제공할 수는 없다’고 항상 말합니다. 우리는 아직 작은 회사입니다. 기업과 협의를 시작할 때, 우선 그들에게 가장 중요한 활용 사례 하나를 선택해 달라고 요청합니다,”라고 디알로가 말했습니다.

이 스타트업은 모든 산업 분야와의 협력을 환영하지만, 현재 사용 사례의 상당 부분은 채권 추심, 고객 활성화, 또는 KYC(Know Your Customer, 고객 신원 확인)와 관련된 전화 상담을 포함하고 있습니다. KYC는 은행과 통신사에서 사용하는 표준 신원 확인 절차입니다. 이 회사는 현지 시장에 서비스를 제공하기 위해 계약직으로 현지 파견 엔지니어를 채용하고 있으며, 음성 AI 통화를 위한 전화 통신 서비스를 처리하기 위해 통신 사업자들과 채널 파트너십을 구축하고 있다. 이 회사는 ‘플러그 앤 플레이(Plug-and-play)’ 방식의 솔루션은 이곳에서는 통하지 않을 것이라고 말한다.

4DX 벤처스의 공동 창립자이자 매니징 파트너인 월터 바두(Walter Badoo)는 아프리카와 중동 시장이 대부분의 음성 AI 기업들이 목표로 삼아 설립된 시장과는 근본적으로 다르다고 주장한다.

“아프리카와 중동의 기업들은 서구 기업들에 비해 약 3배에 달하는 통화량을 처리하는데, 이는 음성이 여전히 고객 상호작용을 위한 주된 채널이기 때문입니다,”라고 그는 말했다. “기존 시스템들은 고성능 GPU 인프라, 표준 영어 및 유럽식 발음 환경, 그리고 미국과 유럽에서 흔히 볼 수 있는 기업 업무 흐름을 특징으로 하는 서구 시장을 위해 구축되었습니다. 이로 인해 기업들이 방언, 코드 스위칭, 비공식적인 말투를 처리할 수 있고, 기존 전화 통신 인프라와 실제 가격대에 맞춰 작동하는 시스템을 필요로 할 때 실질적인 격차가 발생합니다.”

다른 말로 하면, ElevenLabs, Deepgram, Sierra, Cognigy와 같은 기업들이 빠른 속도로 글로벌 시장으로 확장하고 있지만, 이들이 설립된 시장과 진출하려는 시장이 항상 일치하는 것은 아닙니다. AethexAI와 같은 스타트업들은 지역 방언에 특화된 모델, 현지 파트너십, 해당 지역에 맞춰 구축된 인프라와 같은 이러한 격차가 거대 기업들이 메울 유인이나 아키텍처를 갖추지 못한 시장 기회라고 보고 이에 베팅하고 있습니다.