Zoom CTO 심층 분석: AI에 대한 연합 접근 방식으로 성능, 품질, 경제성을 극대화하는 방법

Zoom AI Companion의 최신 소식과 연합 접근 방식의 성공 사례를 읽어보세요.

개념화에서 실현에 이르는 혁신적인 AI 여정을 시작한다는 것은 중단, 조정, 혁신이 끊임없이 이어지는 험난한 길에 발을 내딛는 것과 같습니다. 지난 30년 동안 이 여정을 함께 해온 저는 음성 인식과 자연어 이해에서 컴퓨터 비전에 이르기까지 AI의 발전을 가장 가까이에서 지켜보면서 맡은 역할에 열정적으로 임했습니다. 제가 Zoom에 입사한 이후로 지난 6개월 동안의 혁신 속도는 몹시 놀라웠습니다.

Zoom에서는 AI를 사용하여 인간의 협업과 생산성을 개선하고 있습니다. Zoom AI Companion은 생산성을 높이고 원활한 협업을 촉진하며 보다 심층적인 인사이트를 도출하여 Zoom 플랫폼 전반의 업무 방식을 개선하도록 설계된 혁신의 초석입니다. AI에 대한 Zoom의 연합 접근 방식을 통해, Zoom 사용자 계정에 할당된 유료 서비스에서 AI Companion을 추가 비용 없이 제공할 수 있습니다.* Zoom AI가 저렴한 비용으로 고품질의 성능을 제공하는 비결을 자세히 살펴보세요.

Zoom은 수년간 커뮤니케이션 향상을 위해 음성 인식, 컴퓨터 비전, 기계 번역, 대규모 언어 모델(LLM)과 같은 AI 서비스를 제공해 왔습니다. Zoom이 사용하는 LLM은 자체 LLM을 비롯하여 타사 모델인 OpenAI GPT 3.5 및 GPT 4, Anthropic Claude 2 등입니다. Zoom의 연합 접근 방식은 파트너, 오픈 소스, 비공개 소스 LLM 모두에서 최신 LLM인 OpenAI의 GPT 4 Turbo를 통합하여 Zoom 고객의 엔드투엔드 경험을 지속적으로 개선할 수 있습니다.

Zoom은 작업에 가장 적합하면서 가장 저렴한 LLM을 먼저 사용하는 비용 효율적인 전략을 고수합니다. 그런 다음 Z-Scorer는 초기에 완료된 작업의 품질을 평가하고, 필요한 경우 초기 LLM에서 달성한 결과를 바탕으로 한 단계 발전된 LLM을 사용하여 작업의 완성도를 높입니다. 이는 응집력 있는 팀이 함께 일할 때 어떤 개인보다 더 효율적으로 보다 우수한 품질의 제품을 만들 수 있는 방식과 유사합니다.

자체 내부 테스트에 따르면, 우리 팀은 AI에 대한 연합 접근 방식을 통해 OpenAI GPT-3.5 Turbo(자체 품질 평가 방법론에 따라 상대적 차이는 99%와 93%의 품질을 비교한 평가)나 기타 여러 최신 LLM과 같은 단일 모델 접근 방식에 비해 AI Companion의 품질을 상대적으로 우수하게 개선했습니다. 

현재 더 낮은 비용, 더 빠른 응답 시간, 더 높은 품질의 결과물을 종합적으로 고려하여 성능을 측정하고 있습니다. Microsoft Copilot 프록시인 OpenAI의 GPT-4-32k 모델과 비교했을 때, Zoom AI Companion의 미팅 질문 기능은 그림 1과 같이 더 낮은 비용으로 더 빠르게 응답하면서도 AI 품질은 비슷한 수준입니다.

현재 영어 외에 32개 언어(미리보기로 제공)를 지원하는 AI Companion의 다국어 성능은 Zoom 모델의 강점을 더욱 잘 보여주고 있습니다. 대부분의 LLM은 주로 영어 위주의 데이터로 사전 학습된다는 점을 파악하고 번역 모델을 추가하여 다국어 기능을 확장했습니다. Zoom AI Companion의 다국어 미팅 요약을 위해 Zoom 번역 모델을 사용하여 영어가 아닌 트랜스크립트를 영어로 번역할 때, 번역된 데이터뿐만 아니라 원본 데이터도 동시에 고려합니다. 그림 2에서 볼 수 있듯이 Zoom 모델은 GPT-3.5와 비교했을 때 AI 품질을 크게 개선했을 뿐만 아니라 6%도 안 되는 비용으로 GPT-4-32k AI 품질(상대적 97%)에 근접하는 결과를 이끌어냈습니다.

이러한 사례는 서로 다른 머신 러닝 시스템의 강점을 매끄럽게 조합하여 고성능의 결과를 선사하는 Zoom의 AI 연합 접근 방식이 효율적이라는 점을 다시 한번 보여줍니다. 

Zoom은 AI가 제공하는 이점을 최대한 많은 사람이 누릴 수 있도록 널리 보급되어야 한다고 생각합니다. AI에 대한 연합 접근 방식은 이러한 비전을 실현하는 데 중요한 역할을 합니다. 다른 회사에서는 사용자당 프리미엄을 부과하지만, Zoom에서는 대상 유료 Zoom 요금제를 사용하는 고객에게 추가 비용 없이 AI Companion을 제공할 수 있는 이유가 바로 이것입니다.*  

AI Companion을 직접 사용해 보시기 바랍니다. 시작 가이드를 보면서 이 기능을 활성화하고 사용하는 방법에 대해 자세히 알아보세요. 대상 유료 Zoom 요금제를 사용하고 있지 않다면, 지금 업그레이드하여 AI Companion이 제공하는 이점을 누리세요. 

*참고: AI Companion은 일부 지역 또는 업종에는 제공되지 않을 수 있습니다.