AI Companion 미팅 & 채팅

Zoom의 통합 AI 접근 방식을 통해 Zoom에서 가장 인기 있는 기능에서 가장 우수한 품질 제공

Zoom의 CTO인 Xuedong Huang이 AI에 대한 Zoom의 통합 접근 방식과 이 접근 방식이 미팅 요약, 요약 및 다음 단계를 위한 뛰어난 품질의 성능을 제공하는 방법에 대해 설명합니다.

8 분 읽기 분량

업데이트 날짜 June 17, 2024

게시 날짜 March 26, 2024

Zoom의 통합 AI 접근 방식을 통해 AI Companion의 가장 인기 있는 기능에서 더 우수한 품질 제공

지난 2023년 11월, Zoom의 통합 AI 접근 방식을 통해 6%의 추론 비용만으로 OpenAI GPT-4와 거의 동일한 성능을 달성한 방법을 공유해 드렸습니다. 물론 결과도 인상적이었지만 이제 가장 인기 있는 미팅 기능에서 OpenAI의 GPT-4보다 훨씬 더 나은 AI 성능을 제공할 수 있게 되었습니다. Zoom AI Companion은 심사원을 대상으로 한 내부 블라인드 벤치마킹 조사에서 GPT-4보다 상대적 오류를 Zoom 회의 요약의 "개요"에서 20% 이상, "다음 단계"에서 60% 줄였습니다. 

작업 완료 성능 개선에 필요한 학습을 지원하기 위해 Zoom은 많은 폐쇄형 및 오픈 소스 고급 대규모 언어 모델(LLM)을 함께 사용하는 고유한 통합 AI 접근 방식을 활용하여 더 나은 성과를 제공합니다. 이는 특정 LLM에 국한된 다른 제공업체와는 대조적입니다. 예를 들어 Microsoft Copilot은 GPT-4를, Google은 Gemini에 의존해 왔습니다.

Zoom AI Companion이 다른 제품과 차별화되는 이유가 바로 이러한 AI 접근 방식입니다. 이러한 방식을 통해 고객이 가장 좋아하는 기능에서 우수한 경험을 제공할 수 있기 때문입니다. 지난번 글에서 말씀드렸듯이, Zoom은 자체 개발한 Z-scorer를 사용하여 AI가 생성한 결과물의 품질을 판단합니다. 우선, Zoom은 각 작업에 가장 적합한, 저렴한 LLM을 사용합니다. 그리고 Z-scorer가 초기 작업 완성본의 품질을 평가합니다. 필요한 경우 다른 보조 LLM을 사용하여 작업을 개선할 수 있습니다. 한 명의 사람보다 여러 사람이 함께 더 많은 것을 성취할 수 있듯이, 이러한 접근 방식을 사용하면 더 우수한 결과를 얻을 수 있습니다.

Zoom은 이후 다양한 LLM의 성능 신호를 추가로 통합하여 Z-scorer를 개선했습니다. 또한, 인간의 선호도에 더 잘 맞추기 위해 통합 강화 학습을 개선했습니다. Zoom LLM을 여러 보조 LLM과 통합하면 Zoom의 가장 인기 있는 회의 요약에서 뛰어난 성능을 얻을 수 있습니다. 그리고 최근 내부 벤치마킹 조사에 따르면 이러한 통합 접근 방식을 이용하는 경우 이제 Microsoft Teams의 Copilot에 사용되는 GPT-4보다 뛰어난 성능을 발휘할 수 있다고 합니다.

또한 AI 안전과 관련하여 할루시네이션(hallucination)을 최소화하고 Zoom LLM을 개선하기 위해 Claude-3, Gemini, GPT-4 등 여러 LLM으로 이루어진 위원회를 구성하여 대부분의 LLM에 내재된 편견을 줄였습니다. 예를 들어, 여러 LLM이 동일한 할루시네이션을 제공하는 실수를 저지를 가능성은 거의 없으므로, 더욱 일관된 응답을 도출하고 이상값의 영향을 줄일 수 있습니다. 

사용자가 가장 필요로 하는 곳에서 더 큰 효과를 발휘하는 Zoom 통합 AI 접근 방식

최근 회의 요약의 가장 인기 있는 두 가지 기능인 미팅 개요와 다음 단계에 대한 벤치마킹 조사를 진행했습니다. 2023년 9월 AI Companion 출시 이후 50만 명이 넘는 Zoom 고객이 이 기능을 사용했습니다. 

최근 내부 벤치마킹 조사에서는 심사원에게 각 요약본을 생성하는 데 사용된 AI 모델을 공개하지 않은 상태에서 가장 정확한 회의 요약을 선택하도록 요청했습니다. 아래 차트에서 볼 수 있듯이, 각 블라인드 테스트에서 Zoom LLM의 미팅 개요와 다음 단계 추출 기능이 모두 GPT-4(영어)보다 뛰어난 것으로 나타났습니다. Zoom은 미팅 개요와 미팅 다음 단계의 상대적 오류를 각각 20%, 60% 이상 줄일 수 있으며, 이는 곧 더 우수한 품질을 제공하는 것을 의미합니다.

그림 1. 영어로 작성된 미팅 개요 및 다음 단계에 대한 심사원의 평가. Zoom LLM과 Anthropic Claude-3를 통합하면 OpenAI GPT-4만 사용했을 때보다 훨씬 뛰어난 최종 결과를 얻을 수 있습니다.

그림 1. 영어로 작성된 미팅 개요 및 다음 단계에 대한 심사원의 평가. Zoom LLM과 Anthropic Claude-3를 통합하면 OpenAI GPT-4만 사용했을 때보다 훨씬 뛰어난 최종 결과를 얻을 수 있습니다.

또한 Zoom LLM을 사용하여 일본어로 작성된 전체 회의 요약의 품질을 GPT-4와 비교하여 측정했습니다. 아래 차트에서 볼 수 있듯이, Zoom의 통합 접근 방식이 여기서 더 나은 결과를 가져올 수 있었습니다. 

그림 2. 일본어로 작성된 전체 회의 요약에 대한 심사원의 평가. Zoom LLM과 OpenAI GPT-4를 통합하면 OpenAI GPT-4만 사용했을 때보다 훨씬 뛰어난 최종 결과를 얻을 수 있습니다.
그림 2. 일본어로 작성된 전체 회의 요약에 대한 심사원의 평가. Zoom LLM과 OpenAI GPT-4를 통합하면 OpenAI GPT-4만 사용했을 때보다 훨씬 뛰어난 최종 결과를 얻을 수 있습니다.

Zoom Workplace 및 비즈니스 서비스 전반에 제공되는 우수한 AI

Zoom은 대상 유료 Zoom 요금제를 사용하는 고객이 추가 비용 없이 Zoom AI Companion을 Zoom 플랫폼 전반에서 사용할 수 있도록 최선을 다하고 있습니다.* AI 품질에 대한 이러한 끊임없는 집념은 Zoom Workplace와 Zoom 비즈니스 서비스에서 더 높은 고객 가치를 이끌어냅니다. 또한 Zoom이 의뢰한 GigaOm의 연구 결과(2024년 3월 26일 발표)에 따르면 AI Companion 트랜스크립션의 정확도는 95%였으며, 미팅 중 질문 시나리오에서 AI Companion이 ChatGPT-4 웹보다 4배 빠른 속도로 결과를 제공했습니다.

이러한 최신 혁신을 바탕으로 고객은 모든 Zoom 미팅에서 업계 최고의 AI 품질을 자랑하는 AI 생성 회의 요약을 이용할 수 있다는 확신을 가질 수 있습니다. 

*일부 지역 또는 업종에서는 AI Companion이 제공되지 않을 수 있습니다.

Zoom의 주요 고객

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom - 연결을 위한 하나의 플랫폼