AI Companion 會議與聊天

Zoom 的聯合式 AI 方法為我們最受歡迎的功能提供最佳品質的結果

Zoom 技術長黃學東探討聯合 AI 的方式,以及 AI 如何為會議摘要、回顧和下一步行動提供高品質效能。

8 閱讀分鐘

更新日期 June 17, 2024

發佈日期 March 26, 2024

Zoom 的聯合式 AI 方法為 AI Companion 最受歡迎的功能提供卓越品質的結果

2023 年 11 月,我分享了 Zoom 的聯合式 AI 方法如何以僅 6% 的推論成本實現幾乎與 OpenAI GPT-4 相當的品質。儘管這些結果令人印象深刻,但與 OpenAI 的 GPT-4 相比,我們現在可以為我們最受歡迎的會議功能提供更好的 AI 品質。在我們內部經過人工驗證的盲基準測試中,與 GPT-4 相比,Zoom AI Companion 的相對誤差減少了 20% 以上 (適用於 Zoom 會議摘要的「重點回顧」) 及 60% (適用於「後續措施」)。

為了支援我們改進任務完成品質的訓練工作,我們獨特的聯合式 AI 方法利用許多封閉原始碼和開放原始碼的進階大型語言模型 (LLM) 共同運作以獲得更好的結果。這與其他與特定 LLM 相關的供應商形成對比。例如,Microsoft Copilot 仰賴 GPT-4,Google 則仰賴 Gemini。

這種 AI 方法使 Zoom AI Companion 脫穎而出,透過我們最受歡迎的功能為我們的客戶提供高品質的體驗。正如我在上次更新中分享的情形,我們使用專有的 Z 評分器來判斷 AI 產生的輸出內容品質。首先,我們採用最適合每項任務的低成本 LLM。接著,我們的 Z 評分器評估初始任務完成的品質。如果需要,我們可以使用另一個輔助 LLM 以利改進任務。這個過程會產生更高品質的輸出內容,就好比一個團隊一起作業可以比任何一個人完成更多的工作。

此後,我們透過整合各種 LLM 的額外品質訊號來改善我們的 Z 評分器。此外,為了更加符合人們偏好,我們改善聯合式強化學習。透過將 Zoom LLM 與一組輔助 LLM 結合,Zoom 廣受歡迎的會議摘要可提供高品質結果,並且根據我們最近的基準測試,現在可以超越 GPT-4,GPT-4 是用來強化 Microsoft Teams 中的 Copilot。

在 AI 安全方面,我們也透過一個由 Claude-3、Gemini、GPT-4 等多個 LLM 所組成的委員會來減少大多數 LLM 固有的偏見,以減少幻覺並改善我們的 Zoom LLM。例如,不同的 LLM 不太可能犯下相同的幻覺錯誤,因此我們可以得出更一致的回應並減少離群值的影響。

Zoom 聯合式 AI 方法在使用者最需要的地方更加有效

我們最近對會議摘要的兩個最受歡迎組成部分的結果進行基準測試:會議重點回顧和後續措施。自 2023 年 9 月推出 AI Companion 以來,已有超過 50 萬名 Zoom 客戶啟用這些功能。

在我們最新的內部基準測試中,我們讓人工評審選出最準確的會議摘要,但未透露使用哪個 AI 模型來產生每份摘要。如下圖所示,Zoom LLM 在每次盲測中的會議重點回顧和後續措施擷取方面均優於英文的 GPT-4。我們可以將會議重點回顧和會議後續措施的相對錯誤分別減少 20% 和 60% 以上,這直接轉變成卓越的品質優勢。

圖 1:用英文進行會議重點回顧和後續措施的人工評估。聯合 Zoom LLM 和 Anthropic Claude-3 的最終結果明顯優於單獨使用 OpenAI GPT-4。

圖 1:用英文進行會議重點回顧和後續措施的人工評估。聯合 Zoom LLM 和 Anthropic Claude-3 的最終結果明顯優於單獨使用 OpenAI GPT-4。

我們也使用 Zoom LLM 與 GPT-4 相比,衡量了日文整體會議摘要的品質。如以下圖表所示,我們的聯合式方法能夠在此提供更好的結果。

圖 2:對日文整體會議摘要的人工評估。聯合使用 Zoom LLM 和 OpenAI GPT-4 的最終結果優於單獨使用 OpenAI GPT-4 時的結果。
圖 2:對日文整體會議摘要的人工評估。聯合使用 Zoom LLM 和 OpenAI GPT-4 的最終結果優於單獨使用 OpenAI GPT-4 時的結果。

Zoom Workplace 和業務服務中嵌入品質 AI

我們致力於透過 Zoom 平台為我們的客戶帶來 Zoom AI Companion 的優勢,無需為符合資格的付費 Zoom 方案支付額外費用。* 如此對 AI 品質不斷的關注可推動 Zoom Workplace 和 Zoom 業務服務更高的客戶價值。此外,根據 Zoom 委託進行的一項 GigaOm 研究 (2024 年 3 月 26 日發布),AI Companion 轉錄的準確率達到 95%,對於會議中問題場景,AI Companion 提供的結果比 ChatGPT-4 網頁版快四倍。

有了這些最新的創新,您可以放心,每次 Zoom 會議都可以附帶 AI 產生的會議摘要,該摘要具有業內最好的 AI 品質。

*AI Companion 可能不適用於所有地區或垂直產業。

客戶對我們讚譽有加

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom - 同一平台,連繫遠近