AI Companion Cuộc họp và trò chuyện

Cách tiếp cận AI liên kết của Zoom mang lại kết quả có chất lượng tốt nhất cho các tính năng phổ biến nhất của chúng tôi

CTO của Zoom, Xuedong Huang, thảo luận về cách tiếp cận liên kết của chúng tôi với AI và cách nó mang lại hiệu suất chất lượng cao cho các bản tóm tắt, tóm tắt cuộc họp và các bước tiếp theo.

8 số phút đọc

Cập nhật vào June 17, 2024

Đăng vào March 26, 2024

Cách tiếp cận AI liên kết của Zoom mang lại kết quả có chất lượng ưu việt cho các tính năng phổ biến nhất của AI Companion

Vào tháng 11 năm 2023, tôi đã chia sẻ cách tiếp cận AI liên kết của Zoom đạt được chất lượng gần bằng OpenAI GPT-4 với chỉ 6% chi phí suy luận bằng cách nào. Điều ấn tượng không kém những kết quả đó là giờ đây, chúng tôi có thể mang lại chất lượng AI thậm chí còn tốt hơn so với GPT-4 của OpenAI cho các tính năng cuộc họp phổ biến nhất của chúng tôi. Zoom AI Companion đã giảm hơn 20% các lỗi tương đối (đối với “phần tóm tắt” của tóm tắt cuộc họp Zoom) và 60% (đối với “các bước tiếp theo”) so với GPT-4 trong quy trình định chuẩn mù do con người xác thực trong nội bộ của chúng tôi. 

Để hỗ trợ các nỗ lực đào tạo của chúng tôi nhằm cải tiến chất lượng hoàn thành nhiệm vụ, cách tiếp cận AI liên kết độc đáo của chúng tôi tận dụng nhiều mô hình ngôn ngữ lớn (LLM) tiên tiến có mã nguồn mở và đóng kết hợp với nhau để có kết quả tốt hơn. Cách này trái ngược với các nhà cung cấp khác bị ràng buộc với những LLM cụ thể. Ví dụ: Microsoft Copilot dựa vào GPT-4 và Google dựa vào Gemini.

Cách tiếp cận AI này giúp Zoom AI Companion trở nên khác biệt, mang đến cho khách hàng trải nghiệm chất lượng cao với các tính năng phổ biến nhất của chúng tôi. Như tôi đã chia sẻ trong lần cập nhật gần đây nhất, chúng tôi sử dụng công cụ chấm điểm Z độc quyền để đánh giá chất lượng đầu ra do AI tạo ra. Đầu tiên, chúng tôi sử dụng LLM có chi phí thấp hơn, phù hợp nhất cho từng nhiệm vụ. Tiếp đó, công cụ chấm điểm Z của chúng tôi sẽ đánh giá chất lượng hoàn thành nhiệm vụ ban đầu. Nếu cần, chúng tôi có thể sử dụng LLM bổ sung khác để tinh chỉnh nhiệm vụ. Quá trình này mang lại kết quả đầu ra có chất lượng cao hơn, giống như trường hợp một nhóm người có thể cùng nhau hoàn thành nhiều việc hơn so với bất kỳ cá nhân nào.

Kể từ đó, chúng tôi đã cải thiện công cụ chấm điểm Z bằng cách kết hợp các tín hiệu chất lượng khác từ nhiều LLM khác nhau. Ngoài ra, để phù hợp hơn với sở thích của con người, chúng tôi đã cải thiện phương pháp học tăng cường liên kết. Bằng cách liên kết LLM của Zoom kết hợp với một tập hợp LLM bổ sung, tóm tắt cuộc họp phổ biến của Zoom mang lại kết quả chất lượng cao và theo hoạt động định chuẩn gần đây của chúng tôi, giờ đây tóm tắt cuộc họp có thể vượt trội hơn so với GPT-4, vốn được sử dụng để hỗ trợ Copilot trong Microsoft Teams.

Về vấn đề an toàn AI, chúng tôi cũng giảm bớt thành kiến cố hữu trong hầu hết các LLM bằng cách thiết lập một nhóm chức năng bao gồm nhiều LLM như Claude-3, Gemini và GPT-4 để giảm mức độ ảo giác và cải thiện LLM của Zoom. Ví dụ: các LLM khác nhau khó có thể mắc cùng một lỗi do ảo giác, vì vậy, chúng ta có thể rút ra những phản hồi nhất quán hơn và giảm tác động của các trường hợp ngoại lệ. 

Cách tiếp cận AI liên kết của Zoom sẽ hiệu quả hơn trong lĩnh vực người dùng cần nhất

Gần đây, chúng tôi đã định chuẩn kết quả cho hai thành phần phổ biến nhất trong Tóm tắt cuộc họp là phần tóm tắt cuộc họp và các bước tiếp theo. Hơn nửa triệu khách hàng của Zoom đã sử dụng các tính năng này kể từ khi chúng tôi ra mắt AI Companion vào tháng 9 năm 2023. 

Trong định chuẩn nội bộ mới nhất, chúng tôi đã yêu cầu những người đánh giá chọn tóm tắt cuộc họp chính xác nhất mà không tiết lộ mô hình AI đã được sử dụng để tạo từng bản tóm tắt. Như được thể hiện trong biểu đồ bên dưới, LLM của Zoom có kết quả vượt trội so với GPT-4 bằng tiếng Anh trong cả phần tóm tắt cuộc họp và trích xuất các bước tiếp theo trong mỗi bài kiểm tra mù. Chúng tôi có thể giảm các lỗi tương đối trong phần tóm tắt cuộc họp và các bước tiếp theo của cuộc họp ở các mức tương ứng là hơn 20% và 60%, điều này trực tiếp chuyển thành lợi thế chất lượng vượt trội.

Hình 1. Đánh giá bằng con người đối với phần tóm tắt cuộc họp và các bước tiếp theo bằng tiếng Anh. LLM của Zoom và Anthropic Claude-3 được liên kết để cho ra kết quả cuối cùng vượt trội hơn đáng kể so với trường hợp chỉ sử dụng OpenAI GPT-4.

Hình 1. Đánh giá bằng con người đối với phần tóm tắt cuộc họp và các bước tiếp theo bằng tiếng Anh. LLM của Zoom và Anthropic Claude-3 được liên kết để cho ra kết quả cuối cùng vượt trội hơn đáng kể so với trường hợp chỉ sử dụng OpenAI GPT-4.

Chúng tôi cũng đã đánh giá chất lượng Tóm tắt cuộc họp tổng thể đối với tiếng Nhật thông qua so sánh LLM của Zoom và GPT-4. Như bạn có thể thấy trong biểu đồ bên dưới, cách tiếp cận liên kết của chúng tôi đã có thể mang lại kết quả tốt hơn trong trường hợp này. 

Hình 2. Đánh giá bằng con người về tóm tắt cuộc họp tổng thể bằng tiếng Nhật. LLM của Zoom và OpenAI GPT-4 được liên kết để cho ra kết quả cuối cùng vượt trội hơn đáng kể so với trường hợp chỉ sử dụng OpenAI GPT-4.
Hình 2. Đánh giá bằng con người về tóm tắt cuộc họp tổng thể bằng tiếng Nhật. LLM của Zoom và OpenAI GPT-4 được liên kết để cho ra kết quả cuối cùng vượt trội hơn đáng kể so với trường hợp chỉ sử dụng OpenAI GPT-4.

AI chất lượng được nhúng trên Zoom Workplace và Dịch vụ kinh doanh

Chúng tôi cam kết mang đến những lợi ích của Zoom AI Companion trên nền tảng Zoom cho khách hàng mà không tính thêm phí đối với các gói Zoom trả phí đủ điều kiện.* Nhờ kiên trì tập trung vào chất lượng AI nên chúng tôi nâng cao được giá trị khách hàng trong Zoom Workplace và Dịch vụ kinh doanh Zoom. Ngoài ra, theo một nghiên cứu của GigaOm do Zoom ủy quyền (công bố ngày 26 tháng 3 năm 2024), tính năng phiên âm của AI Companion có độ chính xác 95% và đối với các tình huống đặt câu hỏi trong cuộc họp, AI Companion trả về kết quả nhanh hơn bốn lần so với web ChatGPT-4.

Với những cải tiến mới nhất này, bạn có thể yên tâm rằng mọi cuộc họp Zoom đều có thể kèm theo tóm tắt cuộc họp do AI tạo ra có chất lượng AI tốt nhất trong ngành. 

*AI Companion có thể không khả dụng ở tất cả các khu vực hoặc phân khúc ngành.

Khách hàng của chúng tôi yêu thích chúng tôi

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom - Nơi bạn kết nối