AI Companion Riunione e Chat

L'approccio federato all'IA di Zoom offre risultati di qualità superiore per le nostre funzionalità preferite

Xuedong Huang, il responsabile della tecnologia di Zoom, parla del nostro approccio federato all'IA e di come fornisce prestazioni di qualità elevata per i riepiloghi delle riunioni, i riassunti e i passaggi successivi.

8 tempo di lettura

Data di aggiornamento June 10, 2024

Pubblicato in data March 26, 2024

L'approccio federato all'IA di Zoom offre risultati di qualità superiore per le funzionalità preferite di AI Companion

A novembre 2023, ho spiegato come l'approccio dell'IA federata di Zoom abbia raggiunto una qualità quasi uguale a OpenAI GPT-4 con solo il 6% del costo di inferenza. Per quanto impressionanti siano stati questi risultati, ora possiamo offrire una qualità dell'IA ancora migliore rispetto a GPT-4 di OpenAI per le nostre funzionalità di riunione preferite. Zoom AI Companion ha ridotto gli errori relativi di oltre il 20% (per i "riassunti" del riepilogo delle riunioni Zoom) e del 60% (per i "passaggi successivi") rispetto a GPT-4 nel nostro benchmarking interno alla cieca convalidato da persone. 

A supporto dei nostri sforzi di formazione per perfezionare la qualità del completamento delle attività, il nostro esclusivo approccio federato all'IA sfrutta molti modelli linguistici avanzati (LLM) chiusi e open source che lavorano insieme per ottenere risultati migliori. Questo è in contrasto con altri fornitori che sono legati a specifici LLM. Ad esempio, Microsoft Copilot si è affidato a GPT-4, e Google si è affidato a Gemini.

Questo approccio all'IA distingue Zoom AI Companion, offrendo ai nostri clienti un'esperienza di alta qualità con le nostre funzionalità più popolari. Come ho condiviso nel mio ultimo aggiornamento, utilizziamo il nostro Z-scorer di proprietà per giudicare la qualità dei nostri output generati dall'IA. Innanzitutto, impieghiamo un LLM a basso costo più adatto a ogni attività. Quindi, il nostro Z-scorer valuta la qualità del completamento dell'attività iniziale. Se necessario, possiamo utilizzare un altro LLM complementare per perfezionare l'attività. Questo processo si traduce in un output di qualità superiore nello stesso modo in cui un team di persone può realizzare di più insieme rispetto a qualsiasi singolo individuo.

Da allora abbiamo migliorato il nostro Z-scorer integrando segnali di qualità aggiuntivi provenienti da una varietà di LLM. Inoltre, per allinearci meglio alle preferenze umane, abbiamo migliorato l'apprendimento per rinforzo federato. Federando Zoom LLM in combinazione con una serie di LLM complementari, il popolare riepilogo delle riunioni di Zoom offre risultati di alta qualità e, secondo il nostro recente benchmarking, può ora superare GPT-4, utilizzato per alimentare Copilot in Microsoft Teams.

Per quanto riguarda la sicurezza dell'IA, abbiamo anche ridotto i pregiudizi intrinseci nella maggior parte degli LLM formando un comitato composto da più LLM come Claude-3, Gemini e GPT-4 per ridurre gli equivoci e migliorare il nostro LLM di Zoom. Ad esempio, è improbabile che diversi LLM commettano lo stesso errore equivocato, quindi possiamo trarre risposte più coerenti e ridurre l'impatto dei valori anomali. 

L'approccio federato all'IA di Zoom è più efficace dove serve di più ai nostri utenti

Di recente abbiamo confrontato i nostri risultati per i due componenti preferiti del riepilogo delle riunioni: riassunti delle riunioni e passaggi successivi. Oltre mezzo milione di clienti Zoom hanno abilitato queste funzionalità da quando abbiamo lanciato AI Companion nel settembre 2023. 

Nel nostro ultimo confronto interno, abbiamo chiesto a giudici umani di scegliere il riepilogo della riunione più accurato senza rivelare quale modello di IA è stato utilizzato per generare ogni riepilogo. Come mostrato nel grafico seguente, Zoom LLM ha superato GPT-4 in inglese sia per i riassunti delle riunioni che per l'estrazione dei passaggi successivi in ogni test alla cieca. Siamo in grado di ridurre gli errori relativi ai riassunti delle riunioni e ai passaggi successivi rispettivamente di oltre il 20% e il 60%, il che si traduce direttamente in vantaggi di qualità superiore.

Figura 1. Valutazione umana per il riepilogo delle riunioni e i prossimi passaggi in inglese. Zoom LLM e Anthropic Claude-3 sono federati per ottenere risultati finali che superano significativamente le prestazioni utilizzando OpenAI GPT-4 da solo.

Figura 1. Valutazione umana per il riepilogo delle riunioni e i prossimi passaggi in inglese. Zoom LLM e Anthropic Claude-3 sono federati per ottenere risultati finali che superano significativamente le prestazioni utilizzando OpenAI GPT-4 da solo.

Abbiamo anche misurato la qualità del riepilogo complessivo della riunione per il giapponese, utilizzando Zoom LLM rispetto a GPT-4. Come si può vedere nel grafico seguente, il nostro approccio federato è stato in grado di fornire risultati migliori. 

Figura 2. Valutazione umana sul riepilogo generale della riunione in giapponese. Zoom LLM e OpenAI GPT-4 sono federati per ottenere risultati finali superiori a quelli ottenuti quando OpenAI GPT-4 viene utilizzato da solo.
Figura 2. Valutazione umana sul riepilogo generale della riunione in giapponese. Zoom LLM e OpenAI GPT-4 sono federati per ottenere risultati finali superiori a quelli ottenuti quando OpenAI GPT-4 viene utilizzato da solo.

L'IA di qualità è integrata in Zoom Workplace e nei servizi aziendali

Ci impegniamo a offrire ai nostri clienti i vantaggi di Zoom AI Companion su tutta la piattaforma Zoom senza costi aggiuntivi per i piani Zoom a pagamento idonei.* Questa incessante attenzione alla qualità dell'IA aumenta il valore per i clienti in Zoom Workplace e Zoom Business Services. Inoltre, secondo uno studio GigaOm commissionato da Zoom (pubblicato il 26 marzo 2024), la trascrizione di AI Companion ha avuto una precisione del 95% e, per gli scenari di domande durante le riunioni, AI Companion ha fornito risultati quattro volte più veloci rispetto al web ChatGPT-4.

Con queste ultime innovazioni, puoi avere la certezza che ogni riunione Zoom può essere accompagnata da un riepilogo della riunione generato dall'IA che ha una delle migliori qualità dell'IA del settore. 

*AI Companion potrebbe non essere disponibile per tutte le regioni o per tutti i settori.

I nostri clienti ci amano

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox
Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom – Una piattaforma per comunicare