AI Companion AI

Djupdykning av Zooms IT-chef: Så maximerar vår federerade AI-strategi prestanda, kvalitet och prisvärdhet

5 minuters läsning

Publicerad den 28 november 2023

Djupdykning av Zooms IT-chef: Så maximerar vår federerade AI-strategi prestanda, kvalitet och prisvärdhet
Xuedong Huang
Xuedong Huang
IT-chef

Xuedong Huang är Chief Technology Officer (CTO). Före sin roll hos Zoom arbetade han på Microsoft, där han tjänstgjorde som Azure AI CTO och Technical Fellow. Han har haft en mycket framgångsrik karriär inom AI: Han startade Microsofts grupp för talteknik 1993 och ledde Microsofts AI-team för att uppnå flera av branschens första milstolpar för mänsklig paritet inom taligenkänning, maskinöversättningar, naturlig språkförståelse och datorvision. Han är en IEEE och ACM Fellow samt en invald medlem i National Academy of Engineering och American Academy of Arts and Sciences.

Xuedong tog sin doktorsexamen i elektroteknik från University of Edinburgh 1989 (sponsrad av British ORS och Edinburgh University Scholarship), sin masterexamen i datavetenskap från Tsinghua University 1984 och sin kandidatexamen i datavetenskap från Hunan University 1982.

Läs vår senaste uppdatering om Zoom AI och framgångarna med vår federerade strategi.

Att påbörja den omvandlande resan med AI från konceptualisering till förverkligande går att likna med en slingrande väg som kännetecknas av kontinuerlig störning, anpassning och innovation. Jag har varit med på den här resan under de senaste 30 åren och har suttit på första parkett och spelat en aktiv roll i utvecklingen av AI, från röstigenkänning och förståelse av naturligt språk till datorseende. Under de senaste sex månaderna sedan jag började på Zoom har innovationstakten varit häpnadsväckande.

Vi på Zoom använder AI för att förbättra människors samarbete och produktivitet. Zoom AI är en hörnsten i vår innovation, och är utformad för att höja produktiviteten, underlätta smidigt samarbete och hjälpa dig att få djupare insikter för att förbättra ditt sätt att arbeta på hela Zoom-plattformen. Zooms federerade AI-strategi gör det möjligt för oss att tillhandahålla AI-funktioner i Zoom Workplace utan extra kostnad genom de betalda tjänster som ingår i ditt användarkonto på Zoom.* Här kan du titta närmare på vår AI och ta reda på hur den erbjuder högkvalitativa resultat till en lägre kostnad.

Zooms federerade AI-strategi

Zoom har i flera år erbjudit AI-tjänster som röstigenkänning, datorseende, maskinöversättning och stora språkmodeller (LLM:er) för att förbättra kommunikationen. I de LLM:er som vi använder ingår Zooms LLM samt tredjepartsmodellerna OpenAI GPT 3.5, GPT 4 och Anthropic Claude 2. Vår federerade strategi kan omfatta nyare LLM:er, som OpenAI:s GPT 4 Turbo, från våra partner, både LLM:er med öppen och sluten källkod, för att fortsätta att förbättra hela upplevelsen för Zoom-kunder.

Vi följer en kostnadseffektiv strategi där vi först använder en LLM med lägre kostnad som är bäst lämpad för uppgiften. Vår Z-Scorer utvärderar sedan kvaliteten på det ursprungliga slutförandet av uppgiften, och vid behov använder vi en mer avancerad LLM för att förbättra hur uppgiften slutförs baserat på vad som uppnåddes med ursprunglig LLM. Detta går att likna vid hur ett sammanhållet team som arbetar tillsammans kan skapa en produkt av högre kvalitet mer effektivt än en enskild individ.

Jämförelse av resultat med andra LLM:er

Med vår federerade AI-strategi har vårt team, enligt våra egna interna tester, förbättrat den relativa kvaliteten på Zoom AI jämfört med strategier med en enda modell, till exempel OpenAI GPT-3.5 Turbo (den relativa skillnaden är ett kvalitetsbetyg på 99 % jämfört med 93 % enligt vår egen metod för kvalitetsutvärdering) eller flera andra toppmoderna stora språkmodeller (LLM). 

Vi mäter resultat som en kombination av lägre kostnad, snabbare svarstid och output av hög kvalitet. I jämförelse med OpenAI:s modell GPT-4-32k som proxy för Microsoft Copilot ger vår funktion för mötesfrågor lägre kostnader och snabbare svarstid samtidigt som AI-kvaliteten är jämförbar, vilket visas i figur 1.

Figur 1. Procentuell jämförelse mellan Zooms federerade AI och OpenAI GPT-4-32k med avseende på nyckelvärden för kostnad och kvalitet för Zoom AI-uppgiften för mötesfrågor. Microsoft Copilot använde OpenAI GPT-4 tillsammans med Microsoft Graph och andra komponenter. Vi använder inte kunddata för att träna våra AI-modeller, men i det här diagrammet har vi använt data från interna Zoom-möten för jämförelse med OpenAI GPT-4 som Microsoft Copilot-proxy. 

Fördelarna med våra modeller framgår ytterligare genom våra flerspråkiga funktioner. Vi stöder nu 32 språk (i förhandsversionen) utöver engelska. Med tanke på att de flesta stora språkmodeller främst är tränade på förhand med data som domineras av engelska har vi lagt till översättningsmodeller för att utöka våra flerspråkiga funktioner. Genom att översätta avskrifter på andra språk till engelska med hjälp av Zooms översättningsmodeller för Zoom AI:s flerspråkiga mötessammanfattning tar vi inte bara hänsyn till översatta data utan samtidigt även data på det ursprungliga språket. Som visas i figur 2 ledde vår modell inte bara till en avsevärt högre AI-kvalitet jämfört med GPT-3.5, utan även till en AI-kvalitet som närmade sig GPT-4-32k (97 % i jämförelse) till mindre än 6 % av kostnaden.

Figur 2. Procentuell jämförelse mellan Zooms federerade AI i och OpenAI GPT-4-32k för Zoom AI-uppgiften för flerspråkig sammanfattning på 32 språk utöver engelska, däribland kinesiska, franska, tyska, italienska, japanska, portugisiska och spanska. Microsoft Copilot använde OpenAI GPT-4 tillsammans med Microsoft Graph och andra komponenter. Data från interna Zoom-möten samlades in för det här diagrammet för jämförelse med OpenAI GPT-4 som Microsoft Copilot-proxy. 

Dessa exempel understryker effektiviteten i Zooms federerade AI-strategi, som smidigt kombinerar fördelarna hos olika maskininlärningssystem för att leverera högpresterande resultat. 

En vinnande AI-strategi

Vi anser att fördelarna med AI bör vara tillgängliga för så många som möjligt. Vår federerade AI-strategi spelar en viktig roll när det gäller att förverkliga den här visionen. Det är därför som AI-funktionerna i Zoom Workplace ingår utan extra kostnad för kunder med kvalificerande betalda Zoom-planer, medan andra företag kan ta ut en extra avgift för varje användare.* 

Vi uppmuntrar dig att själv prova AI-funktionerna i Zoom Workplace – besök vår startguide och lär dig mer om hur du aktiverar och använder funktionerna. Om du inte har någon kvalificerande betald Zoom-plan kan du uppgradera idag för att få tillgång till fördelarna med Zoom AI. 

*Obs! Vissa AI-funktioner i Zoom Workplace kanske inte är tillgängliga i alla regioner eller för alla branschgrenar.

 

Våra kunder älskar oss

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom – En plattform för kontakt