AI Companion ИИ

Подробный обзор от CTO компании Zoom: как наш интегрированный подход к ИИ позволяет раскрыть весь потенциал производительности и качества с максимально доступными затратами

5 мин. на чтение

Опубликовано: 28 ноября 2023 г.

Подробный обзор от CTO компании Zoom: как наш интегрированный подход к ИИ позволяет раскрыть весь потенциал производительности и качества с максимально доступными затратами
Xuedong Huang
Xuedong Huang (Сюэдун Хуан)
Технический директор

Сюэдун Хуан (Xuedong Huang) является техническим директором (CTO). До Zoom он работал в компании Microsoft CTO и техническим специалистом по ИИ Azure. Он построил выдающуюся карьеру в области ИИ: в 1993 году создал группу речевых технологий Microsoft, руководил отделами по работе с ИИ Microsoft и добился первых в отрасли успехов в области разработки технологий распознавания речи, машинного перевода, понимания языка и компьютерного зрения, равных возможностям человека. Сейчас он является действительным членом IEEE и ACM и избранным членом Национальной инженерной академии и Американской академии искусств и наук.

Сюэдун получил степень доктора философии в области электроэнергетики в Эдинбургском университете в 1989 году (обучение спонсировалось зарубежной Британской исследовательской стипендией и стипендией Эдинбургского университета), степень магистра в области компьютерных наук в Университете Цинхуа в 1984 году и степень бакалавра в той же области в Хунаньском университете в 1982 году.

Читайте наши последние новости о Zoom AI и об успешном внедрении федеративного подхода.

Переход на путь преобразования ИИ от построения концепции до реализации напоминает извилистую дорогу, на которой мы постоянно сталкиваемся с препятствиями, адаптацией и инновациями. Мы идем по этому пути последние 30 лет, и я принимал активное и непосредственное участие в этой эволюции ИИ: от распознавания речи и понимания естественного языка до компьютерного виденья. Темпы внедрения инноваций в последние шесть месяцев, с тех пор как я присоединился к Zoom, были особенно поразительными.

В Zoom мы используем искусственный интеллект для улучшения совместной работы и производительности. Zoom AI является краеугольным камнем наших инноваций, направленных на повышение производительности, обеспечение эффективного сотрудничества и помощь в получении более глубоких инсайтов для улучшения работы на платформе Zoom. Федеративный подход Zoom к ИИ позволяет предоставлять функции ИИ в Zoom Workplace без дополнительной оплаты при наличии оплаченных услуг, назначенных вашей учетной записи пользователя Zoom.* Ниже мы подробнее рассмотрим наш искусственный интеллект и то, как он обеспечивает высококачественную производительность при меньших затратах.

Интегрированный подход Zoom к ИИ

В течение многих лет компания Zoom предлагала услуги ИИ, такие как распознавание речи, компьютерное зрение, машинный перевод и большие языковые модели (БЯМ), для улучшения коммуникации. Мы используем как БЯМ Zoom, так и модели сторонних поставщиков OpenAI GPT 3.5 и GPT 4, а также Anthropic Claude 2. Наш интегрированный подход может включать в себя более новые БЯМ, например OpenAI’s GPT 4 Turbo, предоставляемые нашими партнерами, как с открытым, так и с закрытым исходным кодом, чтобы продолжать улучшать комплексные возможности клиентов Zoom.

Мы придерживаемся экономически эффективной стратегии: в первую очередь используется менее дорогостоящая БЯМ, которая лучше всего подходит для данной задачи. Затем с помощью Z-Scorer мы оцениваем качество первоначального выполнения задачи и при необходимости используем более продвинутую БЯМ, чтобы дополнить результат задачи, полученный с помощью первой БЯМ. То же самое происходит, когда коллектив совместными усилиями создает более качественный продукт более эффективным способом, чем кто-либо в одиночку.

Сравнение производительности с другими БЯМ

Согласно нашим внутренним тестам, благодаря федеративному подходу к ИИ, наш коллектив повысил относительное качество Zoom AI по сравнению с подходами, в которых использовалась одна модель ИИ, например OpenAI GPT-3.5 Turbo (относительная разница — 99 % против 93 % рейтинга качества в соответствии с нашей собственной методикой оценки качества) или несколькими другими современными БЯМ. 

Мы измеряем эффективность как сочетание более низкой стоимости, более быстрого отклика и более качественных выходных данных. В сравнении с моделью GPT-4-32k от OpenAI, используемой в качестве аналога Microsoft Copilot, наша функция вопросов в конференции предлагает снижение стоимости и более быстрый отклик при сохранении сопоставимого качества ИИ, как показано на рисунке 1.

Рисунок 1. Федеративный ИИ Zoom в относительном проценте от OpenAI GPT-4-32k по ключевым показателям стоимости и качества для задачи вопросов в конференции Zoom AI. Инструмент Microsoft Copilot использовал OpenAI GPT-4 в оркестровке с Microsoft Graph и другими компонентами. Мы не используем данные клиентов для обучения наших моделей ИИ, и в этой диаграмме для сравнительного анализа использовали данные внутренних конференций Zoom с OpenAI GPT-4 в качестве заместителя Microsoft Copilot. 

Мощность наших моделей дополнительно демонстрируется многоязычной поддержкой, которая на данный момент, помимо английского, поддерживает еще 32 языка (в режиме предпросмотра). Понимая, что большинство больших языковых моделей (БЯМ) в основном предварительно обучены работе с данными, которые по большей части изложены на английском языке, мы добавили модели перевода, чтобы расширить многоязычные возможности. Переводя расшифровки на английский язык с помощью моделей перевода Zoom для многоязычной сводки конференции Zoom AI, мы учитываем не только переведенные данные, но и одновременно исходные данные. Как показано на рисунке 2, наша модель привела не только к значительному улучшению качества ИИ по сравнению с GPT-3.5, но и к приближению к качеству ИИ GPT-4-32k (относительная эффективность 97%) при затратах менее 6%.

Рисунок 2. Федеративный ИИ Zoom в относительном процентном соотношении к OpenAI GPT-4-32k для задачи по созданию многоязычной сводки Zoom AI на 32 языках, кроме английского, включая китайский, французский, немецкий, итальянский, японский, португальский и испанский. Инструмент Microsoft Copilot использовал OpenAI GPT-4 в сочетании с Microsoft Graph и другими компонентами. Для сравнительного анализа, представленного на этой диаграмме, были собраны данные внутренних конференций Zoom с OpenAI GPT-4 в качестве прокси Microsoft Copilot. 

Эти примеры подчеркивают эффективность интегрированного подхода Zoom к ИИ, который беспрепятственно объединяет преимущества различных систем машинного обучения для обеспечения высококачественных результатов. 

Успешный подход к работе с ИИ

Мы считаем, что преимущества искусственного интеллекта должны быть доступны как можно большему количеству людей. Наш федеративный подход к ИИ играет важную роль в реализации этого видения. Именно поэтому, в то время как другие компании могут взимать дополнительную плату за каждого пользователя, мы включаем множество функций искусственного интеллекта в Zoom Workplace без дополнительных затрат для клиентов, использующих соответствующие платные планы Zoom*. 

Мы рекомендуем вам попробовать функции ИИ в Zoom Workplace — посетите наше руководство по началу работы, чтобы узнать больше о включении и использовании этих функций. Если у Вас нет соответствующего платного плана Zoom, перейдите на профессиональный план уже сегодня, чтобы воспользоваться преимуществами Zoom AI. 

*Примечание: некоторые функции искусственного интеллекта в Zoom Workplace могут быть недоступны в некоторых регионах или для определённых отраслей.

 

Наши клиенты нас любят

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom — единая платформа для совместной работы