AI Companion AI

El CTO de Zoom en detalle: cómo nuestro enfoque federado de la IA maximiza el rendimiento, la calidad y la rentabilidad

5 min de lectura

Publicado el 28 de noviembre de 2023

El CTO de Zoom en detalle: cómo nuestro enfoque federado de la IA maximiza el rendimiento, la calidad y la rentabilidad
Xuedong Huang
Xuedong Huang
Director de Tecnología

Xuedong Huang es el   director de Tecnología (CTO). Antes de Zoom, trabajó en Microsoft, donde se desempeñó como director de Tecnología y colaborador técnico de Azure AI. Su trayectoria es destacada en el ámbito de la IA: fundó el grupo de tecnología del discurso de Microsoft en 1993, dirigió los equipos de IA de Microsoft para alcanzar varios de los primeros hitos de paridad humana del sector en reconocimiento del habla, traducción automática, comprensión del lenguaje natural y visión por computadora, es miembro del IEEE y la ACM y miembro electo de la Academia Nacional de Ingeniería y la Academia Estadounidense de las Artes y las Ciencias.

Xuedong obtuvo su doctorado en Ingeniería Eléctrica en la Universidad de Edimburgo en 1989 (patrocinado por la beca británica ORS y la Universidad de Edimburgo), su maestría en Ciencias de la Computación en la Universidad de Tsinghua en 1984 y su licenciatura en Ciencias de la Computación en la Universidad de Hunan en 1982.

Lea nuestra última actualización sobre Zoom AI y el éxito de nuestro enfoque federado.

Embarcarse en el viaje transformador de la IA desde la conceptualización hasta la realización se asemeja a un camino sinuoso, marcado por la disrupción continua, la adaptación y la innovación. Al haber pasado 30 años en este recorrido, he participado directamente (con un rol activo) en la evolución de la IA, desde el reconocimiento del habla y la comprensión del lenguaje natural hasta la visión artificial. El ritmo de la innovación en los últimos seis meses desde que me incorporé a Zoom ha sido particularmente asombroso.

En Zoom, utilizamos la IA para mejorar la colaboración y la productividad humanas. Zoom AI es la piedra angular de nuestra innovación, diseñada para aumentar la productividad, facilitar una colaboración fluida y ayudarle a obtener información más profunda para mejorar la forma en que trabaja en la plataforma Zoom. El enfoque federado de Zoom con respecto a la IA nos permite ofrecer características de IA en Zoom Workplace sin coste adicional con los servicios de pago asignados a su cuenta de usuario de Zoom.* A continuación, le ofrecemos una visión más detallada de nuestra IA y de cómo proporciona un rendimiento de alta calidad a un menor coste.

El enfoque federado de Zoom para la IA

Zoom lleva años ofreciendo servicios de IA como reconocimiento de voz, visión artificial, traducción automática y grandes modelos lingüísticos (LLM) para mejorar la comunicación. Los LLM que utilizamos incluyen el LLM de Zoom, así como los modelos de terceros OpenAI GPT 3.5 y GPT 4, y Anthropic Claude 2. Nuestro enfoque federado puede incorporar LLM más recientes (como GPT 4 Turbo de OpenAI) de nuestros socios, tanto LLM de código abierto como de código cerrado, para seguir mejorando las experiencias de extremo a extremo de los clientes de Zoom.

Seguimos una estrategia rentable que emplea, en primer lugar, el LLM de menor coste más adecuado para la tarea. A continuación, nuestro Z-Scorer evalúa la calidad de finalización de la tarea inicial y, si es necesario, utilizamos un LLM más avanzado para aumentar la finalización de la tarea basándonos en lo conseguido con el LLM inicial, de forma similar a cómo un equipo cohesionado que trabaja conjuntamente es capaz de crear un producto de mayor calidad de forma más eficiente que cualquier individuo.

Comparación del rendimiento con otros LLM

Con nuestro enfoque federado de la IA, según nuestras propias pruebas internas, nuestro equipo ha mejorado la calidad relativa de Zoom AI con respecto a los enfoques de modelo único, como OpenAI GPT-3.5 Turbo (la diferencia relativa es del 99 % frente al 93 % de calificación de calidad, según nuestra propia metodología de evaluación de la calidad) o varios otros LLM de última generación. 

Medimos el rendimiento como una combinación de menor coste, tiempo de respuesta más rápido y resultados de mayor calidad. En comparación con el modelo GPT-4-32k de OpenAI como proxy de Microsoft Copilot, nuestra capacidad de preguntas de la reunión ofrece un coste reducido y un tiempo de respuesta más rápido, manteniendo una calidad de IA comparable, como se muestra en la Figura 1.

Figura 1. IA federada de Zoom en porcentaje relativo de OpenAI GPT-4-32k en métricas clave de coste y calidad para la tarea de consultas de la reunión de Zoom AI. Microsoft Copilot utilizó OpenAI GPT-4 en conjunto con Microsoft Graph y otros componentes. No utilizamos datos de clientes para entrenar nuestros modelos de IA, sino que utilizamos datos de reuniones internos de Zoom para la evaluación comparativa en este gráfico con OpenAI GPT-4 como proxy de Microsoft Copilot. 

La potencia de nuestros modelos queda aún más patente en nuestro rendimiento multilingüe, que ahora admite 32 idiomas (en versión preliminar), además del inglés. Conscientes de que la mayoría de los LLM están preentrenados principalmente con datos en inglés, hemos añadido modelos de traducción para ampliar nuestras capacidades multilingües. Al traducir al inglés transcripciones en otros idiomas con los modelos de traducción de Zoom para el resumen multilingüe de reuniones de Zoom AI, no solo tenemos en cuenta los datos traducidos, sino también los datos originales de forma simultánea. Como se muestra en la Figura 2, nuestro modelo no solo mejoró significativamente la calidad de la IA con respecto a GPT-3.5, sino que también se acercó a la calidad de la IA de GPT-4-32k (97 % relativo) con menos del 6 % del coste.

Figura 2. IA federada de Zoom, expresada en porcentaje relativo respecto a OpenAI GPT-4-32k, para la tarea de resumen multilingüe de Zoom AI en 32 idiomas distintos del inglés, entre los que se incluyen el chino, el francés, el alemán, el italiano, el japonés, el portugués y el español. Microsoft Copilot utilizó OpenAI GPT-4 junto con Microsoft Graph y otros componentes. Se han recopilado datos de reuniones internas de Zoom para hacer una comparación en este gráfico, utilizando OpenAI GPT-4 como proxy de Microsoft Copilot.

Estos ejemplos subrayan la eficacia del enfoque federado de la IA de Zoom, que combina a la perfección los puntos fuertes de diferentes sistemas de aprendizaje automático para ofrecer resultados de alto rendimiento. 

Un enfoque ganador para la IA

Creemos que las ventajas de la IA deben estar al alcance del mayor número posible de personas. Nuestro enfoque federado de la IA desempeña un papel fundamental a la hora de hacer realidad esta visión. Por eso, mientras que otras empresas pueden cobrar una tarifa premium por usuario, nosotros podemos incluir muchas características de IA en Zoom Workplace sin coste adicional para los clientes con planes de pago de Zoom que cumplan los requisitos.* 

Le animamos a probar las características de IA en Zoom Workplace por sí mismo: visite nuestra guía de inicio para obtener más información sobre cómo activar y utilizar estas funciones. Si no tiene un plan de pago de Zoom elegible, actualícelo hoy mismo para acceder a los beneficios de Zoom AI.

* Nota: Algunas características de IA en Zoom Workplace pueden no estar disponibles para todas las regiones o sectores industriales.

 

Nuestros clientes nos prefieren

Okta
Nasdaq
Rakuten
Logitech
Western Union
Autodesk
Dropbox

Zoom: una plataforma para conectar