Cómo nos estamos preparando para la próxima era de la IA

En Zoom, seguimos enfocados en la innovación, lo que impulsa nuestra exploración continua de la transformación centrada en la IA con Zoom AI Companion. En el último año, he hablado sobre cómo nuestro enfoque federado ofrece resultados de alta calidad y cómo nuestro enfoque en la calidad del reconocimiento de voz crea una base más sólida para el resto de funciones de IA que ofrecemos. La mejora continua de la IA nos permite avanzar rápidamente en la adopción de la IA agéntica.

Hasta ahora, la IA ha dependido de modelos extensos de lenguaje (LLM) para responder a las solicitudes del usuario y proporcionar respuestas generadas. Sin embargo, las posibilidades se multiplican cuando pensamos en cómo los SLM pueden potenciar los agentes de IA personalizados. Estamos desarrollando AI Companion para que una IA agéntica pueda gestionar por usted una serie de acciones en varios pasos.

Al ver la IA como agentes y no solo como habilidades o respuestas independientes, entendemos que su papel va más allá de procesar instrucciones simples: deben actuar como una extensión de nuestra voluntad y objetivos. Para lograrlo, nuestros agentes de IA cuentan con las siguientes características:

• Razonamiento y planificación: Analizan situaciones e idean estrategias. Pueden perseguir objetivos de forma autónoma con previsión e inteligencia.
• Memoria y reflexión: Aprenden del pasado y adaptan sus estrategias para fomentar un crecimiento autónomo similar al desarrollo humano.
• Ejecución de acciones: Usan las herramientas correctas para convertir la intención en efectos tangibles.
• Colaboración multiagente: Delegan y administran habilidades o agentes múltiples para alcanzar los objetivos.

Para ayudar a hacer realidad estos agentes de IA, estamos encantados de anunciar un hito significativo en este periplo: nuestro nuevo modelo de lenguaje reducido (SLM) ha alcanzado un rendimiento de vanguardia dentro de la categoría de 2000 millones de parámetros en la tabla de clasificación de referencia pública. A través de la personalización que ofrecerá el próximo AI Studio de Zoom, estamos diseñando los SLM de Zoom para que alcancen una calidad comparable a la de los LLM líderes del sector en tareas especializadas. Esto abrirá el camino para que AI Companion realice tareas complejas de IA agéntica con múltiples agentes de IA trabajando de forma paralela para ofrecer una rentabilidad sin parangón. 

En el enfoque de IA federada de Zoom, en lugar de depender de un único y complejo modelo grande, apostamos por coordinar múltiples modelos personalizados. Los SLM de Zoom han sido diseñados para potenciar esta estrategia, ya que se optimizan para tareas específicas. Al distribuir las cargas de trabajo entre SLM personalizados y sus agentes correspondientes —sin dejar de aprovechar los principales LLM— buscamos alcanzar varios beneficios clave:

• Excelencia específica para cada tarea: Cada agente puede optimizarse con precisión mediante el uso de los datos de dominio adecuados y enfoques de ajuste refinado para cumplir con criterios de rendimiento específicos.
• Velocidad y escalabilidad: Los modelos más compactos facilitan la personalización, el mantenimiento y la escalabilidad, lo que permite contar con inferencias y actualizaciones más rápidas.
• Rentabilidad: Los modelos personalizados más reducidos requieren menos recursos computacionales y conllevan costes de desarrollo inferiores.

Veamos qué significa este avance y qué ventajas ofrece frente a los modelos líderes del sector.

Para crear un SLM de Zoom, utilizamos 6 billones de tokens de datos multilingües y 256 GPU Nvidia H100. De principio a fin, todo el ciclo de formación tomó aproximadamente 30 días. Las siguientes tablas comparan las capacidades de los SLM de Zoom con las de otros modelos para varios puntos de referencia públicos según nuestras pruebas internas:

• MMLU: Evalúa los modelos de lenguaje con preguntas de opción múltiple que abarcan 57 materias distintas, desde matemáticas e historia hasta derecho y ética, para evaluar tanto la comprensión fáctica como la conceptual.
• MMLU-Pro: Este punto de referencia es una extensión de MMLU centrada en problemas STEM de alta calidad y desafíos de razonamiento especializados que impulsa a los modelos a demostrar una competencia técnica más profunda.
• GPQA: Un desafiante conjunto de datos que consta de 448 preguntas de opción múltiple elaboradas por expertos en biología, física y química, diseñado para evaluar con rigor el conocimiento especializado en estas áreas.
• BBH: Se centra en tareas cognitivas y de resolución de problemas particularmente exigentes y evalúa las capacidades avanzadas de razonamiento y comprensión en los modelos de idioma.

Siguiendo la práctica habitual de la comunidad, evaluamos la precisión de estos puntos de referencia mediante la herramienta Lighteval, que proporcionó 5 ejemplos en MMLU y MMLU-Pro, 2 en GPQA y 3 en BBH.

En general, los SLM siguen siendo menos competitivos en estas medidas de calidad que los principales LLM, como el GPT-4o-mini de OpenAI, sin personalización para un dominio o una tarea específicos, tal y como se muestra en la tabla 2.

Sin embargo, el resultado más interesante es que estos SLM pueden ofrecer capacidades excepcionales cuando se personalizan para una tarea especializada. Mediante la personalización con AI Studio de Zoom, esperamos reducir de forma eficaz la brecha de calidad frente a los LLM más costosos. Los SLM personalizados pueden actuar como agentes especializados para llevar a cabo tareas clave en coordinación con los LLM para priorizar la mejora de la precisión, la velocidad y la rentabilidad de cada agente de IA. 

Los SLM personalizados pueden sobresalir en tareas como la traducción automática. Al adaptar el SLM con 11,5 mil millones de tokens (incluidos datos sintéticos) diseñados para la traducción automática, hemos mejorado de forma significativa las métricas de calidad COMET-22 ampliamente adoptadas en 14 pares de idiomas, que incluyen idiomas principales como el chino, el inglés, el francés, el japonés, el portugués y el español , tal y como se muestra en la tabla 3. 

Nuestros SLM también pueden personalizarse para admitir el estándar de referencia de IA agéntica de AI Companion para la decodificación de campos, que mide la precisión con la que el modelo interpreta los comandos del usuario al ejecutar acciones. Gracias a sus 2000 millones de tokens sintéticos para los datos del dominio de IA agéntica, el SLM personalizado también supera al GPT-4o-mini, tal y como se muestra en la tabla 3. 

Mediante esta combinación de eficiencia y adaptabilidad, desde Zoom podemos ofrecer una traducción automática muy mejorada a nuestros clientes de todo el mundo, así como respaldar a Zoom AI Studio en la personalización de cargas de trabajo específicas para la IA agéntica. 

Estos SLM personalizados serán el pilar de nuestros agentes de IA, al operar de forma más eficiente y ofrecer resultados comparables a los LLM más costosos que suelen usarse en la actualidad. Gracias a nuestra IA federada, estos agentes y habilidades de IA contribuirán a mejorar de forma significativa la eficiencia, a reducir costes y a aumentar la precisión de una manera nunca vista. 

Nos enorgullecemos de nuestro progreso, ¡y esto es solo el principio! Nuestro objetivo es dotar a cada organización de agentes de IA que proporcionen soluciones rentables y de alto rendimiento. Gracias a las capacidades adicionales de los agentes de IA y los SLM, AI Companion le ayudará a crear un entorno de trabajo donde pueda ser más productivo y dar lo mejor de sí mismo.