Технический директор Zoom, Сюэдун Хванг (Xuedong Huang), рассказывает о том, как малые языковые модели (МЯМ) формируют наше видение совместной работы ИИ-агентов в рамках интегрированного подхода для упрощения ваших повседневных задач.
Опубликовано: 19 февраля 2025 г.
Сюэдун Хуан (Xuedong Huang) является техническим директором (CTO). До Zoom он работал в компании Microsoft CTO и техническим специалистом по ИИ Azure. Он построил выдающуюся карьеру в области ИИ: в 1993 году создал группу речевых технологий Microsoft, руководил отделами по работе с ИИ Microsoft и добился первых в отрасли успехов в области разработки технологий распознавания речи, машинного перевода, понимания языка и компьютерного зрения, равных возможностям человека. Сейчас он является действительным членом IEEE и ACM и избранным членом Национальной инженерной академии и Американской академии искусств и наук.
Сюэдун получил степень доктора философии в области электроэнергетики в Эдинбургском университете в 1989 году (обучение спонсировалось зарубежной Британской исследовательской стипендией и стипендией Эдинбургского университета), степень магистра в области компьютерных наук в Университете Цинхуа в 1984 году и степень бакалавра в той же области в Хунаньском университете в 1982 году.
В Zoom мы по-прежнему сосредоточены на инновациях, что стимулирует наше непрерывное изучение трансформации с упором на ИИ с помощью Zoom AI. В прошлом году я рассказывал о том, как наш федеративный подход обеспечивает высококачественные результаты и о том, как наша ориентация на качество распознавания речи создаёт более прочную основу для других функций ИИ. По мере совершенствования искусственного интеллекта мы ускоряем внедрение агентного ИИ.
До настоящего времени искусственный интеллект полагался на большие языковые модели (БЯМ) для реагирования на запросы пользователей и выдачи сгенерированных ответов. Тем не менее, мы видим гораздо больше возможностей в том, как МЯМ могут способствовать созданию настраиваемых ИИ-агентов. Мы создаём Zoom AI для поддержки агентного ИИ, который будет управлять серией многоэтапных действий от вашего имени.
Когда мы рассматриваем ИИ как агентов, а не как отдельные навыки и реакции, это означает, что они выходят за рамки ввода подсказок для получения простых результатов и должны стать продолжением нас самих и наших целей. Для этого наши ИИ-агенты наделяются следующими характеристиками:
Чтобы помочь воплотить этих ИИ-агентов в реальность, мы рады объявить о значимом этапе в этом пути: наша недавно разработанная модель малого языка (МЯМ) достигла передовых результатов в категории 2 млрд параметров на публичной таблице лидеров. Посредством индивидуальной настройки в грядущем AI Studio от Zoom мы разрабатываем МЯМ Zoom так, чтобы они приближались по качеству к ведущей в отрасли большой языковой модели (БЯМ) для специализированных задач. Это откроет путь для Zoom AI к выполнению сложных задач агентного ИИ с участием нескольких ИИ-агентов для совместной работы с непревзойдённой экономической эффективностью.
В интегрированном подходе Zoom ко внедрению ИИ вместо зависимости от единой и всеобъемлющей большой модели мы поддерживаем координацию нескольких настраиваемых моделей. МЯМ Zoom призваны усовершенствовать этот подход путем оптимизации для конкретных задач. Распределяя рабочие нагрузки между специализированными МЯМ с соответствующими агентами и одновременно используя ведущие БЯМ, мы стремимся достичь нескольких важных преимуществ:
Давайте более подробно рассмотрим, что означает этот прорыв и как именно он выделяется на фоне ведущих моделей.
Для создания МЯМ Zoom мы использовали 6 триллионов токенов многоязычных данных и 256 графических процессоров Nvidia H100. От начала до конца весь цикл обучения занял около 30 дней. В следующих таблицах описывается, как возможности МЯМ от Zoom сопоставляются с другими моделями по нескольким общедоступным бенчмаркам по результатам нашего внутреннего тестирования:
Следуя общепринятой в сообществе практике, мы оценили точность этих бенчмарков с помощью инструмента Lighteval, который предоставил 5 примеров на MMLU и MMLU-Pro, 2 примера на GPQA и 3 примера на BBH.
Таблица 1. Сравнение МЯМ Zoom по сравнению с другими МЯМ в категории 2B (чем выше баллы, тем лучше).
Как правило, МЯМ остаются менее конкурентоспособными по этим показателям качества, чем ведущие БЯМ, такие как GPT-4o-mini от OpenAI, без адаптации к конкретной области или задаче, как показано в таблице 2.
Таблица 2. МЯМ Zoom без настройки менее конкурентоспособен по сравнению с БЯМ, выходящими за пределы категории 2B, такими как GPT 4o-mini от OpenAI.
Однако самым интересным является то, что эти МЯМ могут предлагать исключительные возможности при настройке для специализированной задачи. Благодаря настройке с помощью Zoom AI Studio мы планируем эффективно сократить разрыв в качестве по сравнению с более дорогостоящими БЯМ. Настраиваемые МЯМ могут выступать как специализированные агенты для выполнения ключевых задач в согласовании с БЯМ, уделяя приоритетное внимание улучшению точности, скорости и обеспечению рентабельности для каждого агента ИИ.
Настраиваемые МЯМ могут превосходно справляться с такими задачами, как машинный перевод. Адаптировав МЯМ с 11,5 миллиарда токенов (включая синтезированные данные), предназначенных для машинного перевода, мы значительно улучшили широко используемые метрики качества COMET-22 в 14 языковых парах, охватывающих такие основные языки, как китайский, английский, французский, японский, португальский и испанский, как показано в таблице 3.
Наши малые языковые модели (SLM) также можно адаптировать для эталонного тестирования агентного ИИ по декодированию слотов, которое оценивает, насколько точно модель интерпретирует команды пользователя для выполнения действий. Как показано в таблице 3, модифицированная модель SLM, использующая 2 миллиарда синтетических токенов для данных в области агентного ИИ, также превосходит GPT-4o-mini.
Это сочетание эффективности и адаптивности позволит Zoom предложить клиентам по всему миру значительно улучшенный машинный перевод, а также адаптировать Zoom AI Studio под конкретные задачи агентного ИИ.
Таблица 3. Настраиваемая МЯМ Zoom и GPT-4o-mini OpenAI в специализированных рабочих нагрузках: чем выше оценка, тем лучше.
Эти настраиваемые МЯМ станут основой наших ИИ-агентов и позволят им работать более эффективно, предоставляя результаты, по качеству сопоставимые с более дорогими БЯМ, используемыми сегодня. За счет нашего интегрированного ИИ эти агенты и навыки ИИ помогут достичь непревзойденной эффективности, снижения затрат и повышения точности.
Мы гордимся достигнутым прогрессом — и это только начало. Наша цель — обеспечить каждую организацию ИИ-агентами, которые будут предоставлять экономически эффективные и высокопроизводительные решения. Благодаря дополнительным возможностям ИИ-агентов и МЯМ, Zoom AI поможет вам создать такую рабочую среду, в которой вы сможете успевать больше и проявить себя максимально эффективно.
