AI Companion
5 閱讀分鐘
Zoom 技術長深入探討：我們的聯合式 AI 方法如何最大化效能、品質，並兼顧經濟實惠
Zoom 技術長黃學東探討聯合式 AI 方法，以及該方式如何以低成本實現高品質的表現。
AI 安全及防護簡介
新系列聚焦討論為何需要以及如何能夠保障生成式 AI 實行安全，並解釋 Zoom 為了協助客戶打造安全 AI 環境所採取的措施。
3 閱讀分鐘
更新日期 January 21, 2025
發佈日期 September 16, 2024
在此網路日誌中
- 01 何謂生成式 AI？生成式 AI 如何運作？ - Jumplink to 何謂生成式 AI？生成式 AI 如何運作？
- 02 AI 安全和 AI 防護的含意？ - Jumplink to AI 安全和 AI 防護的含意？
- 03 Zoom 的 AI 防護 - Jumplink to Zoom 的 AI 防護
- 04 Zoom 如何應對 AI 安全議題 - Jumplink to Zoom 如何應對 AI 安全議題
- 05 用聯合式 AI 方法管理安全與防護 - Jumplink to 用聯合式 AI 方法管理安全與防護
- 06 AI Companion、安全、防護及未來 - Jumplink to AI Companion、安全、防護及未來
分享此篇貼文
Michael Adams
資訊安全長
Michael Adams 為 Zoom 的資安長，擁有近 30 年的資安和領導經驗。Michael 於 2020 年 8 月加入 Zoom，擔任營運長及資安長的首席法律顧問，同時建立公司的內部風險、全球情報、營運保證及安全性法律計畫。Michael 畢業於美國海軍學院，職業生涯始於工程師，之前曾為兩位參謀長聯席會議主席、眾多知名上市公司及私營公司，以及美國政府最高層人士擔任顧問。他曾擔任 Palantir 公司高階主管，以及大型國際律師事務所合夥人，成績斐然。Michael 與妻子、兩個孩子以及乞沙比克獵犬住在北卡羅萊納州夏洛特，是當地社區的活躍成員，也是巴爾的摩金鶯隊的忠實粉絲。
人工智慧已成為主流，透過科技力量協助，我們獲得前所未有的高效率。AI 看似有數不清的優點，透過 AI，我們可以盡情發揮想像力，重新思索一切可能性。
對偉大的新想法懷抱夢想是有趣的，但在推動實施新 AI 解決方案時，我們必須堅守安全性，承諾保護 AI 源頭的資料。我們正在 Zoom 部落格上開啟一個新系列，討論為何需要以及如何能夠保障生成式 AI 的實行安全，並解釋 Zoom 為了協助客戶打造安全 AI 環境所採取的措施。
AI 可以有多種用途。您可運用生成式 AI 這項工具，透過 AI 模型的多個輸入和輸出，進一步生成新的內容，包括圖像、文字、聲音、影像和資料。生成式 AI 有時也又稱為 GenAI，它超越了人類的能力，當接收到提示時，GenAI 能使用各種 AI 和機器學習演算法即時回答。無論是要草擬會議摘要、擷取影像或透過文案協助克服寫作障礙，人們都可以使用生成式 AI 工具快速完成任務，節省寶貴的時間。
生成式 AI 解決方案對於終端使用者而言尤其具有價值，藉由此一方案，終端使用者就能將時間投注於更有意義的工作上。在您決定選擇何種 AI 工具導入工作流程之前，您必須慎重考慮幾件事。
- 確定並概要描述您想解決的問題。您是否正嘗試改善客戶服務？簡化重複性工作？評估新趨勢？快速將內容翻譯成當地語系？
- 制定時程表。探索、評估和實施您 AI 選項的最短時間為何？需經由您組織中的哪些團隊簽核？進展緩慢的代價是什麼？
- 決定何者是重要的。不同的 AI 工具各有其優缺點，進行評估時對供應商的提問也會有所不同。供應商的服務中包含了什麼功能，如何能符合您的期望目標？
除了這些問題，另一個重點是研究供應商如何應對 AI 安全防護，針對生成式 AI 的導入和使用，供應商採取何種隱私權措施。我們並建議組織及其終端使用者，針對將要導入的 AI 工具，深入了解其需求之資料將會以何方式收集和運用。
首先，瞭解 AI 安全與 AI 防護有何不同相當重要。。AI 安全與 AI 防護是 AI 系統部署及保護的基礎，但著重的面向不同，尤其是：
- AI 防護專注於保護 AI 模型和系統中使用之資料的機密性、完整性和可用性。
- AI 安全則涉及更廣泛的考量因素，包括堅固性和可靠性、道德影響、對社會、經濟和環境的長期影響，以及對人權和價值觀的影響。
為了克服 AI 整合時出現的安全問題挑戰 (保護 AI 模型、資料集和訓練環境)，美國國家標準暨技術研究院 (NIST)、國家網路安全中心 (NCSC)、國際標準組織 (ISO) 和國際電工委員會 (IEC) 等具權威公信力的單位，合力制定推出了多項新的指南、標準和框架。我們的 AI 安全防護依循這些產業標準和一流的實務方法，專注於對抗新興威脅，讓使用者持續信賴我們的產品，對我們保有信心。
我們的 AI 安全承諾也體現於整個 Zoom 安全開發生命週期 (ZSDLC)，包括安全供應鏈管理、模型訓練、安全設計、安全開發、安全營運和員工訓練等。我們也將在 GRC (治理、風險和法規遵循) 政策和風險框架中納入 AI 因素，包括由我們的安全保障團隊所執行的安全測試和研究行動。
我們的 AI 安全方法基礎源於我們用以建構服務的模型和資料。針對 Zoom 託管模型，我們驗證和管理我們的訓練資料，在選取第三方供應商時亦將評估他們的安全程序，確認供應商與我們的目標是否一致。我們評估的方式包括依照標準安全指標執行模型測試，驗證模型訓練期間經常出現的問題。
帳戶擁有者和管理員具有控制權，可管理帳戶中 AI 功能使用權限，亦包括在使用者和群組層級的部署選項控制權。這些選項包括在適當情況下，以人工先行審查輸出結果，審查完畢後才允許公開分享。此外，當您使用 Zoom Workplace (具 AI Companion 的開放式協作平台) 的會議中功能時，系統會以閃爍圖示通知您 AI 已開啟和正在使用中，以此協助客戶和與會者清楚掌握 AI 狀態。
以下是 Zoom AI 安全防護的三項措施：
- 針對使用生成式 AI (例如 Zoom AI Companion 和 Zoom Contact Center 專家協助) 的 Zoom AI 產品和服務之保護，以及針對支援上述產品和服務的底層模型之保護。
- 我們將 AI 運用在安全計畫和實際行動中，面對不斷演變的威脅提早做好準備。
- 保護 Zoom 內部的 AI 使用安全。
Zoom 採用聯合式方法應對 AI，亦即我們會為特定任務應用最佳的大型語言模型，包括客戶已熟悉的第三方 AI 模型。客戶可以選擇使用何種功能，以及是否僅使用選取功能限定的 Zoom 託管模型。藉由此一作法，管理員能有效掌控組織內可用的項目。
Zoom 信守承諾用負責任的方式使用 AI，Zoom 不會使用客戶的任何音訊、視訊、聊天、畫面分享、附件或其他通訊類客戶內容 (例如投票結果、白板和回應) 來訓練 Zoom 或第三方人工智慧模型。關於 Zoom AI Companion 如何處理客戶的詳細資訊，請造訪我們的支援頁面。
此文淺談 AI 安全防護的初步論述，在接下來的幾個月，我們將分享更多關於如何在全球 AI 普及化期間盡最大努力協助客戶的詳細資訊。我們相信，AI 工具對於改善工作方式具有驚人成效，而現在只是開端。在我們不斷發表 AI Companion 和 Zoom Workplace 的新功能之際，也請您儘管放心，AI 工具安全性絕對是我們開發過程中首要考量的項目。
如欲深入瞭解關於 Zoom 的安全性與隱私權方法，請加入我們於 2024 年 9 月 26 日即將舉辦的一場名為 Zoom 的 AI 安全性與隱私權方法網路研討會，以取得更多資訊。
您可能也會喜歡
