En introduktion till AI-säkerhet

Artificiell intelligens har blivit allt vanligare och hjälpt oss att nå nya höjder av effektivitet genom teknik. Detta gör att fördelarna med AI nästan verkar obegränsade, vilket får oss att drömma om och föreställa oss vad som egentligen är möjligt. 

Det är så klart roligt att komma på den nästa stora idén, men för att implementera en ny AI-lösning krävs ett starkt åtagande för säkerhet och att säkra de data som driver den. Vi startar en ny serie på Zoom-bloggen, där vi diskuterar hur och varför du borde implementera generativ AI på ett säkert sätt, och vad Zoom gör för att skapa en säker AI-miljö för våra kunder.

AI kan tjäna många olika syften, och generativ AI ger dig verktygen för att generera nytt innehåll, inklusive bilder, ord, ljud, videor och data, genom flera in- och utmatningar till AI-modeller. Generativ AI kallas ibland GenAI, och går utöver vad som är möjligt för människan och använder olika AI- och maskininlärningsalgoritmer för att leverera omedelbara resultat när det behövs. I gengäld kan människor accelerera sitt arbete och spara värdefull tid med verktyg för generativ AI för uppgifter som att skriva mötessammanfattningar, hämta bilder eller hantera skrivkramp med texthjälp. 

Lösningar med generativ AI kan vara ovärderliga för slutanvändaren och frigöra tid till att fokusera på mer meningsfullt arbete. Men innan du väljer vilka AI-verktyg du ska implementera i dina arbetsflöden är det viktigt att överväga ett antal saker.

1. Fastställ och beskriv problemen du vill lösa. Försöker du förbättra kundtjänsten? Förenkla repetitiva uppgifter? Bedöma nya trender? Översätta och lokalisera innehåll snabbt? 
2. Utveckla en tidslinje.Hur snabbt kan du utforska, utvärdera och implementera dina AI-lösningar? Vilka team i dina organisationer behöver godkänna detta? Vad kostar det om det går för långsamt?
3. Avgör vad som är viktigt för dig.Olika AI-verktyg har olika fördelar och nackdelar samt frågor att ställa till leverantörerna som du utvärderar. Vilka funktioner ingår i tjänsterna och hur överensstämmer de med dina mål?

Utöver dessa frågor är det viktigt att undersöka hur en leverantör hanterar AI-säkerhet samt deras integritetsåtgärder för att implementera och använda generativ AI. Vi rekommenderar också organisationer och deras slutanvändare att utforska hur data samlas in och används för att driva AI-verktygen som de vill implementera.

Till att börja med är det viktigt att förstå de olika funktionsområdena för AI-säkerhet. AI-säkerhet är grundläggande och utgör en distinkt aspekt av distributionen och skyddet av AI-system, men specifikt gäller att:

• AI-säkerhet är fokuserad på att skydda konfidentialitet, integritet och tillgänglighet för data som används i AI-modeller och -system.
• AI-säkerhet involverar bredare överväganden relaterade till robusthet och tillförlitlighet, etiska implikationer, långsiktiga samhälleliga, ekonomiska och miljömässiga effekter och effekter på mänskliga rättigheter och värderingar.

För att ta itu med några av säkerhetsutmaningarna som uppstår i och med AI-integreringarna (det vill säga behovet att säkra AI-modeller, datauppsättningar och utbildningsmiljöer), finns det ett antal riktlinjer, standarder och ramverk på gång från respekterade institutioner som National Institute of Standards and Technology (NIST, the National Cyber Security Centre (NCSC) och, gemensamt: the International Organization for Standardization (ISO) och the International Electrotechnical Commission (IEC). Vår metod för AI-säkerhet överensstämmer med dessa branschstandarder och ledande praxis och är utformade för att bevara våra användares förtroende och tillit genom att fokusera på att minska nya hot. 

Vårt åtagande för AI-säkerhet integreras även i hela Zoom Secure Development Lifecycle (ZSDLC), som omfattar säker hantering av leverantörskedjan, modellträning, säker utformning, säker utveckling, säker drift och medarbetarutbildning. Vi inkorporerar AI-överväganden i våra GRC-policyer (Governance, Risk, Compliance) och riskramverk, och har även säkerhetstester och forskning som utförs av vårt team för försäkran om säkerhet.

Vår metod för AI-säkerhet börjar med de modeller och data vi använder för att bygga våra tjänster. För modeller från Zoom validerar och hanterar vi våra träningsdata, och när vi väljer leverantörer från tredje part utvärderar vi deras säkerhetsprocedurer för att se till att de överensstämmer med vår strävan. Våra utvärderingar innefattar tester av modeller mot standardsäkerhetsvärden, för att validera vanliga problem som kan uppstå vid modellträning. 

Kontoägare och administratörer har kontroller för att hantera tillgängligheten för AI-funktioner för deras konton, inklusive kotroller på användar- och gruppnivå som tillhandahåller alternativ för implementering. Dessa alternativ innefattar, om tillämpligt, att låta människor granska utmatningar innan de delas vidare. När du använder mötesfunktioner i Zoom Workplace (vår öppna samarbetsplattform med AI Companion) talar dessutom den gnistrande ikonen om att AI är aktiverat och används för att hjälpa till att tillhandahålla transparens för kunder och deltagare. 

Här är tre olika sätt som vi hanterar AI-säkerhet på Zoom:

1. Skydd av Zooms AI-produkter och -tjänster som använder generativ AI – som Zoom AI Companion och Zoom Contact Center Expert Assist – och de underliggande modellerna som stödjer dem.
2. Utnyttjar AI genom hela vårt säkerhetsprogram och alla våra säkerhetsrutiner för att ligga steget för nya hot.
3. Säkrar Zooms interna användning av AI.

På Zoom har vi en federerad AI-metod, vilket innebär att vi tillämpar de bästa storskaliga språkmodellerna för en specifik uppgift, inklusive AI-modeller från tredje part som kunder redan är bekanta med. Kunder kan välja vilka funktioner de använder och huruvida de endast vill använda modeller från Zoom, som även finns tillgängliga för utvalda funktioner. Detta ger administratörer mer kontroll över vad som finns tillgängligt inom deras organisation.

I linje med vårt åtagande för ansvarsfull AI använder Zoom inte ljud, video, chatt, skärmdelning, bilagor eller annat kommunikationsliknande kundinnehåll (som omröstningsresultat, whiteboard och reaktioner) från kunden för att träna Zooms eller tredje parters modeller för artificiell intelligens. Om du vill ha mer information om hur Zoom AI Companion hanterar dina data kan du besöka vår supportsida.

Denna inledande diskussion skrapar bara lite på ytan av AI-säkerhet, men under de kommande månaderna kommer vi att dela fler detaljer om hur vi maximerar våra ansträngningar under den globala omställningen till AI. Vi anser att AI är ett fantastiskt sätt att förbättra vårt sätt att arbeta och att detta bara är början. När vi fortsätter att släppa nya funktioner för AI Companion och Zoom Workplace kan du lita på att AI-säkerhet är högsta prioritet i vår utvecklingsprocess. 

Om du vill veta mer om Zooms metod för integritet och säkerhet kan du vara med på vårt kommande webbinarium, som heter Zoom’s Approach to AI Privacy and Security, den 26 september 2024.