Un'introduzione alla sicurezza e alla protezione dell'IA

L'intelligenza artificiale è protagonista della scena principale e ci ha aiutato a raggiungere nuovi traguardi di efficienza attraverso la tecnologia. In questo modo sembra che i vantaggi dell'IA siano praticamente illimitati, consentendo alla nostra immaginazione tutto lo spazio necessario per reinventare ciò che è possibile. 

Sebbene sia divertente sognare la prossima grande idea, l'implementazione di una nuova soluzione di IA richiede un impegno serio nei confronti della sicurezza e della protezione dei dati su cui si basa. Stiamo dando il via a una nuova serie sul Blog di Zoom, in cui spiegheremo come e perché dovresti implementare l'IA generativa in modo sicuro e come sta agendo Zoom per creare un ambiente di IA sicuro e protetto per i nostri clienti.

L'IA può essere utile a molti scopi diversi e l'IA generativa offre applicativi per generare nuovi contenuti, tra cui immagini, parole, suoni, video e dati attraverso diversi input e output per i modelli di IA. A volte chiamata GenAI, l'IA generativa va oltre ciò che è umanamente possibile e utilizza vari algoritmi di IA e apprendimento automatico per fornire risultati immediati quando richiesto. In cambio, le persone possono accelerare il proprio lavoro e risparmiare tempo prezioso con applicativi di IA generativa per attività come la stesura di riepiloghi delle riunioni, il reperimento di immagini o il superamento del blocco dello scrittore con l'assistenza al copywriting. 

Le soluzioni di IA generativa possono essere preziose per l'utente finale, permettendogli di avere più tempo per concentrarsi sul lavoro più espressivo. Ma prima di scegliere quali applicativi di IA implementare nei tuoi flussi di lavoro, è importante considerare alcuni aspetti.

1. Determina e delinea quali sono i problemi che vuoi risolvere. Stai cercando di migliorare il servizio clienti? Semplificare le attività ripetitive? Valutare le nuove tendenze? Tradurre e localizzare rapidamente i contenuti? 
2. Crea una tempistica.A quale velocità sei in grado di esplorare, valutare e implementare le tue opzioni di IA? Quali sono i team della tua organizzazione che devono approvare? Qual è il costo di un passaggio troppo lento?
3. Decidi cosa è importante per te.Diversi applicativi di IA presentano vantaggi, svantaggi e domande diverse da porre ai fornitori che stai prendendo in considerazione. Quali funzionalità sono incluse nei loro servizi e in che modo si allineano ai tuoi obiettivi?

Oltre a queste domande, è importante ricercare il modo in cui un fornitore gestisce la sicurezza e la protezione dell'IA e conoscere le sue misure in materia di privacy per l'implementazione e per l'utilizzo dell'IA generativa. Consigliamo inoltre alle organizzazioni e ai loro utenti finali di approfondire il modo in cui i dati vengono raccolti e utilizzati per alimentare gli applicativi di IA che desiderano implementare.

Per iniziare, è importante sapere come mettere a confronto la sicurezza dell'IA con la protezione dell'IA. La sicurezza e la protezione dell'IA sono aspetti fondamentali ma distinti dell'implementazione e della protezione dei sistemi di IA, ma nello specifico:

• La protezione dell'IA si concentra sulla salvaguardia della riservatezza, dell'integrità e della disponibilità dei dati utilizzati nei modelli e nei sistemi di IA.
• La sicurezza dell'IA implica considerazioni più ampie relative alla robustezza e all'affidabilità, alle implicazioni etiche, agli impatti sociali, economici e ambientali a lungo termine, oltre che agli effetti sui diritti e sui valori umani.

Per superare alcune delle sfide alla sicurezza che emergono con le integrazioni dell'IA (in particolare la necessità di salvaguardare i modelli, i set di dati e gli ambienti di addestramento dell'IA), esistono una serie di linee guida, standard e framework emergenti di istituzioni stimate come il National Institute of Standards and Technology (NIST), il National Cyber Security Centre (NCSC) e, congiuntamente, l'Organizzazione internazionale per la standardizzazione (ISO) e la Commissione elettrotecnica internazionale (IEC). Il nostro approccio alla sicurezza dell'IA è in linea con tali standard di settore e con le prassi più avanzate ed è progettato per preservare la fiducia dei nostri utenti concentrandosi sulla mitigazione delle minacce emergenti. 

Il nostro impegno per la sicurezza dell'IA è integrato anche nell'intero ciclo di vita dello sviluppo sicuro di Zoom (ZSDLC), che comprende la gestione sicura della catena di approvvigionamento, l'addestramento dei modelli, la progettazione sicura, lo sviluppo sicuro, il funzionamento sicuro e la formazione dei dipendenti. Stiamo integrando considerazioni sull'IA nelle nostre politiche GRC (Governance, Risk, and Compliance) e nel framework di rischio, includendo anche test e ricerche di sicurezza condotti dal nostro team di garanzia della sicurezza.

Il nostro approccio alla sicurezza dell'IA inizia con i modelli e con i dati che utilizziamo per strutturare i nostri servizi. Per i modelli ospitati su Zoom, convalidiamo e gestiamo i nostri dati di addestramento e, quando selezioniamo fornitori di terze parti, valutiamo le loro procedure di sicurezza per assicurarci che siano in linea con la nostra mission. Le nostre valutazioni includono il test dei modelli rispetto alle metriche di sicurezza standard per convalidare i problemi comuni che possono verificarsi durante l'addestramento dei modelli. 

I titolari e gli amministratori degli account hanno i controlli per gestire la disponibilità delle funzionalità di IA per i propri account, inclusi i controlli a livello di utente e di gruppo che forniscono opzioni per l'implementazione. Queste opzioni includono, nei casi di necessità, la possibilità di una revisione umana dei risultati prima di una condivisone più ampia. Inoltre, quando si utilizzano le funzionalità in riunione all'interno di Zoom Workplace (la nostra piattaforma di collaborazione aperta con AI Companion), l'icona a forma di scintilla ti avvisa che l'IA è abilitata e in uso per garantire trasparenza a clienti e partecipanti. 

Ecco tre diversi modi in cui affrontiamo la sicurezza dell'IA in Zoom:

1. Protezione dei prodotti e dei servizi di IA di Zoom che utilizzano l'IA generativa, come Zoom AI Companion e Zoom Contact Center Expert Assist e dei modelli sottostanti che li supportano.
2. Uso dell'IA in tutto il nostro programma e nelle nostre pratiche di sicurezza per stare al passo con le minacce in evoluzione.
3. Garanzia dell'uso interno dell'IA da parte di Zoom.

Noi di Zoom adottiamo un approccio federato all'IA, il che significa che applichiamo i migliori modelli di linguaggio di grandi dimensioni per un'attività specifica, inclusi i modelli di IA di terze parti che i clienti conoscono già. I clienti possono scegliere quali funzionalità utilizzare e se desiderano utilizzare solo i modelli ospitati su Zoom, che sono disponibili con funzionalità selezionate. In questo modo gli amministratori hanno un maggiore controllo su ciò che è disponibile all'interno dell'organizzazione.

In linea con il nostro impegno verso un'IA responsabile, Zoom non utilizza audio, video, chat, condivisione schermo, allegati o altre comunicazioni dei clienti come i contenuti dei clienti (quali risultati dei sondaggi, lavagne e reazioni) per addestrare i modelli di IA di Zoom o di terze parti. Per ulteriori informazioni su come Zoom AI Companion gestisce i dati dei clienti, consulta la nostra pagina di assistenza.

Mentre questa discussione iniziale sulla sicurezza dell'IA rappresenta soltanto la punta dell'iceberg, nei prossimi mesi forniremo maggiori dettagli su come stiamo ottimizzando il nostro impegno verso il passaggio globale all'IA. Crediamo che l'IA rappresenti una modalità incredibile per migliorare le nostre abitudini lavorative e che questo sia solo l'inizio. Noi nel frattempo proseguiamo a rilasciare nuove funzionalità per AI Companion e Zoom Workplace, dato che la sicurezza e la protezione dell'IA sono in prima linea nel nostro processo di sviluppo. 

Se vuoi avere maggiori informazioni sull'approccio di Zoom alla privacy e alla sicurezza, partecipa al nostro prossimo webinar, intitolato L'approccio di Zoom alla privacy e alla sicurezza dell'IA, il 26 settembre 2024.