Pengantar keselamatan dan keamanan AI

Kecerdasan buatan telah menjadi hal yang umum dan membantu kita mencapai efisiensi baru melalui teknologi. Hal ini membuat keunggulan AI tampak hampir tidak terbatas, memberikan ruang bagi imajinasi kita untuk menata ulang apa yang mungkin terjadi. 

Meskipun menyenangkan untuk memimpikan ide hebat berikutnya, menerapkan solusi AI baru membutuhkan komitmen yang kuat terhadap keamanan dan perlindungan data yang mendasarinya. Kami memulai seri baru di blog Zoom, di mana kami akan membahas cara dan alasan Anda harus menerapkan AI generatif dengan aman dan apa yang dilakukan Zoom untuk menciptakan lingkungan AI yang aman dan terlindungi bagi pelanggan kami.

AI dapat digunakan untuk berbagai tujuan, dan AI generatif memberi Anda alat untuk menghasilkan konten baru, termasuk gambar, kata, suara, video, dan data melalui beberapa input dan output ke model AI. Terkadang disebut sebagai GenAI, AI generatif melampaui apa yang mungkin dilakukan oleh manusia dan menggunakan berbagai algoritma AI dan pembelajaran mesin untuk memberikan hasil instan ketika diminta. Sebagai gantinya, orang-orang dapat mempercepat pekerjaan mereka dan menghemat waktu yang berharga dengan alat bantu AI generatif untuk tugas seperti menyusun ringkasan rapat, mencari gambar, atau mengatasi kebuntuan penulisan dengan bantuan penulisan naskah. 

Solusi AI generatif bisa sangat berharga bagi pengguna akhir, membebaskan waktu untuk fokus pada pekerjaan yang lebih bermakna. Namun, sebelum memilih alat bantu AI mana yang akan diterapkan dalam alur kerja Anda, penting untuk mempertimbangkan beberapa hal.

1. Tentukan dan buatlah garis besar masalah yang ingin Anda selesaikan. Apakah Anda mencoba meningkatkan layanan pelanggan? Menyederhanakan tugas berulang? Menilai tren baru? Menerjemahkan dan melokalkan konten dengan cepat? 
2. Buat linimasa. Seberapa cepat Anda dapat mempelajari, mengevaluasi, dan menerapkan opsi AI Anda? Tim mana dalam organisasi Anda yang perlu menandatangani? Apa akibatnya jika bergerak terlalu lambat?
3. Tentukan apa yang penting bagi Anda.Alat bantu AI yang berbeda memiliki manfaat, kekurangan, dan pertanyaan yang berbeda pula untuk ditanyakan kepada vendor yang Anda evaluasi. Fitur apa saja yang disertakan dalam layanan dan bagaimana fitur tersebut selaras dengan tujuan Anda?

Selain pertanyaan tersebut, penting untuk meneliti bagaimana vendor menangani keselamatan dan keamanan AI, serta langkah privasi mereka dalam menerapkan dan menggunakan AI generatif. Kami juga merekomendasikan organisasi dan pengguna akhir mereka untuk mempelajari bagaimana data dikumpulkan dan digunakan untuk mendukung alat AI yang ingin mereka terapkan.

Pertama-tama, penting untuk mengetahui bagaimana keselamatan AI jika dibandingkan dengan keamanan AI. Keamanan dan keselamatan AI merupakan aspek mendasar, tetapi berbeda dari penerapan dan perlindungan sistem AI Namun, secara spesifik:

• Keamanan AI fokus pada perlindungan kerahasiaan, integritas, dan ketersediaan data yang digunakan dalam model dan sistem AI.
• Keselamatan AI mencakup pertimbangan yang lebih luas terkait dengan ketahanan dan keandalan, implikasi etika, dampak sosial, ekonomi, dan lingkungan jangka panjang, serta dampak pada hak asasi manusia dan nilai-nilai.

Untuk mengatasi beberapa tantangan keamanan yang muncul pada integrasi AI (yaitu kebutuhan untuk melindungi model AI, kumpulan data, dan lingkungan pelatihan), terdapat sejumlah pedoman, standar, dan kerangka kerja yang muncul dari lembaga yang dihormati seperti National Institute of Standards and Technology (NIST), National Cyber Security Centre (NCSC), dan secara bersama-sama: International Organization for Standardization (ISO) dan International Electrotechnical Commission (IEC). Pendekatan kami terhadap keamanan AI selaras dengan standar industri dan praktik terdepan, serta dirancang untuk menjaga kepercayaan dan keyakinan pengguna dengan berfokus pada mitigasi ancaman yang muncul. 

Komitmen kami terhadap keamanan AI juga terintegrasi di seluruh Zoom Secure Development Lifecycle (ZSDLC), yang mencakup manajemen rantai pasokan yang aman, pelatihan model, desain yang aman, pengembangan yang aman, operasi yang aman, dan pelatihan karyawan. Kami memasukkan pertimbangan AI ke dalam kebijakan GRC (Tata Kelola, Risiko, dan Kepatuhan) dan kerangka kerja risiko kami, dan juga termasuk pengujian dan penelitian keamanan yang dilakukan oleh tim Jaminan Keamanan kami.

Pendekatan kami terhadap keamanan AI dimulai dari model dan data yang kami gunakan untuk membangun layanan kami. Untuk model yang dihosting di Zoom, kami memvalidasi dan mengelola data pelatihan, dan ketika memilih vendor pihak ketiga, kami mengevaluasi prosedur keamanan mereka untuk memastikan bahwa prosedur tersebut selaras dengan misi kami. Evaluasi kami meliputi pengujian model terhadap metrik keselamatan standar untuk memvalidasi masalah umum yang dapat terjadi melalui pelatihan model. 

Pemilik akun dan admin memiliki kontrol untuk mengelola ketersediaan fitur AI untuk akun mereka, termasuk kontrol tingkat pengguna dan grup yang menyediakan opsi untuk penerapan. Opsi ini termasuk, jika sesuai, memungkinkan peninjauan output oleh manusia sebelum dibagikan secara lebih luas. Selain itu, ketika menggunakan fitur rapat dalam Zoom Workplace (platform kolaborasi terbuka kami dengan AI Companion), ikon kilau akan memberi tahu Anda bahwa AI telah diaktifkan dan digunakan untuk membantu memberikan transparansi kepada pelanggan dan peserta. 

Berikut ini adalah tiga cara berbeda yang kami gunakan untuk melakukan pendekatan terhadap keamanan dan keselamatan AI di Zoom:

1. Perlindungan produk dan layanan Zoom yang menggunakan AI generatif – seperti Zoom AI Companion dan Zoom Contact Center Expert Assist – dan model dasar yang mendukungnya.
2. Memanfaatkan AI di seluruh program dan praktik keamanan kami untuk tetap menjadi yang terdepan dalam menghadapi ancaman yang terus berkembang.
3. Mengamankan penggunaan AI internal Zoom.

Di Zoom, kami menggunakan pendekatan terpadu untuk AI, yang berarti kami menerapkan model bahasa besar terbaik untuk tugas tertentu, termasuk model AI pihak ketiga yang sudah dikenal pelanggan. Pelanggan dapat memilih fitur mana yang mereka gunakan dan apakah mereka ingin menggunakan model yang dihosting Zoom saja, yang tersedia untuk fitur tertentu. Hal ini memberikan kontrol lebih besar kepada administrator atas apa yang tersedia di dalam organisasi mereka.

Sejalan dengan komitmen kami terhadap AI yang bertanggung jawab, Zoom tidak menggunakan audio, video, obrolan, berbagi layar, lampiran, atau komunikasi lain seperti konten pelanggan (seperti hasil polling, papan tulis, dan reaksi) untuk melatih model kecerdasan buatan Zoom atau pihak ketiga. Untuk informasi lebih lanjut tentang bagaimana Zoom AI Companion menangani data pelanggan, kunjungi halaman dukungan kami.

Meskipun diskusi awal tentang keselamatan dan keamanan AI ini baru permulaan, dalam beberapa bulan mendatang, kami akan membagikan lebih banyak detail tentang bagaimana kami memaksimalkan upaya kami selama pergeseran global menuju AI. Kami percaya bahwa AI adalah cara luar biasa untuk meningkatkan cara kita bekerja dan bahwa ini baru permulaan. Seiring dengan dirilisnya fitur baru untuk AI Companion dan Zoom Workplace, yakinlah bahwa keselamatan dan keamanan AI adalah prioritas utama dalam proses pengembangan kami. 

Jika Anda ingin mempelajari lebih lanjut tentang pendekatan Zoom terhadap privasi dan keamanan, bergabunglah bersama kami di webinar mendatang berjudul Pendekatan Zoom terhadap Privasi dan Keamanan AI pada tanggal 26 September 2024.