Yapay zeka emniyeti ve güvenliğine giriş

Yapay zeka artık hayatın içine girerek teknoloji sayesinde verimlilikte yeni zirvelere ulaşmamıza yardımcı olmaktadır. Bu durum yapay zekanın avantajlarının neredeyse sınırsız görünmesine neden olurken, hayal gücümüze nelerin mümkün olduğunu yeniden tasarlamak için de geniş bir alan sağlıyor. 

Her ne kadar sıradaki o harika fikri düşlemek keyifli olsa da, yeni bir yapay zeka çözümünü uygulamak, güvenlik ve bu çözümü yönlendiren verileri güvence altına alma konusunda güçlü bir kararlılık gerektirir. Üretken yapay zekayı nasıl ve neden güvenli bir şekilde uygulamanız gerektiğini ve Zoom'un müşterilerimiz için güvenli ve emniyetli bir yapay zeka ortamı oluşturmak için neler yaptığını tartışacağımız Zoom blogunda yeni bir seri başlatıyoruz.

Yapay zeka çok farklı amaçlara hizmet edebilir ve üretken yapay zeka, yapay zeka modellerine birden fazla girdi ve çıktı yoluyla görüntüler, kelimeler, sesler, videolar ve veriler dahil olmak üzere yeni içerik oluşturmak için araçlar sunar. Kimi zaman GenAI olarak da adlandırılan üretken yapay zeka, insan eliyle yapılabileceklerin ötesine geçer ve istenildiğinde anında sonuç vermek için çeşitli yapay zeka ve makine öğrenimi algoritmaları kullanır. Bunun karşılığında insanlar, toplantı özetlerinin hazırlanması, görsellerin temin edilmesi veya metin yazarlığı yardımıyla yazma güçlüklerinin üstesinden gelinmesi gibi görevler için üretken yapay zeka araçlarıyla işlerini hızlandırabilir ve zamandan tasarruf edebilirler. 

Son kullanıcı açısından üretken yapay zeka çözümleri paha biçilemez nitelikte olup, daha anlamlı işlere odaklanmak için zaman kazandırabilir. Ancak iş akışlarınızda hangi yapay zeka araçlarını uygulayacağınızı belirlemeden önce birkaç şeyi göz önünde bulundurmanız gerekmektedir.

1. Çözmek istediğiniz sorunları belirleyin ve ana hatlarını çizin. Müşteri hizmetlerini geliştirmeye mi çalışıyorsunuz? Tekrarlayan görevleri basitleştirmek mi istiyorsunuz? Yeni trendleri mi değerlendireceksiniz? İçeriği hızlı bir şekilde çevirip yerelleştirmek mi istiyorsunuz? 
2. Bir zaman çizelgesi oluşturun.Yapay zeka seçeneklerinizi ne kadar hızlı keşfedebilir, değerlendirebilir ve uygulayabilirsiniz? Organizasyonlarınızda hangi ekiplerin onay vermesi gerekiyor? Ağır hareket etmenin maliyeti nedir?
3. Sizin için neyin önemli olduğuna karar verin.Farklı yapay zeka araçlarının çeşitli avantajları, dezavantajları ve değerlendirdiğiniz satıcılara sormanız gereken sorular vardır. Hizmetlerinde hangi özellikler var ve bu özellikler hedeflerinizle nasıl örtüşüyor?

Bu sorulara ek olarak, bir tedarikçinin yapay zeka güvenliği ve emniyetini nasıl ele aldığını ve üretken yapay zekayı uygulamak ve kullanmak için gizlilik önlemlerini araştırmak önemlidir. Ayrıca organizasyonlara ve son kullanıcılarına, uygulamak istedikleri yapay zeka araçlarını güçlendirmek için verilerin nasıl toplandığını ve kullanıldığını araştırmalarını öneriyoruz.

Başlarken öncelikle yapay zeka güvenliğinin yapay zeka emniyetiyle nasıl karşılaştırıldığını bilmek önemlidir. Yapay zeka güvenliği ve emniyeti, yapay zeka modellerinin ve sistemlerinin dağıtımı ve korunmasına yönelik temel ancak birbirinden farklı yönleridir. Fakat özellikle:

• Yapay zeka emniyeti; yapay zeka modelleri ve sistemlerinde kullanılan verilerin gizliliğini, bütünlüğünü ve erişilebilirliğini korumaya odaklanmıştır.
• Yapay zeka güvenliği; sağlamlık ve güvenilirlik, etik sonuçlar, uzun vadeli toplumsal, ekonomik ve çevresel etkiler ve insan hakları ve değerleri üzerindeki etkilerle ilgili daha geniş hususları içerir.

Yapay zeka entegrasyonları ile birlikte ortaya çıkan bazı güvenlik zorluklarının üstesinden gelmek için (örneğin yapay zeka modellerini, veri kümelerini ve eğitim ortamlarını koruma ihtiyacı), Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Ulusal Siber Güvenlik Merkezi (NCSC) ve ortak olarak: Uluslararası Standardizasyon Örgütü (ISO) ve Uluslararası Elektroteknik Komisyonu (IEC) gibi saygın kurumlardan ortaya çıkan bir dizi kılavuz, standart ve çerçeve bulunmaktadır. Yapay zeka güvenliğine yaklaşımımız bu sektör standartları ve önde gelen uygulamalarla uyumlu olmakla birlikte, ortaya çıkan tehditleri azaltmaya odaklanarak kullanıcılarımızın güvenini ve itimadını korumak için tasarlanmıştır. 

Yapay zeka güvenliğine olan bağlılığımız, güvenli tedarik zinciri yönetimi, model eğitimi, güvenli tasarım, güvenli geliştirme, güvenli operasyon ve çalışan eğitimini kapsayan Zoom Güvenli Geliştirme Yaşam Döngüsünün (ZSDLC) tamamına da entegre edilmiştir. Yapay zeka ile ilgili konuları GRC (Yönetişim, Risk ve Uyumluluk) politikalarımıza ve risk çerçevemize dahil ediyor ve ayrıca Güvenlik Güvencesi ekibimiz tarafından yürütülen güvenlik testlerini ve araştırmalarını da bu kapsamda değerlendiriyoruz.

Yapay zeka güvenliğine yaklaşımımız, hizmetlerimizi oluşturmak için kullandığımız modeller ve veriler ile ortaya çıkmaktadır. Zoom tarafından barındırılan modeller için eğitim verilerimizi doğruluyor ve yönetiyoruz. Aynı zamanda üçüncü taraf tedarikçileri seçerken, misyonumuzla uyumlu olduklarından emin olmak için güvenlik prosedürlerini değerlendiriyoruz. Değerlendirmelerimiz, model eğitimi yoluyla ortaya çıkabilecek yaygın sorunları doğrulamak için modellerin standart güvenlik ölçütlerine göre test edilmesini içermektedir. 

Hesap sahipleri ve yöneticiler, dağıtım için seçenekler sunan kullanıcı ve grup düzeyinde kontroller de dahil olmak üzere, hesapları için yapay zeka özelliklerinin kullanılabilirliğini yönetmek için kontrollere sahiptir. Uygun olduğunda bu seçenekler, daha geniş kapsamlı olarak paylaşılmadan önce çıktıların insan tarafından incelenmesine imkan tanımayı da içerir. Ayrıca, Zoom Workplace (AI Companion ile açık iş birliği platformumuz) içindeki toplantı içi özellikleri kullanırken, ışıltı simgesi, müşteriler ve katılımcılar için şeffaflık sağlamaya yardımcı olmak için yapay zekanın etkin ve kullanımda olduğunu size bildirir. 

Zoom'da yapay zeka güvenliği ve emniyetine üç farklı şekilde yaklaşıyoruz:

1. Zoom'un Zoom AI Companion ve Zoom Contact Center Uzman Yardımı gibi üretken yapay zeka kullanan yapay zeka ürün ve hizmetleri ile bunları destekleyen temel modelleri koruyoruz.
2. Sürekli değişen tehditlerin bir adım önünde olmak için güvenlik programımız ve uygulamalarımız boyunca yapay zekadan yararlanıyoruz.
3. Zoom'un dahili yapay zeka kullanımını güvence altına alıyoruz.

Zoom olarak, yapay zeka konusunda birleştirilmiş bir yaklaşım benimsiyoruz. Yani müşterilerin zaten aşina olduğu üçüncü taraf yapay zeka modelleri de dahil olmak üzere, belirli bir görev için en iyi geniş dil modellerini uyguluyoruz. Böylece müşteriler hangi özellikleri kullanacaklarını ve yalnızca belirli özellikler için kullanılabilen ve Zoom tarafından barındırılan modelleri kullanmak isteyip istemediklerini seçebilmektedir. Bu sayede yöneticiler, organizasyonlarında nelerin mevcut olduğu konusunda daha fazla kontrol sahibi olabilmektedir.

Sorumlu yapay zeka kullanımı taahhüdümüz  doğrultusunda müşterilerin sesi, videosu, sohbetleri, ekran paylaşımları ve eklerinin yanı sıra müşteri içeriği (örneğin anket sonuçları, beyaz tahta ve tepkiler) gibi iletişimde kullanılan diğer veriler Zoom tarafından Zoom'un veya üçüncü tarafların yapay zeka modellerini eğitmek için kullanılmaz. Verilerinizin Zoom AI Companion tarafından işlenme şekli hakkında daha fazla bilgi için destek sayfamızı ziyaret edebilirsiniz.

Yapay zeka emniyeti ve güvenliği hakkındaki bu ilk değerlendirme sadece yüzeysel bir başlangıç olsa da, önümüzdeki aylarda küresel yapay zekaya geçiş sürecinde çabalarımızı nasıl en üst düzeye çıkardığımızla ilgili daha fazla ayrıntı aktaracağız. Yapay zekanın çalışma şeklimizi iyileştirmek için inanılmaz bir yol olduğuna ve bunun sadece bir başlangıç olduğuna inanıyoruz. AI Companion ve Zoom Workplace için yeni özellikler yayınlamaya devam ederken, yapay zeka emniyeti ve güvenliğinin geliştirme sürecimizin ön saflarında yer aldığından emin olabilirsiniz. 

Zoom'un gizlilik ve güvenlik yaklaşımı hakkında daha fazla bilgi edinmek istiyorsanız 26 Eylül 2024 tarihinde Zoom'un Yapay Zeka Gizliliği ve Güvenliğine Yaklaşımı başlıklı web seminerimize katılın.