Kurumda yapay zekâyı güvenli kullanmak
Yapay zekâ araçlarında veri sızıntısını, istem enjeksiyonunu ve fazla araç yetkisini önler, kuruma uygun bir kullanım politikası hazırlarsın.
Seviye 201 · 21 ders · 18 pratik lab
Dersler
Yapay zekâyı tanımak
- Üretken yapay zekâ nasıl çalışır: kısa ve sade: Dil modellerinin metni nasıl ürettiğini ve neden bazen kendinden emin biçimde yanıldığını sade bir benzetmeyle açıklayabilirsin.
- Kurumda yapay zekâ kullanım biçimleri: sohbet, asistan, ajan: Sohbet aracı, gömülü asistan ve kendi başına işlem yapan ajan arasındaki risk farkını ayırt edebilirsin.
- Yapay zekâ riskleri haritası: Gizlilik, doğruluk, güvenlik, telif ve önyargı risklerini tek bir haritada toplayıp kurumuna göre önceliklendirebilirsin.
- Kısa görev: bir ekibin yapay zekâ kullanım envanteri
Veri ve gizlilik
- İstemlerle veri sızıntısı: ne yazılmaz: Müşteri, personel, kaynak kod ve gizli belge gibi verilerin istemlere girmesini önleyen kuralları uygulayabilirsin.
- Veri sınıfına göre hangi araca izin var: Kurumun veri sınıflarını onaylı yapay zekâ araçlarıyla eşleyen basit bir izin tablosu hazırlayabilirsin.
- Sağlayıcı koşulları: veri saklama, eğitimde kullanım, bölge: Bir yapay zekâ hizmetinin sözleşmesinde verinin saklanması, model eğitiminde kullanılması ve işlendiği yer maddelerini denetleyebilirsin.
- Gölge yapay zekâ: onaysız araçları fark etmek: Çalışanların izinsiz kullandığı yapay zekâ araçlarını fark eder, yasaklamak yerine güvenli bir alternatif sunabilirsin.
- Kısa görev: istemdeki hassas veriyi ayıkla
Model ve ajan riskleri
- İstem enjeksiyonu: gizli talimatlar ve korunma: Belge, e-posta ya da web sayfasına gizlenmiş talimatların asistanı nasıl yönlendirebileceğini anlar, sınırlayıcı önlemleri seçersin.
- Uydurma çıktılar ve doğrulama alışkanlığı: Yapay zekânın verdiği bilgi, kaynak ve hesapları önemli kararlardan önce bağımsız olarak doğrulayabilirsin.
- Ajan ve araç yetkileri: en az yetki, insan onayı: Bir yapay zekâ ajanına yalnızca gereken erişimi verir, geri dönüşü olmayan işlemler için insan onayı koyabilirsin.
- Yapay zekânın yazdığı kodu güvenle kullanmak: Yapay zekânın önerdiği kodu ve paketleri gözden geçirme, test ve lisans denetiminden geçirmeden kullanmazsın.
- Yapay zekâ destekli dolandırıcılığa karşı süreç önlemleri: Sahte ses ve görüntüye karşı geri arama, çift onay ve kod sözcük gibi süreç önlemlerini tasarlayabilirsin.
- Kısa görev: gizli talimatlı belgeyi incele
Yönetişim ve politika
- Düzenlemeler ve standartlar: AB Yapay Zekâ Yasası, NIST AI RMF, ISO/IEC 42001: Yapay zekâ kullanımını düzenleyen başlıca yasa ve standartların kuruma hangi yükümlülükleri getirdiğini özetleyebilirsin.
- OWASP LLM Top 10 ile risk gözden geçirmesi: Kurumdaki bir yapay zekâ uygulamasını OWASP LLM listesine göre gözden geçirip eksik önlemleri belirleyebilirsin.
- Yeni bir yapay zekâ aracını onaylama süreci: Bir yapay zekâ aracı için güvenlik, gizlilik ve hukuk sorularını içeren onay sürecini yürütebilirsin.
- Yapay zekâ kullanım politikasının bölümleri: İzinli araçlar, yasak veri, doğrulama, sorumluluk ve bildirim bölümlerinden oluşan bir politika iskeleti kurabilirsin.
- Yapay zekâ kullanımını kaydetmek ve izlemek: Yapay zekâ araçlarındaki kullanımı gizliliğe saygılı biçimde kayda geçirip olağan dışı durumları fark edebilirsin.
- Bitirme görevi: bir departmanın yapay zekâ kullanımını değerlendir: Kurgusal bir pazarlama ekibinin yapay zekâ araçlarını, veri akışlarını ve risklerini inceleyip öneri raporu yazarsın.
Pratik lablar
- Yapay zekâ kullanım türünü ayır: On iki iş örneğini sohbet, yardımcı ya da kendi başına iş yapan ajan kullanımı olarak sınıflandır.
- Ekibin yapay zekâ envanterini çıkar: Bir pazarlama ekibinin anket yanıtlarından araç, amaç, veri türü ve onay durumunu içeren kullanım envanteri oluştur.
- Kullanımı risk haritasına yerleştir: Göktaşı Yazılım'ın on yapay zekâ kullanımını veri sızıntısı, yanlış çıktı, yetki ve hukuki risk başlıklarında değerlendirip en riskli üçünü seç.
- İstemde olmaması gerekeni işaretle: Altı örnek istemde kişisel veri, parola, müşteri adı ve ticari sır içeren kısımları işaretle.
- İstemi hassas veriden arındır: Müşteri şikâyeti içeren bir istemi, işe yarar kalacak biçimde kişisel ve gizli bilgilerden arındırarak yeniden yaz.
- Günlükten sızan veriyi ayıkla: Hata ayıklama için paylaşılacak iki yüz satırlık bir uygulama günlüğünde anahtarları, e-postaları ve iç adresleri bulup maskele.
- Veri sınıfına izinli aracı eşle: Verilen izin tablosuna göre on iş için hangi aracın kullanılabileceğini ya da hiçbirinin kullanılamayacağını yaz.
- Sağlayıcı koşullarını oku: Üç kurgusal yapay zekâ hizmetinin koşul özetlerinden saklama süresi, eğitimde kullanım ve veri bölgesi karşılaştırma tablosu çıkar.
- Gölge yapay zekâyı kayıtlardan bul: Bir vekil sunucu günlüğü ile masraf dökümünden onaysız yapay zekâ araçlarını, kullanan birimleri ve veri hacmini raporla.
- Gizli talimatı bul: Bir belgedeki beyaz yazı, yorum ve üst veri alanlarına gizlenmiş talimatları bul.
- Uydurma çıktıyı doğrula: Yapay zekânın yazdığı bir özet rapordaki on iddiayı kaynak belgeyle karşılaştırıp doğru, yanlış ve kaynağı olmayanları işaretle.
- Özetleme akışına koruma tasarla: Gelen e-postaları özetleyen bir yardımcının gizli talimatlardan etkilenmemesi için girdi, yetki ve çıktı aşamalarında alınacak önlemleri yaz.
- Ajan izinlerini azalt: Bir takvim yardımcısına verilmiş on izinden görev için gerekli olmayanları işaretle.
- Yapay zekâ kodunu gözden geçir: Yapay zekânın yazdığı kısa bir betikte gömülü parola, doğrulanmamış girdi ve var olmayan paketi bulup düzeltme öner.
- İnsan onayı noktalarını belirle: Fatura işleyen bir ajanın iş akışında ödeme, tedarikçi değişikliği ve dışarıya e-posta adımları için onay kurallarını ve sınırlarını yaz.
- Politika maddesini başlığına koy: On beş kuralı yapay zekâ kabul edilebilir kullanım politikasının kapsam, izinli kullanım, yasak veri ve sorumluluk başlıklarına yerleştir.
- Yeni aracı onay formuyla değerlendir: Bir toplantı notu aracının başvurusunu veri, sağlayıcı, erişim ve kayıt ölçütlerine göre değerlendirip onay, koşullu onay ya da ret kararı ver.
- Birimin yapay zekâ kullanımını değerlendir: Yelkovan Bankası müşteri hizmetleri biriminin kullanım kayıtlarını politika ve büyük dil modeli riskleri listesine göre değerlendirip bulgu raporu yaz.
Kurs hakkında
Yapay zekâ araçlarında veri sızıntısını, istem enjeksiyonunu ve fazla araç yetkisini önler, kuruma uygun bir kullanım politikası hazırlarsın.
Ne öğreneceksin
- Yapay zekâyı tanımak
- Veri ve gizlilik
- Model ve ajan riskleri
- Yönetişim ve politika
Ön koşullar
Aynı yolun 101 düzeyindeki kurslarını bitirmiş olmak ya da o konuları biliyor olmak yeterlidir.
Lab ortamı
Dersler, tarayıcında açılan sana özel bir Kali Linux terminalinde geçer. Kurulum gerekmez; lab her derste temiz başlar.
Sık sorulan sorular
- Bu kurs benim düzeyime uygun mu?
- Kurs 201 düzeyindedir; daha düşük düzeydeki kursların konularını bildiğin varsayılır.
- Kurulum gerekir mi?
- Hayır. Her ders tarayıcında açılan sana özel bir lab ortamında geçer.
- Dersler nasıl işleniyor?
- Her ders 8 ile 10 adımdan ve bir kısa sınavdan oluşur. İlk adımlarda yazman gereken komut gösterilir, sonraki adımlarda yardım azalır; iki denemede takılırsan çözüm açılır.
- Ücretsiz deneyebilir miyim?
- Evet. Her kursun ilk üç dersi ücretsizdir.