Yapay zekâ yönetişimi: ISO/IEC 42001 ve AB Yapay Zekâ Yasası
Kurumun geliştirdiği ya da işlettiği yapay zekâ sistemlerini AB Yapay Zekâ Yasası’nı ana örnek alarak sınıflandırır; ISO/IEC 42001 yönetim sistemi, etki değerlendirmesi, veri yönetişimi, insan gözetimi ve uygunluk dosyasıyla yönetişime bağlarsın.
Seviye 401 · 19 ders · 15 pratik lab
Dersler
Çerçeveler
- Yapay zekâ yönetişimi neyi kapsar: güvenli kullanımdan sistem yönetişimine
- AB Yapay Zekâ Yasası: yapı, roller ve takvim
- Risk sınıfları: yasak, yüksek riskli, şeffaflık, minimal
- Diğer örnekler: NIST AI RMF, Birleşik Krallık ilkeleri, ulusal stratejiler
- Kısa görev: beş sistemi risk sınıfına yerleştir
ISO/IEC 42001
- ISO/IEC 42001: yapay zekâ yönetim sistemi
- Yapay zekâ politikası, roller ve hedefler
- Yapay zekâ risk ve etki değerlendirmesi süreci
- Ek A kontrolleri ve uygulanabilirlik bildirgesi
- Kısa görev: yapay zekâ kontrolleri için SoA satırları
Yüksek riskli sistem yükümlülükleri
- Yapay zekâ envanteri ve model kartları
- Eğitim verisinin yönetişimi ve kayıt tutma
- Önyargı ve adalet denetimi
- İnsan gözetimi ve itiraz yolu
- Uygunluk değerlendirmesi ve teknik dosya
- Kısa görev: bir model kartı doldur
Yaşam döngüsü
- Yapay zekâ tedarikçisi incelemesi
- Piyasaya sürüldükten sonra izleme ve ciddi olay bildirimi
- Bitirme görevi: bir işe alım yapay zekâsının yönetişim dosyası
Pratik lablar
- Rolü belirle: sağlayıcı mı, uygulayıcı mı: Sekiz senaryoda kuruluşun sağlayıcı, uygulayıcı, ithalatçı ya da dağıtıcı olduğunu belirle.
- Beş sistemi risk sınıfına yerleştir: Beş yapay zekâ sistemini yasaklı, yüksek riskli, şeffaflık yükümlülüklü ya da asgari riskli olarak gerekçesiyle sınıflandır.
- Yükümlülük takvimini çıkar: Yüksek riskli bir sistemin uygulayıcısı için geçerli yükümlülükleri ve yürürlük tarihlerini takvime yerleştir.
- Çerçeveyi niteliğiyle eşle: AB Yapay Zekâ Yasası, NIST AI RMF, ISO/IEC 42001 ve ulusal ilkeleri bağlayıcılık ve kapsamına göre eşle.
- NIST AI RMF işlevlerine yerleştir: On altı faaliyeti yönet, haritala, ölç ve yönlendir işlevlerine yerleştir.
- Çok ülkeli şirket için çerçeve seçimi: Üç bölgede faaliyet gösteren bir şirket için zorunlu ve gönüllü çerçeveleri birleştiren yönetişim yaklaşımını gerekçesiyle yaz.
- Politika maddesini başlığa yerleştir: On beş maddeyi yapay zekâ politikasının ilkeler, roller, hedefler ve yasaklar başlıklarına yerleştir.
- Yapay zekâ kontrolleri için SoA satırı: Sekiz ISO/IEC 42001 Ek A kontrolü için uygulanabilirlik, gerekçe ve durumu yaz.
- Yapay zekâ etki değerlendirmesi: Bir müşteri hizmetleri sohbet robotu için etkilenen grupları, olası zararları, olasılığı ve önlemleri içeren etki değerlendirmesi yaz.
- Yapay zekâ envanterini tamamla: On sistemlik envanterde sahibi, amacı, risk sınıfı ya da sağlayıcısı eksik alanları verilen notlardan doldur.
- Model kartını doldur: Bir kredi ön değerlendirme modelinin teknik notlarından amaç, veri, başarım, sınırlar ve izleme bölümlerini içeren model kartı yaz.
- Eğitim verisi yönetişimini denetle: Bir veri kümesi belgesini kaynak, temsil gücü, etiketleme, kişisel veri ve kayıt tutma gereklerine göre inceleyip eksikleri raporla.
- İnsan gözetimi noktasını belirle: Altı karar sürecinde insanın onay, inceleme ya da itiraz aşamasında nerede devreye gireceğini belirle.
- Yanlılık denetimi yap: Bir işe alım modelinin sonuç tablosundan gruplar arası seçilme oranlarını hesapla ve eşiği aşan farkı raporla.
- İşe alım yapay zekâsı için yönetişim dosyası: Göktaşı Yazılım'ın işe alım aracının hazır belgelerinden teknik dosya dizinini, sağlayıcı incelemesini ve piyasa sonrası izleme planını derle.
Kurs hakkında
Kurumun geliştirdiği ya da işlettiği yapay zekâ sistemlerini AB Yapay Zekâ Yasası’nı ana örnek alarak sınıflandırır; ISO/IEC 42001 yönetim sistemi, etki değerlendirmesi, veri yönetişimi, insan gözetimi ve uygunluk dosyasıyla yönetişime bağlarsın.
Ne öğreneceksin
- Çerçeveler
- ISO/IEC 42001
- Yüksek riskli sistem yükümlülükleri
- Yaşam döngüsü
Ön koşullar
Aynı yolun 301 düzeyine kadar olan konularını uygulamış olmalısın.
Lab ortamı
Dersler, tarayıcında açılan sana özel bir Kali Linux terminalinde geçer. Kurulum gerekmez; lab her derste temiz başlar.
Sık sorulan sorular
- Bu kurs benim düzeyime uygun mu?
- Kurs 401 düzeyindedir; daha düşük düzeydeki kursların konularını bildiğin varsayılır.
- Kurulum gerekir mi?
- Hayır. Her ders tarayıcında açılan sana özel bir lab ortamında geçer.
- Dersler nasıl işleniyor?
- Her ders 8 ile 10 adımdan ve bir kısa sınavdan oluşur. İlk adımlarda yazman gereken komut gösterilir, sonraki adımlarda yardım azalır; iki denemede takılırsan çözüm açılır.
- Ücretsiz deneyebilir miyim?
- Evet. Her kursun ilk üç dersi ücretsizdir.