Human-in-the-Loop'tan sistem sahipliğine
Bir insanın her AI kararını onaylaması güvenli görünebilir. Fakat yüzlerce kararı bağlam olmadan birkaç saniyede onaylayan kişi kontrol değil, gecikme ve sahte güven üretir.
AgileKoç gözetim modeli
Human in the loop tekil eylemi onaylar; human on the loop akışı sinyaller, örnekleme ve müdahale yetkisiyle gözetir; human above the loop ise sistemin amacını, sınırlarını ve kabul edilebilir riskini sahiplenir. ‘Above the loop’ burada AgileKoç'un öğretim modelidir; evrensel standart bir kategori değildir.
Gözetimi bağlama göre seç
Amaç her eyleme insan eklemek değil, insan muhakemesini en çok değer ürettiği noktaya yerleştirmektir.
In the loop
Yüksek etkili, belirsiz veya geri alınması zor tekil eylemlerde karar öncesi insan onayı.
On the loop
Yüksek hacimli ve gözlemlenebilir akışlarda eşik, örnekleme, alarm ve durdurma yetkisiyle gözetim.
Above the loop
Amaç, politika, risk iştahı, başarı ölçüsü ve sistem sınırlarının insan sahipliği.
Anlamlı yetki
İnsan yalnızca ekranda bulunmaz; bilgiye, zamana ve kararı değiştirme gücüne sahiptir.
Stop kontrolü
Hata birikmeden sistemi yavaşlatacak, sınırlandıracak veya durduracak açık mekanizma.
Gözetim vakası
Günde 600 kusursuz görünen karar
Bir reviewer, AI'nın ürettiği kredi kararlarını günde 600 kez onaylıyor. Metinler ikna edici; kaynak veriye ulaşmak üç ekran sürüyor. Onay oranı %99,7 fakat sonradan bazı müşteri gruplarında hata yoğunlaşıyor.
İnsan kontrolü neden çalışmadı?
Hacim ve arayüz gerçek incelemeyi imkânsızlaştırdı. Daha anlamlı tasarım; riskli örnekleri önceliklendirme, rastgele örnekleme, grup bazlı sapma sinyalleri, tek tıkla kaynak erişimi ve reviewer'ın akışı durdurma yetkisini birleştirir.
Anlamlı gözetimin dört koşulu
Sinyal
İnsan neyin normalden saptığını görebilir.
Bağlam
Kaynak ve gerekçe inceleme anında erişilebilir.
Kapasite
İncelenecek hacim, ayrılan zamanla uyumludur.
Müdahale
Reviewer kararı değiştirebilir, eskale edebilir veya akışı durdurabilir.
Yanlış inanış
“Herhangi bir insan onayı anlamlı gözetim yaratır.”
Otomasyon yanlılığı, review yorgunluğu ve bağlam eksikliği insanı sembolik onaylayıcıya dönüştürebilir. Gözetim tasarımı risk, hacim, geri alınabilirlik ve mevcut sinyallere uymalıdır.
Kendini test et
Bir AI akışında insanı her eylemin içine mi, akışın gözetimine mi, yoksa sistem sınırlarının sahipliğine mi yerleştirirdin?
Kararını sonuç ağırlığı, hacim, geri alınabilirlik ve gözlemlenebilirlikle açıkla.
Aklında kalsın
İnsan gözetimi bir onay kutusu değil; doğru sinyale, gerçek müdahale yetkisine ve sistem sahipliğine dayanan bir çalışma tasarımıdır.