İnsan ve AI arasında karar hakları
‘Son kararı insan verir’ güvenli duyulur fakat tasarım değildir. Hangi insanın, hangi kanıta bakarak, ne zaman onay verdiği ve AI'nın o ana kadar ne yapabildiği belirsizse kontrol yalnızca kâğıt üzerinde kalır.
Kullanılabilir karar modeli
Karar hakları; kimin öneri üretebildiğini, eyleme geçebildiğini, onaylayabildiğini, veto veya durdurma hakkını kullanabildiğini, istisnayı eskale ettiğini ve sonuçtan hesap verdiğini açıklar.
Karar Hakları Matrisi
Yetkiyi kararın riskine, geri alınabilirliğine ve gözlemlenebilirliğine göre ayarla.
Düşük sonuç riski · kolay geri alınabilir
Yüksek sonuç riski · kolay geri alınabilir
Düşük sonuç riski · zor geri alınabilir
Yüksek sonuç riski · geri almak zor
Yetkiyi beş boyutla ayarla
Tek bir ‘insan kontrolü’ kuralı yerine kararın özelliklerine göre farklı sınırlar kur.
Sonucun ağırlığı
Yanlış kararın insan, müşteri, finans veya itibar üzerindeki etkisi nedir?
Belirsizlik
Bağlam ne kadar eksik, yeni veya yoruma açıktır?
Tersine çevrilebilirlik
Eylem düşük maliyetle ve zamanında geri alınabilir mi?
Gözlemlenebilirlik
Hata büyümeden önce fark edilebilir mi?
Zaman baskısı
İnsan onayı güvenlik mi sağlar, yoksa sonucu anlamsızlaştıran bir gecikme mi yaratır?
Karar sınırı vakası
Gider agent'ı nerede eyleme geçebilir?
Agent; bilinen satıcıdan 450 TL'lik açıkça politika içi talep, politika içindeki 7.500 TL'lik sıra dışı satıcı, limite yakın 28.000 TL'lik talep ve aynı kişiden üç bölünmüş işlem görüyor.
Bir karar sözleşmesinde bulunması gerekenler
Öneri
AI hangi seçenekleri ve gerekçeyi sunabilir?
Eylem
Hangi eşik içinde doğrudan uygulayabilir?
Eskalasyon
Hangi sinyalde durup kime devretmelidir?
Override ve hesap verme
Kim kararı değiştirebilir; sonuç ve politika kalitesini kim sahiplenir?
Yanlış inanış
“Akışta nominal bir insan onaylayıcı varsa hesap verebilirlik çözülmüştür.”
İnsan, yüzlerce öneriyi bağlam ve zaman olmadan onaylıyorsa rubber stamp haline gelir. Gerçek kontrol; bilgi, yetki, zaman ve müdahale kapasitesi ister.
İşine götür
Tek bir AI kararı için Öner / Uygula / Dur / Hesap veren sahip alanlarını doldur.
En az bir eylem eşiği ve bir eskalasyon sinyali kullan; insan sahibini rol adıyla belirt.
Kişisel düşünme alanı · kaydedilmez
Aklında kalsın
İnsan-AI yönetişimi ‘insan var mı?’ sorusu değil; doğru yetkinin doğru riskte, doğru kanıtla kullanılıp kullanılmadığı sorusudur.