İnsan ve AI arasında karar hakları
‘Son kararı insan verir’ güvenli duyulur fakat tasarım değildir. Hangi insanın, hangi kanıta bakarak, ne zaman onay verdiği ve AI'nın o ana kadar ne yapabildiği belirsizse kontrol yalnızca kâğıt üzerinde kalır.
Kullanılabilir karar modeli
Karar hakları; kimin öneri üretebildiğini, eyleme geçebildiğini, onaylayabildiğini, veto veya durdurma hakkını kullanabildiğini, istisnayı eskale ettiğini ve sonuçtan hesap verdiğini açıklar.
Yetkiyi beş boyutla ayarla
Tek bir ‘insan kontrolü’ kuralı yerine kararın özelliklerine göre farklı sınırlar kur.
Sonucun ağırlığı
Yanlış kararın insan, müşteri, finans veya itibar üzerindeki etkisi nedir?
Belirsizlik
Bağlam ne kadar eksik, yeni veya yoruma açıktır?
Tersine çevrilebilirlik
Eylem düşük maliyetle ve zamanında geri alınabilir mi?
Gözlemlenebilirlik
Hata büyümeden önce fark edilebilir mi?
Zaman baskısı
İnsan onayı güvenlik mi sağlar, yoksa sonucu anlamsızlaştıran bir gecikme mi yaratır?
Karar sınırı vakası
AI hangi harcamayı onaylayabilir?
Bir gider yönetimi agent'ı çalışan harcamalarını kontrol edecek. Küçük tutarlı ve açıkça politika içindeki talepler sık; sıra dışı satıcılar, bölünmüş işlemler ve yüksek tutarlı talepler daha fazla bağlam ve suistimal riski taşıyor.
Yetkiyi nasıl dağıtırsın?
AI bütün talepleri sınıflandırıp gerekçe sunabilir; düşük etkili, geri alınabilir ve iyi gözlemlenen harcamaları tanımlı limitte onaylayabilir. Yüksek tutar, düşük güven, politika dışı durum veya şüpheli örüntü finans sahibine eskale edilir. Harcama politikasından sorumlu insan rolü görünür kalır.
Bir karar sözleşmesinde bulunması gerekenler
Öneri
AI hangi seçenekleri ve gerekçeyi sunabilir?
Eylem
Hangi eşik içinde doğrudan uygulayabilir?
Eskalasyon
Hangi sinyalde durup kime devretmelidir?
Override ve hesap verme
Kim kararı değiştirebilir; sonuç ve politika kalitesini kim sahiplenir?
Yanlış inanış
“Akışta nominal bir insan onaylayıcı varsa hesap verebilirlik çözülmüştür.”
İnsan, yüzlerce öneriyi bağlam ve zaman olmadan onaylıyorsa rubber stamp haline gelir. Gerçek kontrol; bilgi, yetki, zaman ve müdahale kapasitesi ister.
Kendini test et
Bir AI kararını seç: AI önerebilir mi, uygulayabilir mi, ne zaman durmalı ve sonuçtan kim hesap vermeli?
Cevabında en az bir eşik ve bir eskalasyon sinyali kullan.
Aklında kalsın
İnsan-AI yönetişimi ‘insan var mı?’ sorusu değil; doğru yetkinin doğru riskte, doğru kanıtla kullanılıp kullanılmadığı sorusudur.