Takım arkadaşı olarak AI agent'lar
Bir agent'a rol adı ve hedef vermek onu güvenilir bir ekip arkadaşı yapmaz. Agent, hedefe doğru birden fazla adım atabiliyor ve araç kullanabiliyorsa; rol belirsizliği artık yalnızca kötü çıktı değil, gerçek eylem riski üretir.
Teammate benzetmesinin sınırı
Agent'ı takım arkadaşı gibi düşünmek rol, hizmet beklentisi ve handoff tasarlamayı kolaylaştırır. Bu benzetme agent'a kişilik, eşit statü veya insanla aynı hesap verebilirliği vermez.
Agent rol kartının yedi parçası
‘Araştırma yap’ bir rol tanımı değildir. Aşağıdaki sınırlar birlikte görünür olmalıdır.
Amaç
Agent hangi sonucu destekler; başarı neye göre anlaşılır?
Bağlam
Hangi bilgiye ihtiyaç duyar ve bilginin güncelliğini nasıl anlar?
Araçlar
Hangi sistemleri okuyabilir veya kullanabilir?
Yetki
Yalnızca önerebilir mi; kayıt oluşturabilir, değiştirebilir veya gönderebilir mi?
Kısıtlar
Hangi veriye, kullanıcıya veya eyleme erişemez?
Handoff
İnsana ne zaman, hangi bağlamla ve hangi seçeneklerle devreder?
Hata davranışı
Belirsizlikte durur mu, güvenli fallback kullanır mı, olay kaydı bırakır mı?
Rol tasarımı vakası
Pazar araştırması yapan agent
Bir agent, iç dokümanları ve dış kaynakları tarayarak yeni pazar için öneri hazırlayacak. Ekip hızlı bir tavsiye istiyor; ancak bazı iç belgeler hassas, dış veriler çelişkili ve yatırım kararı geri alınması pahalı.
Agent nerede durmalı?
Agent izinli kaynaklardan kanıt toplayabilir, çelişkileri gösterebilir ve seçenekler önerebilir. Hassas erişim ayrı yetki ister; kaynak belirsizliği görünür kalır. Yatırım kararını uygulamaz ve adlandırılmış bir insan, kanıt ve trade-off'larla handoff'u devralır.
İyi delegasyonun dört özelliği
Dar ama anlamlı görev
Agent'ın sahip olduğu alan sonuçla bağlantılı, fakat sınırsız olmayacak kadar nettir.
En az yetki
Araç ve veri izinleri görevin gerektirdiği minimum kapsamda verilir.
Bağlamlı handoff
Agent yalnızca ‘yapamadım’ demez; denediğini, kanıtı ve gereken insan kararını aktarır.
Gözlenebilir çalışma
Eylemler, kaynaklar, hata ve müdahale noktaları sonradan incelenebilir.
Yanlış inanış
“Rolü ve hedefi olan agent, yetenekli bir çalışan gibi yönetilebilir.”
Agent niyet, sosyal muhakeme ve kurumsal sorumluluk taşımaz. Performansı; net sınırlar, erişim kontrolü, değerlendirmeler, gözlem ve insan sahipliğiyle yönetilir.
Kendini test et
Ekibine bir agent katılsa, hangi tek eylemi insan onayı olmadan yapmasına izin vermezdin ve hangi sinyalde handoff isterdin?
Cevabını unvanla değil; sonuç, izin, risk ve geri alınabilirlikle gerekçelendir.
Aklında kalsın
Agent'ı takım arkadaşı gibi tasarla; fakat yetkiyi, gözlemi ve hesap verebilirliği insan organizasyonunun içinde tut.