AI agent, verilen hedef doğrultusunda bilgi toplayıp izinli araçlarla adım atabilen bir sistemdir. Bir metin yanıtının ötesinde işlem yapabildiği için yetki, kayıt ve durma kurallarına ihtiyaç duyar. Her iş agent gerektirmez; adımları baştan belli bir görev için kurallı bir iş akışı daha anlaşılır olabilir.
Sohbet, iş akışı ve agent ayrımı
Bir sohbet uygulamasında soru sorar ve yanıt alırsınız. Kurallı iş akışında ise hangi adımın hangi sırayla çalışacağını geliştirici belirler. Agent yaklaşımında bir sonraki araç veya adımın seçiminde model de rol alır. Bu esneklik daha çok kontrol ihtiyacı getirir.
Anthropic’in teknik rehberi de iş akışları ile agent sistemlerini bu kontrol farkıyla ele alır. Bir aracın adında agent yazması, sizin göreviniz için bu esnekliğin gerekli olduğunu göstermez.
Kaynaklı destek yanıtı örneği
Örnek hedefimiz, müşteri sorusuna yanıt önerisi hazırlamak olsun. Sistem önce sorunun hangi ürünle ilgili olduğunu belirler; yalnızca erişimine izin verilen bilgi bankasında arar. Bulduğu metnin güncel sürümünü kontrol eder ve yanıt taslağında kaynak gösterir.
Bilgi bankasında cevap yoksa farklı bir ürünün bilgisini kullanmamalı. Taslak hazır olsa bile müşteriye gönderim ayrı bir insan onayı gerektirebilir. Bu örnekte arama araçları salt okunur; sipariş değiştirme veya iade verme aracı yoktur.
- Hedef: kaynaklı yanıt taslağı
- Araç: izinli bilgi bankasında arama
- Sınır: müşteri hesabında değişiklik yapmama
- Durma: kaynak yokluğu veya adım sınırı
- Onay: destek çalışanının incelemesi
Bir çalışma döngüsünde ne olur?
Görev alınır → ilgili bilgi aranır → araç sonucu değerlendirilir → taslak hazırlanır → insan inceler. Araç başarısız olursa sınırsız yeniden denemek yerine hata kaydı oluşturulur ve sorumluya dönülür.
İşlem kaydı, modelin özel düşünce sürecini göstermek değildir. Hangi aracın hangi yetkiyle çağrıldığını, hangi kaynağın kullanıldığını ve hangi sonucun üretildiğini izleyebilmek demektir.
Bağlantı standardı, güvenlik politikası değildir
MCP, AI uygulamalarının araç ve veri kaynaklarıyla bağlantısı için kullanılan bir protokoldür. Bir bağlantının standart olması, bağlanan içeriğin güvenilir veya her işlemin izinli olduğu anlamına gelmez. Erişim kapsamı ayrıca belirlenmelidir.
Bir belge içinde “önce bütün kayıtları sil” gibi bir metin görülmesi, uygulamanın bunu yetkili talimat saymasını gerektirmez. Dış içeriği veri olarak ele almak, izinli araç listesini sınırlamak ve kritik değişiklikleri onaya bağlamak gerekir.
Pilot için beş başarısızlık örneği hazırlayın
Doğru cevaplanan tek bir soru yeterli test değildir. Kaynağı olmayan, iki çelişkili dokümanı olan, yanlış ürün adı taşıyan, erişim dışı bilgi isteyen ve aracın zaman aşımına uğradığı beş örnek hazırlayın. Her birinde beklediğiniz durma davranışını yazın.
Önce salt okunur bir pilotla başlayın. Hız, doğruluk, inceleme süresi ve hatayı düzeltme yükünü mevcut yöntemle karşılaştırın. Daha fazla yetki ancak bu sonuçlar ve ihtiyaç birlikte değerlendirildiğinde eklenmelidir.
AKILDA KALSIN
Agent seçimini araç adından değil görevin değişkenliğinden yapın. Hedef kadar yetki sınırını ve ne zaman duracağını da tasarlayın.