Araç Çağırma: Ajanın Doğru Kullanacağı Araçlar Nasıl Tasarlanır
Bir ajan kötü davrandığında ilk içgüdü prompt'u yeniden yazmaktır. Bizim deneyimimizde sebep belki üçte bir oranında prompt'tur; kalanında araçlar bir programa göre tasarlanmıştır, oysa karşıda adlardan ve açıklamalardan fonksiyonun ne yaptığını çıkarmak zorunda olan bir okuyucu vardır.
Araçlar, ajanın dünyayı etkileme yeteneğinin tamamıdır ve tanımları kelimenin tam anlamıyla modelin bağlamının parçasıdır. İyi tasarlamak, prompt ayarından hem ucuz hem çok daha kalıcıdır; çünkü iyi bir araç davranışı rica etmek yerine kısıtlar.
Kötü çağrıların çoğunu önleyen yedi kural#
- Bir araç, bir iş. `siparis_ara` ve `siparis_iade_et`, mod argümanlı tek bir `siparis_yonet`i döver.
- Düzyazı yerine tipler. Numaralandırmalar, tam sayı aralıkları ve biçimler, açıklamanın asla yapamayacağı işi yapar.
- Ne olacağını söyleyen adlar. `musteriye_eposta_gonder`, `bildir`in olamadığı kadar açıktır.
- Talimat gibi hatalar: neyin yanlış olduğunu ve sırada ne yapılacağını tek kısa cümlede söyleyin.
- Boş sonuç da sonuçtur. Açık bir eşleşme-yok dönüşü, modelin tekrar denenebilir saydığı bir istisnayı döver.
- Yan etkili her şeyde etkisizlik anahtarı, ki tekrar deneme onu çoğaltamasın.
- Küçük dönüşler. Yükleri ajanın ihtiyaç duyduğu alanlara budayın; 40 KB'lık JSON bağlam değil kafa karışıklığı satın alır.
Öncesi ve sonrası#
| Zayıf tasarım | Neden bozulur | Daha iyisi |
|---|---|---|
| `sorgu(sql)` | Sınırsız güç, denetlenemez | `musteri_siparisleri(musteri_id, limit)` |
| `tarih: metin` | Model biçim uydurur | `tarih: metin, biçim YYYY-AA-GG` |
| `HTTP 500` | Eylem ima etmez, sonsuz denenir | `Sipariş servisi yanıt vermiyor. Kullanıcıya sonra denemesini söyle.` |
| Tüm kaydı döndürür | Bağlamı doldurur, dikkati seyreltir | Altı adlandırılmış alan döndürür |
| `durum_guncelle(id, durum)` | Her durum, her kayıt | Yetki kontrollü `siparisi_iptal_et(id)` |
Açıklamalar prompt'tur, öyle yazın#
Açıklama alanı meslektaşlarınız için belge değildir; modelin karar verirken okuduğu metindir. Aracın ne zaman kullanılacağını ve ne zaman kullanılmayacağını söyleyin, önemli olan tek ön koşulu adlandırın ve bir örnek argüman verin. Üç cümle, üç paragrafı döver — uzun açıklamalar bağlamın geri kalanını sıkıştırır ve davranışı nadiren değiştirir. Ayrıca hepsini tek dosyada, birlikte gözden geçirin: tek tek anlamlı olan araçlar, set olarak okunduğunda ancak görünen biçimlerde örtüşür.
İki araç aynı isteği makul biçimde karşılayabiliyorsa ajan bazen yanlışını seçer. Ya birleştirin ya da sınırı ikisinin açıklamasında da açık yazın.
Çalıştırmadan önce her zaman doğrulayın#
Model çıktısını hiçbir zaman denetlenmeden bir sistem çağrısına geçirmeyin. Argümanları şemaya göre doğrulayın, kimlikleri mevcut son kullanıcının görmeye yetkili olduğu kayıtlara karşı çözün ve eşleşmeyeni makul bir şeye zorlamak yerine reddedin. Net mesajlı bir ret iyi bir sonuçtur: ajan kısıtı öğrenir ve aynı koşuda başka bir şey dener. Sessiz bir zorlama ise ajanın yanlış kaydı güncellemesi ve raporun tuhaf görünmesine kadar kimsenin fark etmemesidir.
Araçları ajandan ayrı test edin#
Her araca kendi testlerini verin: geçerli çağrı, geçersiz argüman, yetki reddi, boş sonuç, üst sistem zaman aşımı. Sonra ajanı bir taklit araç katmanına karşı test edin ki bu koşulları bilerek zorlayabilesiniz. İncelediğimiz neredeyse her canlı olay, biri denemeyi akıl ettiğinde bu düzeyde kolayca yeniden üretiliyor — özellikle geliştirmede nadir, gerçek bir salı öğleden sonrasında sıradan olan boş sonuç durumu.
Sık sorulan sorular
Kaç araç fazla?
Tek döngüde kabaca ondan sonra seçim doğruluğu düşmeye ve açıklamalar bağlamı sıkıştırmaya başlar. Daha fazlası gerekiyorsa dar bir yönlendiricinin arkasına gruplayın ya da her biri küçük araç setli uzmanlaşmış ajanlara bölün.
Araçlar ham API yanıtını döndürmeli mi?
Hayır. Ajanın gerçekten ihtiyaç duyduğu alanları taşıyan küçük, kararlı bir biçim döndürün. Ham yanıtlar bağlam israf eder, ajanın yanlış kullanabileceği alanları açar ve prompt davranışınızı başkasının API sürümüne bağlar.
Ajanın argüman uydurmasını nasıl durdururum?
Kısıtlayın: serbest metin yerine numaralandırma, açık biçimler ve gerçek kayıtlara çözülmesi gereken kimlikler. Sonra doğrulayın ve net bir ret döndürün. Uydurulmuş argüman genelde, aracın ajanın bilmesinin imkânsız olduğu bir şeyi istediğinin işaretidir.
araç çağırmafonksiyon çağırma ajanlarajan araç tasarımıjson şema araçlarllm araç hataları
