Ajanlar İçin RAG: Bağlamda Boğulmadan Cevabı Dayanaklandırmak
Getirimle güçlendirilmiş üretim genelde bir hat olarak anlatılır: soruyu göm, en iyi parçaları çek, yapıştır, üret. Bu bir soru-cevap kutusu için çalışır. Bir ajanın içinde ise yanlış biçimdir; çünkü ajan, bir adım atana kadar neye ihtiyaç duyduğunu bilmez.
İşe yarayan sürüm getirimi, ajanın kanıta ihtiyacı olduğuna karar verdiğinde çağırdığı bir araç olarak ele alır — bazen farklı sorgularla iki kez, bazen hiç. Bu tek değişiklik epeyce alakasız bağlamı ortadan kaldırır ve tüm koşuyu hem ucuzlatır hem keskinleştirir.
Getirim bir ön adım değil, bir araç#
Aramayı, sorgu argümanı olan ve küçük, yapılı bir sonuç döndüren sıradan bir araç olarak açın: her biri kimlik ve kaynak taşıyan birkaç pasaj. Ajan ne zaman çağıracağına karar verir, döneni gördükten sonra sorgusunu iyileştirebilir ve cevap düzyazı değil yapılı veriyse başka bir aracı çağırabilir. Hat sürümü bunların hiçbirini yapamaz ve isteğin kanıta ihtiyacı olsun olmasın her istekte getirim maliyetini öder.
Ajanın yazdığı sorguları kaydedin. Kullanıcılarınızın gerçekte ne sorduğuna dair alacağınız en dürüst tariftir.
Gömme modelinden çok önemli olan parçalama kararları#
- Sabit karakter sayısına değil yapıya göre bölün — başlıklar, bölümler, madde imleri.
- Her parçayı kendi başına anlaşılır tutun: `Ayrıca şunu gerektirir` diye başlayan bir parça bağlam dışında işe yaramaz.
- Hem model hem kaynak gösterimi için her parçaya belge başlığını ve bölüm başlığını iliştirin.
- Her parçayla birlikte bir kimlik ve URL saklayın ki cevap kaynağını gösterebilsin.
- Çok sayıda küçük parça yerine daha az, daha büyük ve anlamlı parçaları tercih edin; örtüşme kötü sınırların yamasıdır, strateji değil.
Gerçek derlemlerde melez getirim saf vektörü döver#
| Sorgu türü | Vektör arama | Anahtar kelime | En iyisi |
|---|---|---|---|
| Kavramsal soru | Güçlü | Zayıf | Vektör |
| Tam ürün kodu ya da hata metni | Zayıf | Güçlü | Anahtar kelime |
| Nadir özel isim | Karışık | Güçlü | Anahtar kelime |
| Yeniden ifade edilmiş politika sorusu | Güçlü | Zayıf | Vektör |
| Gerçek trafiğin çoğu | Karışık | Karışık | İkisi, birleştirilip yeniden sıralanmış |
Ajana kaynak gösterdirin ve başarısız olmasına izin verin#
Güvenilirlik işinin çoğunu iki gereklilik yapar. Birincisi, getirimden çıkan her iddia, geldiği pasajın kimliğini taşır ve arayüzünüz bunu bir bağlantı olarak basar — bu, dayanaksız ifadeleri makul değil görünür kılar. İkincisi, arama aracı hiçbir şey döndürebilmeli ve ajana `bunu belgelerimizde bulamadım` demenin doğru bir sonuç olduğu öğretilmelidir. Getirimde başarısız olamayan bir ajan uydurur; çünkü ona bıraktığınız tek seçenek uydurmaktır.
İndeksi dürüst tutmak#
Getirim kalitesi sessizce bozulur. Belgeler değişir, bölümler silinir ve indeks en son gördüğünü sunmaya devam eder. Düzenli aralıklarla yeniden indeksleyin, kaynağı yok olan parçaları oyalanmalarına izin vermek yerine silin ve doğru pasajı bilinen küçük bir sorgu değerlendirme seti tutun ki her değişiklikten sonra kapsamı ölçebilesiniz. Bu olmadan ortaya çıkan hata biçimi en kötüsüdür: mart ayında geri çekilmiş bir politikayı kendinden emin biçimde alıntılayan bir ajan.
Sık sorulan sorular
Ajan cevaplamadan önce her zaman getirim yapmalı mı?
Hayır. Her istekte getirim, gecikmeyi israf eder ve kanıta ihtiyaç duymayan sorularda bağlamı doldurur. Ajanın kanıt gerektiğine kendisi karar vermesine izin verin ve gerekirken ne sıklıkla getirmediğini ölçün.
Kaç pasaj döndürmeliyim?
İyi seçilmiş üç ila altı pasaj, yirmiyi döver. Daha fazla metin dikkati seyreltir, maliyeti artırır ve ajanın yalnızca ilgili görünen bir pasaja dayanma ihtimalini yükseltir.
Getirim işe yarar bir şey döndürmezse?
Bu desteklenen bir sonuç olmalı. Açık bir boş sonuç döndürün ve ajana bilgiyi bulamadığını söyleyip bir sonraki adımı önermesini — netleştirici bir soru sormak ya da bir insana devretmek — talimatlayın.
ajanlar için raggetirimle güçlendirilmiş üretimmelez aramaparçalama stratejisidayanaklı cevaplar
