RAG dla agentów: osadzanie odpowiedzi bez tonięcia w kontekście
Generowanie wspomagane wyszukiwaniem przedstawia się zwykle jako potok: osadź pytanie, pobierz najlepsze fragmenty, wklej, generuj. To działa dla okienka pytań. Wewnątrz agenta to zły kształt, bo agent nie wie, czego potrzebuje, dopóki nie zrobi kroku.
Wersja, która działa, traktuje wyszukiwanie jako narzędzie wywoływane wtedy, gdy agent uzna, że potrzebuje dowodów.
Wyszukiwanie jako narzędzie, nie wstęp#
Udostępnijcie wyszukiwanie jako zwykłe narzędzie z argumentem zapytania i małym, strukturalnym zwrotem: kilka fragmentów, każdy z identyfikatorem i źródłem.
Zapisujcie zapytania pisane przez agenta: to najuczciwszy opis tego, o co naprawdę pytają wasi użytkownicy.
Decyzje o podziale ważniejsze niż model osadzeń#
- Dzielcie według struktury — nagłówki, sekcje, punkty listy — nie według stałej liczby znaków.
- Każdy fragment ma być samodzielny.
- Do każdego fragmentu dołączcie tytuł dokumentu i nagłówek sekcji.
- Zapisujcie identyfikator i URL, by odpowiedź mogła wskazać źródło.
- Wolcie mniej, większe i sensowne fragmenty; nakładanie to łatka.
Hybryda bije czyste wektory na prawdziwych korpusach#
| Typ zapytania | Wyszukiwanie wektorowe | Słowa kluczowe | Najlepiej |
|---|---|---|---|
| Pytanie pojęciowe | Silne | Słabe | Wektorowe |
| Dokładny kod produktu lub tekst błędu | Słabe | Silne | Słowa kluczowe |
| Rzadka nazwa własna | Mieszane | Silne | Słowa kluczowe |
| Przeformułowane pytanie o politykę | Silne | Słabe | Wektorowe |
| Realny ruch łącznie | Mieszane | Mieszane | Oba, złączone i przesortowane |
Każcie cytować i pozwólcie zawieść#
Dwa wymagania robią większość roboty przy wiarygodności. Po pierwsze, każde twierdzenie z wyszukiwania niesie identyfikator fragmentu, a wasz interfejs zamienia to w odnośnik. Po drugie, wyszukiwanie musi móc nie zwrócić nic, a agent musi wiedzieć, że `nie znalazłem tego w naszej dokumentacji` to poprawny wynik.
Najczęstsze pytania
Czy agent zawsze ma szukać przed odpowiedzią?
Nie. Szukanie przy każdym żądaniu marnuje opóźnienie i zapycha kontekst.
Ile fragmentów zwracać?
Trzy do sześciu dobrze dobranych bije dwadzieścia.
A jeśli wyszukiwanie nie zwróci nic użytecznego?
To musi być wspierany wynik. Zwróćcie jawną pustkę i pozwólcie agentowi to powiedzieć.
rag dla agentówgenerowanie wspomagane wyszukiwaniemwyszukiwanie hybrydowestrategia podziałuodpowiedzi osadzone
