RAG för agenter: förankring som faktiskt håller
Hämtning presenteras ofta som botemedlet mot påhitt. Det är den inte. En modell kan fortfarande dra fel slutsats av rätt stycke, och den kan citera en policy som ersattes i fjol.
Vad RAG däremot gör, rätt byggd, är att göra svaren spårbara: varje påstående kan knytas till ett dokument med ett datum, och en granskare kan avgöra om agenten hade rätt.
Kedjan, i den ordning den går sönder#
- Innehållskvalitet: föråldrade dokument ger föråldrade svar, oavsett modell.
- Styckning: stycken som klipper mitt i ett resonemang ger ofullständiga svar.
- Sökning: hybrid av nyckelord och vektor slår vektor ensamt på produktnamn och koder.
- Omrankning: en omrankare på topp femtio höjer precisionen mer än en större modell.
- Prompten runt beläggen: säg åt modellen att svara enbart ur dem eller säga att den inte vet.
Vad som brukar ge mest#
| Åtgärd | Typisk effekt |
|---|---|
| Rensa och datera dokumentkällan | Stor; ofta störst av allt |
| Lägg till nyckelordssökning bredvid vektor | Stor för koder och egennamn |
| Lägg till omrankare | Medel till stor |
| Bättre styckning med överlapp | Medel |
| Byta till större genereringsmodell | Liten om hämtningen är svag |
Hämtning som verktyg, inte som förbehandling#
I en agent bör hämtning vara ett verktyg som modellen anropar när den behöver det, med en fråga den formulerar. Det gör spåret läsbart: ni ser vad den sökte, vad den fick och vad den gjorde med det.
Logga frågan och de returnerade dokument-ID:na. Utan det går ett dåligt svar inte att diagnosticera.
Rättigheter vid hämtningen#
Filtrera på slutanvändarens behörighet i sökningen, inte efteråt. Ett stycke som når kontexten har redan läckt, även om modellen inte citerar det.
Vanliga frågor
Tar RAG bort hallucinationer?
Nej. Det gör svar spårbara och minskar frekvensen; det garanterar inte korrekthet.
Behövs alltid en vektordatabas?
Nej. Under några tiotusen stycken räcker ofta befintlig sökning plus omrankning.
Hur mäter jag hämtningskvalitet separat?
Med frågor vars rätta källdokument ni känner, och mät om det finns bland de hämtade.
rag för agenterhämtningsförstärkt genereringhybridsökningomrankningförankring av svar
