RAG per agenti: ancorare le risposte senza annegare nel contesto
La generazione aumentata dal recupero viene di solito presentata come pipeline: vettorizza la domanda, prendi i frammenti migliori, incolla, genera. Funziona per una casella di domande. Dentro un agente è la forma sbagliata, perché l'agente non sa cosa gli serve finché non ha fatto un passo.
La versione che funziona tratta il recupero come uno strumento che l'agente chiama quando decide che gli servono prove — a volte due volte con query diverse, a volte mai. Quel solo cambiamento rimuove molto contesto irrilevante.
Il recupero come strumento, non come preambolo#
Esponete la ricerca come un normale strumento con un argomento di query e un ritorno piccolo e strutturato: alcuni passaggi, ciascuno con identificatore e fonte. L'agente decide quando chiamarla, può affinare dopo aver visto il risultato e può chiamare un altro strumento se la risposta è dato strutturato.
Registrate le query scritte dall'agente: sono la descrizione più onesta di cosa chiedono davvero i vostri utenti.
Le scelte di suddivisione contano più del modello di embedding#
- Dividete per struttura — titoli, sezioni, voci di elenco — non per numero fisso di caratteri.
- Tenete ogni frammento autonomo.
- Allegate titolo del documento e intestazione di sezione a ogni frammento.
- Salvate identificatore e URL con ogni frammento per poter citare.
- Preferite pochi frammenti grandi e sensati; la sovrapposizione è una toppa.
L'ibrido batte i vettori puri su corpora reali#
| Tipo di query | Ricerca vettoriale | Parole chiave | Meglio |
|---|---|---|---|
| Domanda concettuale | Forte | Debole | Vettoriale |
| Codice prodotto o testo d'errore esatto | Debole | Forte | Parole chiave |
| Nome proprio raro | Misto | Forte | Parole chiave |
| Domanda di policy riformulata | Forte | Debole | Vettoriale |
| Traffico reale complessivo | Misto | Misto | Entrambi, uniti e riordinati |
Fate citare e permettete il fallimento#
Due requisiti fanno gran parte dell'affidabilità. Primo, ogni affermazione che viene dal recupero porta l'identificatore del passaggio e la vostra interfaccia lo rende un link. Secondo, la ricerca deve poter non restituire nulla, e all'agente va insegnato che `non lo trovo nella nostra documentazione` è un esito corretto. Un agente che non può fallire nel cercare inventerà.
Domande frequenti
L'agente deve sempre cercare prima di rispondere?
No. Cercare a ogni richiesta spreca latenza e riempie il contesto su domande che non hanno bisogno di prove.
Quanti passaggi restituire?
Tre-sei ben scelti battono venti.
E se il recupero non restituisce nulla di utile?
Dev'essere un esito supportato. Restituite un vuoto esplicito e fate dire all'agente che non ha trovato, offrendo il passo successivo.
rag per agentigenerazione aumentata dal recuperoricerca ibridastrategia di suddivisionerisposte ancorate
