Memoria negli agenti AI: cosa tenere, comprimere e buttare
In una chiamata a un modello non c'è memoria. Ogni turno è una richiesta nuova e il modello sa solo ciò che avete assemblato stavolta. Tutto ciò che viene descritto come un agente che dimentica, o che peggiora su una lunga esecuzione, è una decisione presa dal vostro codice su cosa portarsi dietro.
Accettato questo, il design della memoria diventa un problema di ingegneria familiare: cosa è sempre pertinente, cosa lo è di recente, cosa si può riassumere e cosa conviene recuperare fresco invece che conservare.
I quattro livelli#
| Livello | Contenuto | Potato? | Dimensione tipica |
|---|---|---|---|
| Fissato | Obiettivo, vincoli, identità, policy | Mai | 200–500 token |
| Recente | Ultimi turni alla lettera, con risultati | Finestra scorrevole | 2–5 turni |
| Compresso | Turni vecchi come brevi note fattuali | Riscritto quando cresce | Sotto i 500 token |
| Recuperato | Documenti presi per questo passo | Scartati dopo l'uso | Per passo |
Comprimete fatti, non prosa#
L'errore consueto è riassumere i turni vecchi come racconto — la cliente ha chiesto del suo ordine e l'agente ha controllato. Si legge bene e non serve a nulla. Comprimete nei fatti che un passo successivo potrebbe usare: ordine 4471, stato spedito, rimborso richiesto, policy 30 giorni, nessun rimborso emesso.
Comprimete a una soglia, non a ogni turno. Riassumere riassunti fa sparire i dettagli in silenzio.
Recuperare non è ricordare#
I documenti presi da una base di conoscenza appartengono al passo che li ha richiesti. Tenerli nel contesto dopo è la via più rapida a un'esecuzione gonfia, costosa e distratta. Prendere, usare, citare, scartare.
Memoria persistente fra sessioni#
Gli agenti a lunga vita accumulano fatti utili su una persona o un account. Salvateli di proposito, in un piccolo record strutturato con un passo di scrittura esplicito. Tre regole lo tengono sano: scrivete solo fatti su cui un'esecuzione futura agirebbe, registrate sempre la provenienza e date a ogni fatto una scadenza.
- Scrivete di proposito — una chiamata a strumento, non un effetto collaterale.
- Salvate fonte e data accanto a ogni fatto.
- Limitate la dimensione e fate scadere ciò che non si usa.
- Fate vedere e correggere alla persona ciò che è memorizzato su di lei.
Domande frequenti
Quanta cronologia tenere alla lettera?
Tre-cinque turni coprono quasi tutto il ragionamento senza dominare il contesto.
Serve un database vettoriale per la memoria?
Per recuperare documenti spesso sì. Per lo stato di una singola esecuzione no: è un piccolo oggetto strutturato nel vostro archivio.
Come evito che la memoria persistente diventi stantia?
Date a ogni fatto fonte, data e scadenza, e fate preferire il recuperato fresco.
memoria agenti aigestione del contestoriassunto conversazionememoria persistentefinestra di contesto llm
