LLM (Large Language Model)
Una rete neurale addestrata su grandi corpora testuali a predire il token successivo, capace di generare e trasformare linguaggio naturale. Gli LLM sono il nucleo di ragionamento di ogni agente e sistema RAG. Esempi includono le famiglie Claude, GPT e Llama.
RAG (Retrieval-Augmented Generation)
Un pattern che recupera documenti rilevanti e li aggiunge al prompt così che il modello risponda dalle evidenze fornite anziché dalla memoria. È il modo standard per dare a un modello conoscenza fresca, proprietaria o citabile senza ri-addestramento.
MCP (Model Context Protocol)
Uno standard aperto di Anthropic per connettere app LLM a strumenti, dati e prompt attraverso un'interfaccia client-server uniforme. Standardizza le integrazioni come una porta comune standardizza l'hardware.
ReAct (Reasoning and Acting)
Un pattern di prompting che alterna tracce di ragionamento con azioni di strumenti e osservazioni in un ciclo. È la base concettuale della maggior parte degli agenti che usano strumenti.
CoT (Chain-of-Thought)
Prompting che elicita passi di ragionamento intermedi prima della risposta finale, migliorando l'accuratezza sui compiti a più passi al costo di token aggiuntivi.
ToT (Tree-of-Thoughts)
Un'estensione del chain-of-thought che esplora più rami di ragionamento e seleziona il migliore, scambiando più calcolo per maggiore accuratezza su problemi difficili di tipo ricerca.
ANN (Approximate Nearest Neighbour)
Una classe di algoritmi di ricerca che trovano vettori vicini a un vettore di query senza una scansione esaustiva, scambiando esattezza per latenza sub-lineare. È ciò che rende scalabile la ricerca vettoriale.
HNSW (Hierarchical Navigable Small World)
Un indice ANN basato su grafi che offre un forte compromesso recall-latenza, predefinito in molti database vettoriali.
IVF (Inverted File Index)
Un indice ANN che partiziona i vettori in cluster e cerca solo nei cluster più vicini, spesso combinato con la product quantization (IVF-PQ) per risparmiare memoria.
BM25
Una classica funzione di ranking lessicale che valuta i documenti per frequenza dei termini e frequenza inversa nei documenti. Complementa la ricerca vettoriale nel recupero ibrido, eccellendo nei match esatti di parole chiave e termini rari.
RRF (Reciprocal Rank Fusion)
Un metodo per fondere i risultati di più ranker (per esempio lessicale e vettoriale) sommando il reciproco del rango di ciascun elemento tra le liste. È una strategia di fusione semplice e robusta per la ricerca ibrida.
HITL (Human-in-the-Loop)
Un design in cui un umano rivede o approva le azioni di un agente in punti di controllo definiti, specie prima di operazioni irreversibili. Baratta autonomia per sicurezza.
RLHF (Reinforcement Learning from Human Feedback)
Un metodo di addestramento che allinea un modello alle preferenze umane tramite un modello di reward appreso. È il motivo per cui i moderni modelli di chat seguono le istruzioni e rifiutano richieste dannose.
DPO (Direct Preference Optimization)
Un'alternativa più semplice all'RLHF che ottimizza un modello direttamente su coppie di preferenze senza addestrare un modello di reward separato. È diventata una tecnica di allineamento comune.
PEFT (Parameter-Efficient Fine-Tuning)
Una famiglia di metodi di fine-tuning che aggiornano solo un piccolo sottoinsieme di parametri, riducendo costo e archiviazione. LoRA è l'esempio più noto.
LoRA (Low-Rank Adaptation)
Una tecnica PEFT che addestra piccole matrici a basso rango aggiunte a un modello di base congelato, rendendo il fine-tuning economico e gli adapter portabili.
TTFT (Time To First Token)
La latenza dall'invio di una richiesta alla ricezione del primo token di output. Domina la reattività percepita nelle interfacce di chat in streaming.
TPM e RPM (Tokens / Requests Per Minute)
Le due dimensioni comuni dei rate limit sulle API LLM: token al minuto e richieste al minuto. Gli agenti che ciclano e ritentano possono esaurirle in fretta, quindi back-off e batching contano.
kNN (k-Nearest Neighbours)
Il recupero dei k elementi più vicini a una query nello spazio vettoriale; "top-k" nel RAG si riferisce ai k passaggi passati al generatore.
RAGAS
Un framework open-source per valutare i sistemi RAG, che fornisce metriche reference-free come faithfulness, answer relevancy e context recall/precision.
Faithfulness (Fedeltà)
Una metrica di valutazione che misura se le affermazioni di una risposta sono implicate dal contesto fornito. È la metrica centrale di affidabilità del RAG, distinta dalla pura correttezza.
Context Recall
Una metrica RAG che misura quanta parte dell'informazione necessaria a rispondere è stata effettivamente recuperata nel contesto. Un context recall basso limita la qualità raggiungibile della risposta.
Modello di Embedding
Un modello che mappa il testo in vettori di lunghezza fissa che catturano il significato semantico. Deve essere lo stesso modello (e dimensionalità) al momento dell'indicizzazione e dell'interrogazione.
Cross-Encoder
Un modello che valuta congiuntamente query e documento in un'unica passata, più accurato ma più lento di embedding separati, usato per il reranking di un insieme di candidati.
Bi-Encoder
Un modello che codifica query e documento indipendentemente in vettori confrontati per distanza, abbastanza veloce da indicizzare un intero corpus, usato per il recupero di primo stadio.
Top-k
Il numero di passaggi recuperati (o token candidati, a seconda del contesto) mantenuti per lo stadio successivo. Nel RAG è il conteggio dei chunk iniettati nel prompt.
Top-p (Nucleus Sampling)
Un parametro di decodifica che campiona dal più piccolo insieme di token la cui probabilità cumulativa supera p, controllando la diversità dell'output.
Tool Calling (Function Calling)
Il meccanismo API con cui un modello restituisce una richiesta strutturata per invocare una funzione definita dallo sviluppatore, il fondamento delle capacità degli agenti.
Prompt Injection
Un attacco che contrabbanda istruzioni avversarie nell'input dell'utente o nei contenuti recuperati per dirottare un agente. L'injection indiretto nasconde il payload nei dati recuperati.
Agent Loop
Il ciclo ripetuto di ragionare, agire (tool call), osservare (risultato dello strumento) che un agente esegue fino a una condizione di arresto. Vincolarlo è essenziale per controllare i costi.
Token
L'unità di sotto-parola che un modello legge e genera; prezzi, limiti di contesto e latenza si misurano tutti in token, non in caratteri.
SLM (Small Language Model)
Un modello più piccolo, economico e veloce usato per sotto-compiti ristretti, instradamento o lavoro on-device dove un modello di frontiera sarebbe eccessivo.