Glossario

Agente (Agent)

Un agente è un sistema guidato da un LLM che persegue un obiettivo in più passi decidendo autonomamente quali azioni o strumenti invocare, osservando i risultati e iterando finché il compito non è completato o non scatta una condizione di arresto. A differenza di un singolo prompt, un agente mantiene uno stato tra i turni e prende da sé le decisioni di controllo del flusso. Anthropic distingue gli agenti (il modello dirige il proprio processo) dai workflow (l'orchestrazione è fissata nel codice).

Chain-of-Thought (CoT)

La catena di pensiero è una tecnica di prompting che chiede al modello di produrre passaggi di ragionamento intermedi prima della risposta finale, migliorando l'accuratezza su problemi aritmetici, logici e a più passi. Si attiva con istruzioni come "ragiona passo dopo passo" o con esempi few-shot che mostrano un ragionamento svolto. La traccia di ragionamento è un mezzo per ottenere una risposta migliore, non necessariamente un resoconto fedele del calcolo interno del modello.

Finestra di contesto (Context Window)

La finestra di contesto è il numero massimo di token a cui un modello può prestare attenzione contemporaneamente, includendo system prompt, cronologia della conversazione, documenti recuperati, messaggio utente e output generato. Quando input più output supererebbero questo limite, la richiesta fallisce o il contenuto precedente deve essere troncato. Una buona ingegneria del contesto tratta la finestra come un budget scarso da allocare con intenzione.

Few-Shot Prompting

Il few-shot prompting include nel prompt un piccolo numero di esempi input/output affinché il modello inferisca per analogia il pattern, il formato o lo schema di etichettatura desiderato. In genere supera lo zero-shot per compiti con una struttura di output specifica o una convenzione di dominio. Gli esempi devono essere diversificati, corretti e rappresentativi dei casi limite che interessano.

Zero-Shot Prompting

Lo zero-shot prompting chiede al modello di svolgere un compito usando solo un'istruzione, senza esempi svolti. Funziona bene per compiti molto visti durante l'addestramento e mantiene i prompt brevi, ma è meno affidabile per formati insoliti o convenzioni di dominio. Quando l'output zero-shot è incoerente, aggiungere alcuni esempi (few-shot) è il passo successivo standard.

Prompt

Un prompt è l'input completo fornito a un modello linguistico per una singola generazione, comprese eventuali istruzioni di sistema, cronologia della conversazione, contesto recuperato e richiesta dell'utente. Tutto ciò che il modello vede prima di generare fa parte del prompt e compete per lo stesso budget di contesto. Il prompt engineering è la pratica di strutturare questo input per rendere affidabile l'output desiderato.

System Prompt

Un system prompt è un'istruzione di livello superiore che imposta ruolo, vincoli, tono e regole operative del modello per l'intera conversazione, separatamente dai singoli turni utente. È il luogo più stabile in cui codificare comportamenti come persona, formato di output e guardrail di sicurezza. Con l'API Anthropic il system prompt si passa nel parametro dedicato system e non come messaggio.

Temperatura (Temperature)

La temperatura è un parametro di decodifica che scala la casualità del campionamento dei token: valori bassi rendono l'output più deterministico e focalizzato, valori alti più vario e creativo. Per estrazione, classificazione e compiti fattuali si preferisce una temperatura bassa; per brainstorming o scrittura creativa un valore più alto aiuta. È uno di più controlli di campionamento, insieme a top-p e top-k.

Top-p (Nucleus Sampling)

Il top-p, o campionamento del nucleo, restringe la scelta dei token al più piccolo insieme di candidati la cui probabilità cumulativa raggiunge la soglia p, campionando solo da quel nucleo. Adatta l'insieme di candidati alla confidenza del modello a ogni passo, a differenza del top-k che fissa il numero. I fornitori consigliano in genere di regolare temperatura oppure top-p, non entrambi insieme.

Top-k Sampling

Il top-k limita la scelta del token successivo ai k candidati più probabili e li rinormalizza prima di campionare. Un k piccolo rende l'output più conservativo; un k grande consente più diversità. È un'alternativa più semplice al campionamento del nucleo (top-p) e spesso si lascia al valore di default quando la temperatura è il controllo principale.

Token

Un token è l'unità atomica che un modello legge e genera, tipicamente un frammento di sotto-parola prodotto dal tokenizer; il testo inglese conta in media circa quattro caratteri per token. Prezzo, limiti di contesto e latenza si misurano tutti in token, quindi l'efficienza in token è un tema pratico nella progettazione dei prompt. La stessa stringa può tokenizzarsi diversamente tra famiglie di modelli.

Tokenizer

Il tokenizer è il componente che converte il testo negli ID interi dei token che il modello consuma e riconverte gli ID generati in testo. Famiglie di modelli diverse usano tokenizer diversi (per esempio varianti di byte-pair encoding), quindi i conteggi dei token non sono direttamente confrontabili tra fornitori. Capire la tokenizzazione spiega stranezze come il comportamento inatteso di alcuni caratteri o numeri.

Retrieval-Augmented Generation (RAG)

La generazione aumentata dal recupero fornisce a un modello documenti esterni rilevanti recuperati al momento della query, così che la risposta sia ancorata a dati attuali e autorevoli e non solo alla memoria parametrica. Una pipeline tipica indicizza un corpus tramite embedding, recupera i top-k passaggi per una query e li inietta nel prompt come contesto. Il RAG riduce le allucinazioni e permette di aggiornare la conoscenza senza riaddestrare.

Ancoraggio (Grounding)

L'ancoraggio consiste nel vincolare la risposta di un modello a prove verificabili fornite nel prompt, come passaggi recuperati o output di strumenti, così che le affermazioni siano tracciabili a una fonte. Un prompt ben ancorato istruisce il modello a rispondere solo dal contesto fornito e ad astenersi quando il contesto è insufficiente. L'ancoraggio è la difesa principale contro le allucinazioni nei sistemi RAG.

Allucinazione (Hallucination)

Un'allucinazione è un output del modello fluente e sicuro ma di fatto non supportato o inventato, come una citazione, un'API o una statistica inesistenti. Nasce perché il modello ottimizza per continuazioni plausibili, non per la verità. Le mitigazioni includono l'ancoraggio al contesto recuperato, istruire il modello a dire "non lo so" e verificare le affermazioni rispetto alle fonti.

Uso di strumenti (Tool Use / Function Calling)

L'uso di strumenti, detto anche function calling, permette a un modello di richiedere un'operazione esterna definita, come una ricerca, un calcolo o una chiamata API, emettendo un'invocazione strutturata che il tuo codice esegue e restituisce. Al modello vengono forniti gli schemi degli strumenti che ne descrivono nome, descrizione e parametri, e il modello sceglie quando chiamarli. È il meccanismo che trasforma un generatore di testo in un agente capace di agire.

Output strutturato (Structured Output)

L'output strutturato è una generazione vincolata a un formato leggibile dalle macchine come JSON conforme a uno schema specificato, così che il codice a valle possa interpretarlo in modo affidabile. Si ottiene tramite decodifica guidata dallo schema, definizioni di tool/funzioni o istruzioni di formato esplicite con validazione. Vincolare il formato elimina il parsing fragile del testo ed è essenziale per le pipeline di produzione.

Template di prompt (Prompt Template)

Un template di prompt è un prompt riutilizzabile con segnaposto nominati che vengono riempiti con valori a runtime, separando le istruzioni fisse dall'input variabile. I template rendono i prompt versionabili, testabili e coerenti in tutta un'applicazione. Librerie e framework offrono templating con sostituzione di variabili e validazione.

Prompt Injection

Il prompt injection è un attacco in cui istruzioni avversariali inserite nell'input dell'utente o in contenuti recuperati/esterni inducono il modello a ignorare le istruzioni originali o a compiere azioni indesiderate. L'injection indiretta nasconde il payload in dati che il modello legge in seguito, come una pagina web o un documento. È l'analogo per gli LLM degli attacchi di injection ed è il rischio numero uno nella OWASP Top 10 per le applicazioni LLM.

Jailbreak

Un jailbreak è una classe di prompt avversariali costruiti per aggirare l'addestramento di sicurezza di un modello ed estrarre contenuti che dovrebbe rifiutare, spesso tramite framing di role-play, offuscamento o condizionamento many-shot. I jailbreak differiscono dal prompt injection per intento e bersaglio: attaccano la policy del modello anziché le istruzioni di un'applicazione. Le difese includono addestramento al rifiuto, filtraggio di input/output e metodi costituzionali.

Guardrail

I guardrail sono i controlli che mantengono input e output di un modello entro limiti accettabili, inclusi filtri sui contenuti, validazione di schema, liste allow/deny, regole di rifiuto nel system prompt e controlli post-generazione. Sono stratificati: guardrail a livello di istruzione nel prompt più validazione programmatica nel codice. I sistemi robusti non si fidano mai del solo output del modello.

Apprendimento in contesto (In-Context Learning)

L'apprendimento in contesto è la capacità del modello di adattarsi a un nuovo compito a partire da esempi o istruzioni dati nel prompt al momento dell'inferenza, senza aggiornamenti dei pesi. È ciò che fa funzionare il prompting few-shot e zero-shot. Il modello generalizza dal pattern dimostrato solo per la durata di quella richiesta.

Concatenazione di prompt (Prompt Chaining)

La concatenazione di prompt scompone un compito complesso in una sequenza di prompt più semplici dove l'output di ogni passo alimenta il successivo, aumentando l'affidabilità e rendendo ogni fase testabile. Scambia un singolo prompt difficile con diversi prompt facili e offre punti di controllo naturali per la validazione. È un mattone fondamentale dei workflow, distinto da un singolo mega-prompt.

ReAct

ReAct (Reason + Act) è un pattern di agente che alterna tracce di ragionamento e azioni con strumenti: il modello pensa, compie un'azione, osserva il risultato e ripete. Alternare ragionamento e azione consente al modello di pianificare, raccogliere informazioni e auto-correggersi all'interno di un ciclo. È alla base di molte implementazioni di agenti che usano strumenti.

Auto-consistenza (Self-Consistency)

L'auto-consistenza è una strategia di decodifica che campiona più percorsi di ragionamento chain-of-thought a temperatura non nulla e seleziona la risposta finale più frequente per voto di maggioranza. Migliora l'accuratezza sui compiti di ragionamento rispetto a una singola decodifica greedy marginalizzando su percorsi diversi. Il costo è eseguire più generazioni per query.

Modello di ragionamento (Reasoning Model)

Un modello di ragionamento è addestrato o configurato per spendere ulteriore calcolo in fase di inferenza producendo una catena di pensiero interna estesa prima di rispondere, migliorando le prestazioni su matematica, codice e pianificazione difficili. Tali modelli espongono controlli per lo sforzo o il budget di ragionamento. Scambiano latenza e costo in token più alti per accuratezza su problemi complessi.

Pensiero esteso (Extended Thinking)

Il pensiero esteso è la funzionalità di Anthropic che consente a un modello Claude di produrre un ragionamento interno esplicito prima della risposta finale, con un budget di token configurabile. Migliora i risultati su analisi complesse, matematica e compiti a più passi al costo di maggiore latenza e token. Il contenuto del pensiero è restituito in blocchi dedicati, distinti dalla risposta finale.

Caching dei prompt (Prompt Caching)

Il caching dei prompt memorizza la rappresentazione elaborata di un prefisso di prompt stabile, così che le richieste ripetute che condividono quel prefisso saltino il ricalcolo, riducendo latenza e costo. È ideale quando un lungo system prompt, uno schema o un documento viene riusato in molte chiamate. Con l'API Anthropic si marcano i punti di cache con cache_control sui blocchi di contenuto pertinenti.

Ingegneria del contesto (Context Engineering)

L'ingegneria del contesto è la disciplina di curare esattamente ciò che entra nella finestra di contesto a ogni passo - istruzioni, esempi, dati recuperati, risultati degli strumenti e cronologia - per massimizzare il segnale utile entro il budget di token. Amplia il prompt engineering dal formulare una singola istruzione alla gestione dell'intero stato informativo di un agente. L'obiettivo è il più piccolo insieme di token ad alto segnale che produca il comportamento desiderato.

Role Prompting

Il role prompting assegna al modello una persona o una competenza ("Sei un revisore di sicurezza senior") per modellare tono, lessico e gli standard che applica. È un modo leggero per orientare lo stile e il rigore e di solito si colloca nel system prompt. Il suo effetto è sull'inquadramento e sull'enfasi più che sul conferire nuova conoscenza.

Delimitatori (Delimiters)

I delimitatori sono marcatori espliciti - come tag in stile XML, tripli backtick o intestazioni - che separano parti distinte di un prompt come istruzioni, contesto e input dell'utente. Riducono l'ambiguità su cosa è dato e cosa è istruzione e aiutano a difendersi dal prompt injection. Anthropic consiglia tag in stile XML come e per Claude.

Indicatore di output (Output Indicator)

Un indicatore di output è un segnale alla fine di un prompt che indica dove e come il modello deve iniziare la risposta, come un'etichetta, un'apertura JSON parziale o un prefisso del turno dell'assistente. Pre-riempire l'inizio della risposta vincola il formato e riduce il preambolo. È un modo semplice e affidabile per imporre una struttura.

Prompting negativo (Negative Prompting)

Il prompting negativo dice al modello cosa non fare o non includere, come "non inventare citazioni" o "non aggiungere un preambolo". Le istruzioni positive ("rispondi solo dal contesto") sono in genere più affidabili dei divieti, quindi i negativi funzionano meglio come complemento. Sovraccaricare un prompt di divieti può degradare le prestazioni.

Meta-prompting

Il meta-prompting usa un modello per scrivere, criticare o migliorare i prompt anziché per risolvere direttamente il compito finale. Un meta-prompt può chiedere al modello di riscrivere un'istruzione per chiarezza, generare esempi few-shot o diagnosticare perché un prompt fallisce. È un modo pratico per iterare sui prompt su larga scala.

Ottimizzazione dei prompt (Prompt Optimization)

L'ottimizzazione dei prompt è la ricerca sistematica, spesso automatizzata, della formulazione, degli esempi o della struttura che massimizza una metrica misurabile su un set di valutazione. Gli approcci vanno dall'A/B test manuale a metodi algoritmici che mutano e valutano i prompt candidati. Dipende dall'avere una valutazione affidabile su cui ottimizzare.

Valutazione (Eval)

Una eval è un dataset di input abbinati a output attesi o a criteri di giudizio, usato per misurare oggettivamente la qualità di un prompt o di un modello anziché stimarla a occhio. Le eval trasformano "sembra migliore" in un numero da tracciare tra i cambiamenti e su cui condizionare i rilasci. Sono il fondamento di un prompt engineering disciplinato.

LLM-as-a-Judge

L'LLM-as-a-judge usa un modello linguistico per valutare o confrontare gli output di altri modelli rispetto a una rubrica, abilitando la valutazione automatica di risposte aperte senza un'unica risposta corretta. Scala un giudizio simile a quello umano ma eredita i bias del giudice (come quello di posizione o di verbosità), quindi va calibrato su etichette umane. È molto usato nelle pipeline di eval e nella raccolta di dati di preferenza.

Fedeltà (Faithfulness)

La fedeltà misura se una risposta generata è supportata dal contesto fornito, senza affermazioni che il contesto non implica. Nella valutazione RAG è una metrica centrale, tipicamente calcolata verificando ogni affermazione rispetto ai passaggi recuperati. Un'alta fedeltà significa basse allucinazioni rispetto alle prove fornite.

Embedding

Un embedding è un vettore denso che rappresenta il significato di un testo in modo che testi semanticamente simili si trovino vicini nello spazio vettoriale. Gli embedding alimentano la ricerca semantica e il passo di recupero del RAG abilitando la ricerca per vicinato. La dimensione del vettore e il modello determinano la qualità e devono coincidere tra indicizzazione e query.

La ricerca semantica recupera risultati per significato anziché per parole chiave esatte, confrontando l'embedding di una query con quelli dei documenti indicizzati e restituendo i vicini più prossimi. Completa la ricerca lessicale (per parole chiave), che eccelle su termini esatti e token rari. La ricerca ibrida fonde entrambe per un miglior richiamo.

Suddivisione in chunk (Chunking)

Il chunking suddivide i documenti sorgente in passaggi abbastanza piccoli da essere indicizzati e recuperati con precisione ma abbastanza autosufficienti da restare significativi fuori contesto. Dimensione e sovrapposizione dei chunk bilanciano precisione di recupero e completezza del contesto; passaggi troppo grandi diluiscono la rilevanza. La strategia di chunking influenza fortemente la qualità del RAG.

Sequenza di stop (Stop Sequence)

Una sequenza di stop è una stringa che, quando generata, fa interrompere immediatamente l'output del modello, usata per limitare le risposte o terminare in modo pulito un formato strutturato. Impedisce al modello di proseguire oltre la risposta voluta, ad esempio fermandosi a un delimitatore tra turni. Si configura per richiesta insieme al numero massimo di token.

Token massimi (Max Tokens)

I token massimi sono il limite di quanti token una singola generazione può produrre, vincolando costo, latenza e lunghezza della risposta. Impostarlo troppo basso tronca la risposta a metà; troppo alto spreca budget. Limita solo l'output, separatamente dalla finestra di contesto complessiva.

Sistema di riferimento (System of Record)

In un'applicazione RAG o ad agenti, il sistema di riferimento è la fonte autorevole il cui dato il modello deve rispecchiare, in contrapposizione alla memoria parametrica del modello. Progettare i prompt perché si rimettano al sistema di riferimento - ancorando le risposte ai dati recuperati e citandoli - mantiene gli output affidabili e verificabili. I conflitti tra memoria del modello e dato di riferimento devono sempre risolversi a favore del dato.

Multi-shot / Many-shot

Il prompting multi-shot o many-shot estende il few-shot a un gran numero di esempi in contesto, che può migliorare sensibilmente l'accuratezza su alcuni compiti quando la finestra di contesto è abbastanza grande. I rendimenti calano e il costo cresce all'aumentare degli esempi, quindi il numero si calibra empiricamente. Il many-shot può anche essere un vettore di condizionamento avversariale, una considerazione di sicurezza.

Constitutional AI

La Constitutional AI è il metodo di addestramento di Anthropic che usa un insieme scritto di principi (una "costituzione") per far criticare e rivedere al modello i propri output, riducendo la dipendenza da grandi volumi di esempi dannosi etichettati da umani. Plasma il comportamento di default e i rifiuti del modello. Per chi fa prompt engineering significa che i modelli base portano già forti default principiati su cui i prompt costruiscono, anziché sostituirli.

Prompt idempotente (Idempotent Prompt)

Un prompt idempotente produce risultati equivalenti se rieseguito sullo stesso input, proprietà favorita da temperatura bassa, esempi fissi e schemi di output espliciti. L'idempotenza conta per pipeline riproducibili, caching e testing. Il non determinismo del campionamento è l'ostacolo principale ed è ridotto, non eliminato, da impostazioni di decodifica deterministiche.