Quiz: NLP Moderno

Question 1

Qual e la differenza principale tra BERT e GPT nell'architettura Transformer?

Accepted Answer

BERT e encoder-only con attenzione bidirezionale, adatto a task di comprensione; GPT e decoder-only con attenzione causale unidirezionale, adatto alla generazione

Question 2

Cosa si intende per "tokenizzazione" nel contesto degli LLM e perche il metodo scelto e importante?

Accepted Answer

Il processo di suddivisione del testo in unita discrete (token) su cui il modello opera; il metodo influenza il vocabolario, la gestione delle lingue rare e la lunghezza delle sequenze

Question 3

Qual e il task del Named Entity Recognition (NER) e come si differenzia dalla classificazione del testo?

Accepted Answer

NER individua e classifica entita nominate (persone, organizzazioni, luoghi) a livello di span nel testo; la classificazione assegna una categoria all'intero input

Question 4

Cosa sono i word embeddings (come Word2Vec o GloVe) e in cosa differiscono dagli embedding contestuali di BERT?

Accepted Answer

Word2Vec/GloVe assegnano un unico vettore per parola (indipendente dal contesto); BERT genera embedding diversi per la stessa parola in contesti diversi, catturando la polisemia

Question 5

Nel sentiment analysis, cosa si intende per "aspect-based sentiment analysis" (ABSA)?

Accepted Answer

Determinare il sentiment espresso verso aspetti specifici di un'entita (es. "la batteria e pessima ma la fotocamera e eccellente"), anziche un'unica polarita per l'intero testo