Marcare i contenuti generati dall'IA: che cosa chiede la norma e che cosa riesce a fare la tecnica
Se il tuo sistema genera testo, immagini, audio o video, dal 2 agosto 2026 l'articolo 50, paragrafo 2, dell'AI Act ti chiede di marcare gli output in un formato leggibile da una macchina e di renderli rilevabili come generati o manipolati artificialmente. La stessa norma ti chiede soluzioni "efficaci, interoperabili, solide e affidabili nella misura in cui ciò sia tecnicamente possibile". Per chi scrive codice, la frase importante è l'ultima: la norma non indica una tecnica, e nessuna tecnica da sola è a prova di manomissione.
Per i sistemi generativi già sul mercato prima del 2 agosto 2026 c'è una proroga: l'articolo 111, paragrafo 4, dà tempo fino al 2 dicembre 2026 per adeguarsi al paragrafo 2. In questo articolo vedi che cosa stabilisce l'articolo 50, che cosa propone il Codice di buone pratiche sulla trasparenza dei contenuti generati, come funziona una filigrana statistica per il testo (con un programma che puoi rieseguire) e perché il codice chiede almeno due strati di marcatura. Nel primo articolo trovi il calendario completo; l'articolo precedente, sui modelli per finalità generali, spiega chi produce il modello da cui spesso nasce il contenuto da marcare.
Che cosa dice l'articolo 50, e chi ne è destinatario
L'articolo 50 divide gli obblighi tra fornitori e deployer. Il fornitore marca; il deployer dichiara. Conviene tenerli distinti, perché un'impresa può essere entrambe le cose.
- Paragrafo 1, fornitori di sistemi che interagiscono con persone: progettarli in modo che le persone siano informate di parlare con un'IA, salvo che sia ovvio per una persona ragionevolmente informata.
- Paragrafo 2, fornitori di sistemi che generano contenuti sintetici audio, immagine, video o testo: marcare gli output in formato leggibile meccanicamente e rilevabile come artificiale. L'obbligo non si applica ai sistemi con funzione di assistenza all'editing standard o che non modificano in modo sostanziale i dati di input o la loro semantica.
- Paragrafo 4, deployer: dichiarare che un deep fake è generato o manipolato; dichiarare che un testo pubblicato per informare il pubblico su questioni di interesse pubblico è generato, salvo che sia stato sottoposto a revisione umana o controllo editoriale con una persona che ne ha la responsabilità editoriale.
- Paragrafo 5: le informazioni vanno date in modo chiaro e distinguibile al più tardi alla prima interazione o esposizione, e devono rispettare i requisiti di accessibilità applicabili.
Ne segue che marcare e dichiarare sono due operazioni diverse: la filigrana è un'informazione per le macchine, l'avviso per le persone è un'informazione per chi legge o guarda. Una piattaforma editoriale che usa un sistema generativo di terzi può dover fare la seconda anche se il fornitore ha fatto la prima. La violazione degli obblighi di trasparenza dell'articolo 50 rientra tra quelle sanzionate con un massimo di 15 milioni di euro o del 3% del fatturato mondiale annuo, se superiore (articolo 99, paragrafo 4, lettera g).
Il codice di buone pratiche: due strati, almeno
Il paragrafo 7 dell'articolo 50 prevede che la Commissione incoraggi codici di buone pratiche sulla marcatura e l'etichettatura. Il codice pubblicato ha due sezioni: regole di marcatura e rilevazione per i fornitori, regole di etichettatura per i deployer. Aderire è volontario, ma chi aderisce può usare le sue misure per dimostrare la conformità, mentre chi sceglie altre strade deve dimostrare che sono adeguate, caso per caso, davanti a diverse autorità di vigilanza. La pagina della Commissione riporta che circa 190 organizzazioni lo avevano firmato a fine luglio 2026.
La parte tecnica è nella misura 1.1. Finché nessuna tecnica singola soddisfa da sola i quattro requisiti (efficacia, interoperabilità, robustezza e affidabilità) per audio, immagini, video e testo contenuto in file, i firmatari applicano almeno due strati di marcatura leggibile dalle macchine: metadati firmati digitalmente e una filigrana impercettibile. Un terzo strato, l'impronta o il registro dei contenuti generati, è facoltativo e non basta da solo. Il testo libero fa eccezione: non può trasportare metadati, quindi basta lo strato di filigrana, applicata anche a testi oltre 200 token, con l'avvertenza che l'affidabilità è inferiore a quella dei testi lunghi. Chi lo offre deve mettere a disposizione uno strumento di rilevazione gratuito, con una deroga ragionevole per i fornitori sotto il milione di utenti mensili con costi di rilevazione elevati.
La logica dei due strati è quella di una difesa in profondità: i metadati sono precisi e verificabili ma stanno accanto al contenuto, non dentro, e una conversione di formato o uno screenshot può non portarli con sé; la filigrana è nel contenuto stesso e resiste a più trasformazioni, ma non è infallibile. Per i metadati esiste una specifica aperta, la C2PA (Content Credentials), che definisce un manifest firmato che rende evidente la manomissione (tamper-evident) legato al contenuto. Il codice parla di standard aperti per i metadati senza nominarne uno: la C2PA è un esempio di specifica aperta, non una prescrizione.
Come funziona una filigrana statistica per il testo
La filigrana per i modelli linguistici più citata è quella di Kirchenbauer e coautori (2023). A ogni passo di generazione, un generatore pseudocasuale, inizializzato da una chiave e dal token precedente, divide il vocabolario in una lista "verde" (una frazione γ) e una "rossa". Prima del campionamento si somma una spinta δ ai logit dei token verdi. Il testo che ne esce contiene più token verdi di quanto ci si aspetti a caso. Chi conosce la chiave non ha bisogno del modello: ricalcola per ogni token se è verde e fa un test statistico. Con T token e G verdi la statistica è z = (G − γT) / √(Tγ(1−γ)); l'articolo propone una soglia di z = 4 per dichiarare la presenza della filigrana.
Il programma seguente la implementa su un "modello" giocattolo: i logit sono estratti da una distribuzione normale con seme fisso, non c'è nessun modello linguistico. Serve a far vedere la meccanica e i suoi limiti, non a stimare prestazioni reali. La funzione verde usa SHA-256 e non l'hash() di Python, che per le stringhe cambia a ogni avvio e renderebbe il test non ripetibile.
"""Filigrana statistica 'green list' (Kirchenbauer et al., 2023) su un modello giocattolo.
Nessun modello linguistico: il 'modello' e' una distribuzione pseudocasuale su un vocabolario sintetico."""
import hashlib, math, random
VOCAB = 1000 # token sintetici 0..999
GAMMA = 0.5 # quota di vocabolario 'verde' a ogni passo
DELTA = 2.0 # spinta sul logit dei token verdi
CHIAVE = b"chiave-del-fornitore"
def verde(prev, tok):
"""Il token tok e' verde dato il token precedente? Dipende da chiave e contesto."""
h = hashlib.sha256(CHIAVE + prev.to_bytes(4, "big") + tok.to_bytes(4, "big")).digest()
return h[0] < 256 * GAMMA
def genera(n, filigrana, seme):
rng = random.Random(seme)
testo, prev = [], 0
for _ in range(n):
logit = [rng.gauss(0, 1) for _ in range(VOCAB)]
if filigrana:
logit = [x + DELTA if verde(prev, t) else x for t, x in enumerate(logit)]
m = max(logit)
pesi = [math.exp(x - m) for x in logit]
tok = rng.choices(range(VOCAB), weights=pesi)[0]
testo.append(tok)
prev = tok
return testo
def z_score(testo):
verdi = sum(verde(p, t) for p, t in zip([0] + testo[:-1], testo))
T = len(testo)
return (verdi - GAMMA * T) / math.sqrt(T * GAMMA * (1 - GAMMA))
def attacco(testo, quota, seme):
"""Sostituisce una quota di token con token casuali (parafrasi grossolana)."""
rng = random.Random(seme)
return [rng.randrange(VOCAB) if rng.random() < quota else t for t in testo]
N = 200
con = genera(N, True, seme=1)
senza = genera(N, False, seme=2)
print(f"senza filigrana, {N} token: z = {z_score(senza):5.2f}")
print(f"con filigrana, {N} token: z = {z_score(con):5.2f}")
for quota in (0.1, 0.3, 0.5, 0.7):
print(f"con filigrana, {int(quota*100):>2}% dei token sostituiti: z = {z_score(attacco(con, quota, 3)):5.2f}")
print(f"con filigrana, solo i primi 20 token: z = {z_score(con[:20]):5.2f}")
# Output (python3 -I, Python 3.14.4):
# senza filigrana, 200 token: z = 0.42
# con filigrana, 200 token: z = 11.03
# con filigrana, 10% dei token sostituiti: z = 8.77
# con filigrana, 30% dei token sostituiti: z = 6.22
# con filigrana, 50% dei token sostituiti: z = 2.69
# con filigrana, 70% dei token sostituiti: z = 1.27
# con filigrana, solo i primi 20 token: z = 2.68
Il testo senza filigrana ha z vicino a zero, come previsto per una scelta a caso con γ = 0,5. Il testo con filigrana, su 200 token, ha z ≈ 11, ben oltre la soglia 4. Poi l'attacco, che in questo caso è una sostituzione casuale di token (la categoria "sostituzione lessicale" dell'elenco di alterazioni tipiche del codice): al 10% e al 30% la filigrana è ancora rilevabile; al 50% z scende a circa 2,7, sotto soglia; al 70% è indistinguibile dal rumore. Ogni sostituzione danneggia due coppie (token, precedente), perché ciascun token dipende dal precedente: per questo il calo è più rapido di quanto suggerisca la percentuale. L'ultima riga mostra l'altro limite: su soli 20 token z vale circa 2,7, quindi un testo corto non si può certificare. È coerente con la scelta del codice di non pretendere la filigrana sui testi molto brevi e di avvertire che l'affidabilità sul testo libero è inferiore.
Due precisazioni sul valore di questi numeri. La prima: sono misure su un modello giocattolo con logit gaussiani, quindi ad alta entropia, che è il caso più favorevole alla filigrana; sul testo reale, e in particolare sul codice sorgente, dove molti token sono quasi obbligati, il segnale è più debole (il paper parla di casi a bassa entropia in cui la filigrana non viene rilevata). La seconda: una parafrasi con un altro modello è un attacco più forte della sostituzione casuale. Il codice di buone pratiche elenca tra le alterazioni da considerare la sostituzione lessicale, i caratteri omoglifi, la parafrasi e i cicli di traduzione.
Che cosa implementare, e che cosa no
Se sei il fornitore di un sistema generativo, la strada concreta è chiedere al fornitore del modello se offre filigrana a livello di modello o di inferenza (il codice incoraggia i fornitori di modelli a farlo, anche per aiutare chi sta a valle), e comunque aggiungere i metadati firmati. Il codice ammette che le tecniche siano fornite da terzi o dal fornitore del modello a monte, senza che questo sollevi il fornitore del sistema dalla propria responsabilità di assicurare che gli output siano marcati in modo conforme. Per immagini e video le due famiglie sono i metadati firmati (C2PA è una specifica aperta) e le filigrane incorporate nel contenuto, che non ho misurato; per il testo la filigrana statistica è quella documentata dal paper citato, con i limiti sopra.
Due cose non servono, o non bastano. Un campo di testo "generato da IA" nell'HTML è un avviso per le persone, non una marcatura leggibile dalle macchine robusta. Un registro dei contenuti generati (logging) può affiancare la marcatura, ma il codice dice espressamente che affidarsi solo a impronta o registro non basta. E non esiste una scorciatoia nel contratto: nessuna clausola trasferisce al cliente un obbligo che il regolamento pone al fornitore.
Domande frequenti
Una filigrana per il testo è davvero invisibile?
Non altera la forma delle parole, ma altera la distribuzione dei token scelti: l'idea di Kirchenbauer è appunto spingere la scelta verso i token verdi senza che un lettore lo noti. L'impatto sulla qualità dipende dalla spinta δ e dall'entropia del testo. È una caratteristica del metodo, non una garanzia del regolamento.
Posso generare contenuti senza marcatura se l'utente me lo chiede?
L'obbligo dell'articolo 50, paragrafo 2, è del fornitore e non prevede una rinuncia dell'utente. Le uniche eccezioni previste dal testo sono i sistemi con funzione di assistenza all'editing standard, quelli che non modificano in modo sostanziale i dati di input o la loro semantica, e i casi autorizzati dalla legge per accertare o perseguire reati.
Se uso un'API che già marca i contenuti, sono a posto?
Può essere una parte della soluzione, ma il codice di buone pratiche dice che usare tecniche di terzi non solleva il fornitore del sistema dalla propria responsabilità. Verifica con il tuo fornitore quali formati e quali strumenti di rilevazione offre.
Un testo scritto con l'IA e rivisto da un redattore va dichiarato?
L'obbligo di dichiarazione dei testi pubblicati per informare il pubblico su questioni di interesse pubblico non si applica se il contenuto è stato sottoposto a revisione umana o controllo editoriale e una persona fisica o giuridica ne ha la responsabilità editoriale (articolo 50, paragrafo 4). È un obbligo del deployer, e riguarda quel tipo di testi, non ogni testo.
La filigrana sopravvive a compressione o ridimensionamento?
Dipende dalla tecnica e dal tipo di contenuto. Non ho misurato filigrane su immagini o audio per questo articolo. Il codice di buone pratiche chiede ai firmatari di testare la robustezza contro alterazioni tipiche come ricompressione, screenshot, ritaglio, ridimensionamento e parafrasi (misura 3.3).
Che cosa sai fare adesso
Sai distinguere l'obbligo di marcare, che spetta al fornitore dell'articolo 50, paragrafo 2, da quello di dichiarare, che spetta al deployer; sai che cosa prevede la sezione per i fornitori del codice di buone pratiche (due strati, rilevazione gratuita, testo come eccezione); sai misurare con un test z se un testo porta una filigrana statistica e quanto un attacco ne riduce il segnale; e sai quando un testo è troppo corto per essere certificato. Nel prossimo articolo passi dai contenuti ai dati: l'intersezione tra GDPR e AI Act. Per i rischi di abuso dei modelli, una lettura complementare è Guardrail landscape 2026.
Fonti
- Regolamento (UE) 2024/1689, testo consolidato del 27.7.2026 - articolo 50, articolo 99 paragrafo 4 e articolo 111 paragrafo 4, letti sul testo italiano, consultata il 2026-11-13
- Commissione europea, Code of Practice on Transparency of AI-generated Content - sezioni per fornitori e deployer, misure 1.1, 2.1, 3.3, numero di firmatari a fine luglio 2026, consultata il 2026-11-13
- Kirchenbauer et al., A Watermark for Large Language Models (arXiv:2301.10226) - lista verde/rossa, parametri γ e δ, statistica z e soglia z = 4, consultata il 2026-11-13
- C2PA Technical Specification 2.2 - definizione di manifest firmato che rende evidente la manomissione (tamper-evident), consultata il 2026-11-13
Il listato è stato eseguito con Python 3.14.4, con uscita identica in due esecuzioni; il "modello" è un generatore pseudocasuale, non un modello linguistico, e i valori di z non descrivono prestazioni reali. Il contenuto completo del codice e la specifica C2PA non sono stati letti per esteso: sono stati letti i passi citati.

Commenti
Caricamento commenti...
Accedi per commentare