Privacy by design in una pipeline ML: sapere dove stanno i dati, per quanto, e chi li ha
L'articolo 25 del GDPR chiede due cose che in una pipeline di machine learning si rompono per lo stesso motivo. Al paragrafo 1, misure tecniche e organizzative adeguate, come la pseudonimizzazione, sia al momento di determinare i mezzi del trattamento sia durante il trattamento, per attuare principi come la minimizzazione. Al paragrafo 2, che per impostazione predefinita siano trattati solo i dati necessari per ogni finalità, quanto a quantità, portata, periodo di conservazione e accessibilità. Il motivo comune è che i dati personali, in una pipeline, si copiano: l'esportazione grezza, il dataset di addestramento e le sue versioni, i log di inferenza, la cache degli embedding, il modello. Se non sai dove sono le copie, non puoi cancellarle alla scadenza né ritrovarle quando un interessato le chiede.
Questo articolo prende il lato ingegneristico: un registro degli artefatti con scadenze e richieste di cancellazione, in un programma che puoi eseguire. Il quadro in cui GDPR e AI Act si toccano (base giuridica, articolo 22, valutazioni d'impatto, conservazione dei log) e la minimizzazione con k-anonimato sono nell'articolo precedente della serie, su privacy by design e AI Act; qui non li ripeto. Non è consulenza legale: dice che cosa prevedono le norme, con l'articolo accanto, e dove un numero è una scelta tua e non della legge.
Che cosa chiede il GDPR sulle copie
Quattro disposizioni decidono il progetto. L'articolo 5, paragrafo 1, lettera e, chiede che i dati siano conservati in forma identificabile per un arco di tempo non superiore al conseguimento delle finalità; la lettera c chiede che siano limitati a quanto necessario; il paragrafo 2 chiede che il titolare sia in grado di comprovare il rispetto. L'articolo 15 dà all'interessato il diritto di avere accesso ai dati e a informazioni come finalità, categorie, destinatari e, quando possibile, il periodo di conservazione previsto o i criteri per determinarlo. L'articolo 17 dà il diritto alla cancellazione, fra l'altro quando i dati non sono più necessari rispetto alle finalità. L'articolo 12, paragrafo 3, impone di rispondere senza ingiustificato ritardo e al più tardi entro un mese dal ricevimento, prorogabile di due mesi se necessario tenuto conto di complessità e numero delle richieste.
Il collegamento fra le quattro è il tempo e la prova: puoi rispondere entro un mese solo se in un mese sai trovare tutte le copie, e puoi comprovare il rispetto della lettera e solo se esiste una scadenza dichiarata per ciascun artefatto. Nessuna norma ti dà i giorni: la durata la motivi tu con la finalità. Il registro dei trattamenti dell'articolo 30 resta l'adempimento giuridico; il registro tecnico degli artefatti che segue è lo strato sotto di esso, quello che ti permette di mantenerlo vero.
Un registro degli artefatti, con scadenze e richieste
Il programma modella ogni copia come un Artefatto immutabile: nome, tipo (dataset, log, modello, cache), data di creazione, giorni di conservazione (o None se serve finché il modello è in uso, da motivare), insieme dei pseudonimi dei soggetti presenti e, per i derivati, l'artefatto da cui provengono. I soggetti sono identificati da un pseudonimo calcolato con HMAC-SHA256 e una chiave tenuta fuori dal repository: l'articolo 4, punto 5, chiede che le informazioni aggiuntive per riattribuire i dati siano conservate separatamente, e la chiave è proprio quell'informazione. Lo pseudonimo non rende i dati anonimi; serve a collegare gli artefatti di uno stesso soggetto senza portare nome e codice fiscale in ogni file.
Tre funzioni fanno il lavoro. scaduti restituisce gli artefatti oltre la scadenza, cioè il controllo che un job notturno dovrebbe eseguire prima di cancellare. richiesta riceve uno pseudonimo e restituisce, per ogni artefatto che lo contiene o che ne deriva, l'azione da compiere: i dataset si riscrivono senza il soggetto e si rigenerano le versioni derivate, i log si ripuliscono, le cache si svuotano. Per il modello il programma non decide: stampa «decisione umana», perché il GDPR non dice se un modello addestrato su un dato lo «contenga», e non ho una regola da darti. L'ultima parte risponde a una richiesta di accesso dell'articolo 15 dicendo dove compare il soggetto. Dati e date sono fissi: l'esecuzione è riproducibile, e due esecuzioni consecutive hanno dato la stessa uscita.
"""Registro degli artefatti di una pipeline ML con dati personali: scadenze e richieste di cancellazione.
Riferimenti: GDPR art. 5(1)(e) limitazione della conservazione, art. 15 accesso, art. 17 cancellazione, art. 25.
Dati sintetici: nessun dato reale. Le date sono fisse per rendere l'esecuzione riproducibile."""
import hashlib
import hmac
from dataclasses import dataclass
from datetime import date, timedelta
CHIAVE = b"chiave-tenuta-fuori-dal-repository" # in produzione: gestore di segreti
def pseudonimo(codice_fiscale: str) -> str:
"""Stesso soggetto, stesso pseudonimo: serve a collegare gli artefatti, non ad anonimizzare."""
return hmac.new(CHIAVE, codice_fiscale.encode(), hashlib.sha256).hexdigest()[:10]
@dataclass(frozen=True)
class Artefatto:
nome: str
tipo: str # "dataset" | "log" | "modello" | "cache"
creato: date
conserva_giorni: int | None # None = finche' serve, da motivare
soggetti: frozenset # pseudonimi presenti nell'artefatto
derivato_da: str | None = None
def scaduti(registro: list, oggi: date) -> list:
return [a.nome for a in registro
if a.conserva_giorni is not None and a.creato + timedelta(days=a.conserva_giorni) < oggi]
def richiesta(registro: list, p: str) -> list:
"""Dove compare il soggetto p, e che cosa si fa per tipo di artefatto."""
azione = {
"dataset": "riscrivere senza il soggetto e rigenerare le versioni derivate",
"log": "cancellare le righe del soggetto",
"cache": "svuotare",
"modello": "DECISIONE UMANA: valutare il riaddestramento (nessuna regola automatica)",
}
nomi = {a.nome for a in registro if p in a.soggetti}
# un modello e' toccato se e' derivato da un artefatto che contiene il soggetto
toccati = [a for a in registro if p in a.soggetti or (a.derivato_da in nomi)]
return [(a.nome, azione[a.tipo]) for a in toccati]
if __name__ == "__main__":
anna, luca, sara = (pseudonimo(c) for c in ("RSSNNA85A41L219X", "BNCLCU90B12H501Y", "VRDSRA82C45F205Z"))
registro = [
Artefatto("train_v1.parquet", "dataset", date(2026, 6, 1), 180, frozenset({anna, luca})),
Artefatto("train_v2.parquet", "dataset", date(2026, 9, 1), 180, frozenset({luca, sara})),
Artefatto("inferenze_ottobre.log", "log", date(2026, 10, 31), 30, frozenset({anna, sara})),
Artefatto("embedding_cache", "cache", date(2026, 11, 1), 7, frozenset({sara})),
Artefatto("scoring_v2.pkl", "modello", date(2026, 9, 3), None, frozenset(), derivato_da="train_v2.parquet"),
]
oggi = date(2026, 11, 13)
print("pseudonimo di Anna:", anna)
print("scaduti al", oggi, ":", scaduti(registro, oggi))
print("\nrichiesta di cancellazione di Luca:")
for nome, cosa in richiesta(registro, luca):
print(f" {nome:<24} {cosa}")
print("\nrichiesta di accesso di Sara (dove compare):")
print(" ", [a.nome for a in registro if sara in a.soggetti])
# Output:
# pseudonimo di Anna: 0cce6c0128
# scaduti al 2026-11-13 : ['embedding_cache']
#
# richiesta di cancellazione di Luca:
# train_v1.parquet riscrivere senza il soggetto e rigenerare le versioni derivate
# train_v2.parquet riscrivere senza il soggetto e rigenerare le versioni derivate
# scoring_v2.pkl DECISIONE UMANA: valutare il riaddestramento (nessuna regola automatica)
#
# richiesta di accesso di Sara (dove compare):
# ['train_v2.parquet', 'inferenze_ottobre.log', 'embedding_cache']
Tre righe dell'uscita meritano di essere lette con attenzione. La prima: embedding_cache è già scaduta alla data fissata, e finché il job non l'ha cancellata contiene dati oltre la finalità, che è la condizione dell'articolo 5, paragrafo 1, lettera e, violata nei fatti. La seconda: la richiesta di cancellazione di Luca tocca due dataset, che vanno riscritti, e un modello derivato dal secondo, che il programma non decide da solo. La terza: la richiesta di accesso di Sara trova anche la cache scaduta, quindi una cancellazione puntuale alla scadenza ti protegge sia sul lato della conservazione sia su quello della risposta.
Che cosa il programma non fa, e che cosa devi aggiungere
Non cancella nulla: è un registro e un piano, e la cancellazione vera tocca storage, backup e repliche. I valori 180, 30 e 7 giorni sono esempi, non indicazioni di legge. Non dichiara se un modello contenga dati personali, ed è l'elemento che mi pare più fragile da automatizzare: la scelta fra riaddestrare, documentare perché non serve o fare altro è una decisione tua, da registrare con la motivazione. Non sa nulla delle copie fuori dalla pipeline, come i backup o le esportazioni scaricate sul portatile di qualcuno; se non entrano nel registro, non entrano nella risposta.
Per un sistema ad alto rischio dell'AI Act c'è un'interazione da non dimenticare. I log generati automaticamente vanno conservati per almeno sei mesi, ma «salvo diversamente disposto» dal diritto dell'Unione o nazionale applicabile, in particolare quello sulla protezione dei dati (art. 19 e art. 26, par. 6): il minimo dell'AI Act non annulla la minimizzazione. Quegli obblighi si applicano dal 2 dicembre 2027 per l'allegato III, secondo il regolamento (UE) 2026/1744. Il rapporto fra log, prova del fornitore e responsabilità per danno è nell'articolo sulla responsabilità del software.
Valutazione d'impatto: quando il registro serve a farla
L'articolo 35 chiede una valutazione d'impatto sulla protezione dei dati prima del trattamento quando questo, in particolare con nuove tecnologie, può presentare un rischio elevato per i diritti e le libertà; una singola valutazione può coprire trattamenti simili con rischi analoghi. Il deployer di un sistema ad alto rischio dell'AI Act usa le informazioni dell'articolo 13 per questa valutazione (art. 26, par. 9). Il registro degli artefatti non sostituisce la valutazione, ma le dà il materiale che di solito manca: elenco dei flussi, tempi di conservazione dichiarati, chi accede a che cosa. Come i due testi si incastrano è nell'articolo sull'AI Act e GDPR.
Domande frequenti
La pseudonimizzazione è obbligatoria?
Non come tale. L'articolo 25, paragrafo 1, la cita come esempio di misura («quali la pseudonimizzazione») e l'articolo 32, paragrafo 1, lettera a, la elenca fra le misure di sicurezza da adottare «se del caso». Ciò che è obbligatorio è attuare i principi, minimizzazione compresa, con misure adeguate al rischio; quali, lo scegli e lo documenti.
Quanto devo conservare i log di inferenza?
Il GDPR non indica una durata: dipende dalla finalità, e la devi motivare. Per i sistemi ad alto rischio dell'AI Act il minimo è sei mesi, salvo diversa disposizione di altre norme, a partire dalle date di applicazione. Un log con dati personali conservato «per sicurezza» oltre la finalità non è giustificato da nessuna delle due norme.
Se un interessato chiede la cancellazione, devo riaddestrare il modello?
Il GDPR non lo dice in termini automatici. L'articolo 17 impone di cancellare i dati personali quando ricorre uno dei motivi elencati, e il registro ti dice dove sono; che cosa fare del modello derivato è una decisione da documentare caso per caso, e va presa prima che arrivi la richiesta, non durante il mese che hai per rispondere.
Che cosa sai fare adesso
Sai che cosa chiedono gli articoli 5, 12, 15, 17 e 25 del GDPR sulle copie dei dati, sai modellarle in un registro con scadenza, pseudonimo e provenienza, e sai quali decisioni il programma lascia a te: la durata, i backup, il destino del modello. Il passo seguente, con il quadro dell'AI Act sopra, è nel compliance toolkit e nell'articolo su provider e deployer, che spiega perché non tutti i tuoi obblighi sono quelli del fornitore.
Fonti
- Regolamento (UE) 2016/679 (GDPR), testo pubblicato in GU L 119 del 4.5.2016 - articoli 4 punto 5, 5, 12, 15, 17, 25, 30, 32 e 35, consultata il 2026-11-13
- Regolamento (UE) 2024/1689, testo consolidato del 27.7.2026 - articoli 13, 19, 26 e 113, consultata il 2026-11-13
- Regolamento (UE) 2026/1744 (Omnibus digitale sull'IA), GU L del 24.7.2026 - date di applicazione dell'alto rischio, consultata il 2026-11-13
Il listato è stato eseguito con Python 3.14.4, con uscita identica in due esecuzioni; usa dati sintetici, nessun dato reale, e una chiave d'esempio. Il testo del GDPR è quello pubblicato nel 2016, non una versione consolidata successiva. L'atto modificativo 2026/1744 non è stato riletto per intero.

Commenti
Caricamento commenti...
Accedi per commentare