Salta al contenuto principale

05 - GDPR e AI Act: privacy by design nei sistemi di IA

Dove GDPR e AI Act si incontrano: articolo 25, decisioni automatizzate, valutazioni d'impatto, log e pseudonimizzazione misurata con un k-anonimato.

Cosa ne pensi di questo articolo?

05 - GDPR e AI Act: privacy by design nei sistemi di IA
AI Policy EUFoto:Tara WinsteadPexels

In Breve

Dove GDPR e AI Act si incontrano: articolo 25, decisioni automatizzate, valutazioni d'impatto, log e pseudonimizzazione misurata con un k-anonimato.

Rispettare l'AI Act non basta se i dati sono personali: dove i due regolamenti si incontrano

Il GDPR e l'AI Act hanno oggetti diversi. Il primo regola il trattamento di dati personali, a prescindere dalla tecnologia; il secondo regola i sistemi di IA e i modelli, a prescindere dal fatto che trattino dati personali. Un sistema di scoring del credito, di selezione dei CV o di triage li attiva entrambi, e nessuno dei due assorbe l'altro: l'AI Act lo dice espressamente, a più riprese, rinviando al GDPR, e nei punti in cui le regole sembrano in tensione (per esempio sulla conservazione dei log) rinvia al diritto sulla protezione dei dati. Il lavoro dello sviluppatore è sapere in quali punti si sovrappongono, perché lì una scelta di progetto serve a due obblighi.

Questo articolo parte dall'obbligo di protezione dei dati fin dalla progettazione (articolo 25 GDPR), mette in fila i punti di contatto con l'AI Act, e mostra con un programma eseguibile che cosa vuol dire minimizzare e quanto poco basta una pseudonimizzazione. Non è consulenza legale: dice che cosa prevedono le norme e dove le ho lette. Il quadro generale dell'AI Act e delle sue date è nel primo articolo; l'articolo precedente tratta la marcatura dei contenuti generati.

Che cosa chiede davvero l'articolo 25 del GDPR

L'articolo 25, paragrafo 1, impone al titolare del trattamento di mettere in atto, sia al momento di determinare i mezzi del trattamento sia durante il trattamento stesso, misure tecniche e organizzative adeguate, come la pseudonimizzazione, per attuare in modo efficace i principi di protezione dei dati, come la minimizzazione. Il paragrafo 2 aggiunge la protezione "per impostazione predefinita": per default sono trattati solo i dati necessari per ogni finalità, rispetto a quantità raccolta, portata, periodo di conservazione e accessibilità. La norma tiene conto di stato dell'arte, costi, natura e contesto del trattamento e dei rischi per i diritti e le libertà.

Il bersaglio sono i principi dell'articolo 5, e due contano più degli altri per chi lavora con modelli: la limitazione della finalità (paragrafo 1, lettera b) e la minimizzazione (lettera c, dati "adeguati, pertinenti e limitati a quanto necessario"). Il paragrafo 2 dell'articolo 5 aggiunge la responsabilizzazione: il titolare deve essere in grado di comprovare il rispetto. Non esiste un elenco di "sei pilastri" nel regolamento: le misure sono quelle che ti servono per attuare i principi, e quanto spesso e quanto a fondo dipende dal rischio. Una violazione dell'articolo 25 rientra nella fascia di sanzioni fino a 10 milioni di euro o al 2% del fatturato mondiale annuo, se superiore (articolo 83, paragrafo 4); la violazione dei principi di base dell'articolo 5 e dei diritti degli interessati in quella fino a 20 milioni o al 4% (paragrafo 5).

I cinque punti dove GDPR e AI Act si toccano

Se leggi i due testi in parallelo, i punti di contatto sono cinque. Conviene vederli insieme, perché in ciascuno una scelta di progetto serve entrambi i regolamenti, oppure li mette in tensione.

  • Dati di addestramento. L'AI Act, per i sistemi ad alto rischio, chiede pratiche di governance dei dati che includono origine dei dati e, per i dati personali, la finalità originaria della raccolta (articolo 10, paragrafo 2, lettera b). Il GDPR chiede una base giuridica (articolo 6, e articolo 9 per le categorie particolari) e il rispetto della finalità e della minimizzazione.
  • Dati sensibili per correggere le distorsioni. Per rilevare e correggere distorsioni nei sistemi ad alto rischio, l'articolo 4 bis dell'AI Act (introdotto dal regolamento 2026/1744, che ha soppresso il vecchio articolo 10, paragrafo 5) consente eccezionalmente ai fornitori il trattamento di categorie particolari di dati, alle condizioni elencate.
  • Decisioni automatizzate. L'articolo 22 del GDPR dà all'interessato il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici o incida in modo analogo significativamente; l'AI Act chiede sorveglianza umana (articolo 14), informa le persone soggette a decisioni (articolo 26, paragrafo 11) e dà un diritto a spiegazioni (articolo 86).
  • Valutazioni d'impatto. La valutazione d'impatto sulla protezione dei dati (articolo 35 GDPR) e la valutazione d'impatto sui diritti fondamentali dell'AI Act (articolo 27) sono distinte, ma l'articolo 27, paragrafo 4, consente di rinviare alle sezioni pertinenti della DPIA, e l'articolo 26, paragrafo 9, dice che il deployer usa le informazioni del fornitore per la DPIA.
  • Conservazione dei log. L'AI Act impone di conservare i log per un periodo adeguato, di almeno sei mesi, "salvo diversamente disposto dal diritto dell'Unione o nazionale applicabile, in particolare dal diritto dell'Unione in materia di protezione dei dati personali" (articoli 19 e 26).

La lettura utile è il verso di ogni punto. Nel primo e nel terzo il GDPR è la base e l'AI Act aggiunge obblighi sul sistema; nel secondo l'AI Act apre una porta che il GDPR chiudeva, a condizioni stringenti; nel quarto sono due documenti da tenere coerenti; nel quinto il minimo di sei mesi è subordinato alla protezione dei dati, quindi un log pieno di dati personali non è giustificato da quella norma: la durata minima non annulla la minimizzazione. Nessuno dei cinque ti dice una durata o una soglia numerica oltre a quelle citate.

Credito automatizzato: l'articolo 22 e la sentenza SCHUFA

Il caso più discusso è il credito. Con la sentenza del 7 dicembre 2023 nella causa C-634/21 (SCHUFA Holding), la Corte di giustizia ha stabilito che il calcolo automatizzato, da parte di una società di informazioni commerciali, di un tasso di probabilità sulla capacità di una persona di onorare in futuro i pagamenti costituisce un "processo decisionale automatizzato" ai sensi dell'articolo 22, paragrafo 1, quando da quel tasso dipende in modo decisivo la stipula, l'esecuzione o la cessazione di un rapporto contrattuale da parte di un terzo a cui il tasso è comunicato. La conseguenza per chi sviluppa un motore di punteggio è che il punteggio stesso, non solo la decisione finale della banca, può ricadere nell'articolo 22.

L'articolo 22 ha eccezioni (necessità contrattuale, autorizzazione di legge, consenso esplicito). Nei casi di contratto e di consenso il titolare deve prevedere misure appropriate, almeno il diritto di ottenere l'intervento umano, di esprimere la propria opinione e di contestare la decisione (paragrafo 3); nel caso della legge è questa a dover precisare misure adeguate (paragrafo 2, lettera b). Questo è esattamente ciò che l'AI Act chiede in forma di progetto: un operatore che può ignorare, annullare o ribaltare l'output (articolo 14, paragrafo 4, lettera d) è la precondizione tecnica del diritto all'intervento umano. Non basta un bottone "conferma" che chiude la pratica.

Minimizzare in concreto: un esempio con dati sintetici

Minimizzare significa togliere ciò che il modello non deve vedere e generalizzare ciò che deve vedere, senza fingere che i dati siano anonimi. Il programma seguente lavora su otto righe inventate. Applica tre trasformazioni: sostituisce il codice fiscale con uno pseudonimo calcolato con HMAC-SHA256 e una chiave tenuta separata, riduce l'età a una fascia e il CAP alle prime tre cifre; poi misura il k-anonimato rispetto ai quasi-identificatori (fascia d'età e area).

"""Minimizzazione e pseudonimizzazione su dati sintetici (art. 25 GDPR).
Nessun dato reale: le 8 righe sono inventate."""
import hmac, hashlib
from collections import Counter

CHIAVE = b"chiave-separata-dai-dati"   # in produzione: in un gestore di segreti, non nel codice
RIGHE = [
    {"nome": "Anna Rossi",  "cf": "RSSNNA85A41L219X", "eta": 38, "cap": "73100", "reddito": 31000, "esito": 1},
    {"nome": "Luca Bianchi", "cf": "BNCLCU90B12H501Y", "eta": 34, "cap": "73100", "reddito": 28000, "esito": 0},
    {"nome": "Sara Verdi",  "cf": "VRDSRA82C45F205Z", "eta": 42, "cap": "73100", "reddito": 45000, "esito": 1},
    {"nome": "Paolo Neri",  "cf": "NREPLA79D10L219W", "eta": 45, "cap": "73100", "reddito": 52000, "esito": 1},
    {"nome": "Gina Gialli", "cf": "GLLGNI95E50H501V", "eta": 29, "cap": "20121", "reddito": 22000, "esito": 0},
    {"nome": "Omar Blu",    "cf": "BLUMRO88F01F205U", "eta": 36, "cap": "20121", "reddito": 39000, "esito": 1},
    {"nome": "Rita Viola",  "cf": "VLIRTI70G41L219T", "eta": 54, "cap": "20121", "reddito": 61000, "esito": 1},
    {"nome": "Dino Grigi",  "cf": "GRGDNI93H10H501S", "eta": 31, "cap": "20121", "reddito": 26000, "esito": 0},
]

def pseudonimo(valore):
    return hmac.new(CHIAVE, valore.encode(), hashlib.sha256).hexdigest()[:12]

def fascia_eta(eta):
    base = eta // 10 * 10
    return f"{base}-{base + 9}"

def minimizza(riga):
    return {
        "id": pseudonimo(riga["cf"]),          # collegabile solo con la chiave
        "fascia_eta": fascia_eta(riga["eta"]),  # niente data o eta' esatta
        "area": riga["cap"][:3],                # solo le prime tre cifre del CAP
        "reddito": riga["reddito"],
        "esito": riga["esito"],
    }

def k_anonimato(righe, quasi_identificatori):
    gruppi = Counter(tuple(r[q] for q in quasi_identificatori) for r in righe)
    return min(gruppi.values()), gruppi

ridotte = [minimizza(r) for r in RIGHE]
print("campi prima :", sorted(RIGHE[0]))
print("campi dopo  :", sorted(ridotte[0]))
print("id stabile  :", pseudonimo("RSSNNA85A41L219X") == ridotte[0]["id"])
k, gruppi = k_anonimato(ridotte, ["fascia_eta", "area"])
print("k sui quasi-identificatori (fascia_eta, area):", k)
for g, n in sorted(gruppi.items()):
    print("  ", g, n)

# Seconda generalizzazione: fasce di vent'anni e nessuna area
def fascia_larga(eta):
    base = eta // 20 * 20
    return f"{base}-{base + 19}"

larghe = [{"fascia_eta": fascia_larga(r["eta"])} for r in RIGHE]
k2, gruppi2 = k_anonimato(larghe, ["fascia_eta"])
print("k con fasce da vent'anni e senza area:", k2)
for g, n in sorted(gruppi2.items()):
    print("  ", g, n)

# Output (python3 -I, Python 3.14.4):
# campi prima : ['cap', 'cf', 'esito', 'eta', 'nome', 'reddito']
# campi dopo  : ['area', 'esito', 'fascia_eta', 'id', 'reddito']
# id stabile  : True
# k sui quasi-identificatori (fascia_eta, area): 1
#    ('20-29', '201') 1
#    ('30-39', '201') 2
#    ('30-39', '731') 2
#    ('40-49', '731') 2
#    ('50-59', '201') 1
# k con fasce da vent'anni e senza area: 3
#    ('20-39',) 5
#    ('40-59',) 3

La funzione pseudonimo è una pseudonimizzazione nel senso dell'articolo 4, punto 5, del GDPR: i dati non sono attribuibili a una persona senza informazioni aggiuntive (qui, la chiave), che devono essere conservate separatamente. Il considerando 26 precisa che i dati pseudonimizzati restano informazioni su una persona identificabile: il programma lo mostra a modo suo, perché id stabile: True dice che chi ha la chiave rimette in relazione la riga con il codice fiscale. L'altra metà dell'uscita è il motivo per cui la pseudonimizzazione non è anonimizzazione: con fasce da dieci anni e CAP a tre cifre, k vale 1, cioè due persone sono uniche per quella combinazione di attributi (le altre sono in gruppi da due). Solo con fasce da vent'anni e senza area si arriva a k = 3, al prezzo di perdere la geografia.

Il caso è minuscolo ed è fatto apposta: su otto righe è facile finire con gruppi di uno, su milioni di righe il problema si sposta sui valori rari. Il significato pratico non cambia. Prima di dichiarare "dati anonimi" bisogna misurare la rarità delle combinazioni, e il confine fra anonimo e pseudonimo decide se il GDPR si applica. Per i modelli, il Comitato europeo per la protezione dei dati (parere 28/2024 del 18 dicembre 2024) ha scritto che un modello addestrato con dati personali non può essere considerato anonimo in ogni caso: sono richieste valutazioni caso per caso, e perché lo sia devono essere insignificanti sia la probabilità di estrazione diretta (anche probabilistica) di dati personali di chi ha contribuito all'addestramento, sia la probabilità di ottenerne dalle interrogazioni, tenuto conto di tutti i mezzi ragionevolmente utilizzabili.

Base giuridica per l'addestramento: il parere 28/2024

Lo stesso parere affronta la base giuridica. Ricorda che non c'è gerarchia fra le basi dell'articolo 6 e che spetta al titolare scegliere quella appropriata. Per il legittimo interesse richiama un test in tre passi: identificare l'interesse perseguito, valutare la necessità del trattamento per quell'interesse, verificare che non prevalgano gli interessi, i diritti e le libertà dell'interessato (bilanciamento). Un interesse può essere considerato legittimo se è lecito, formulato in modo chiaro e preciso, reale e attuale (non speculativo); l'esempio è lo sviluppo di un agente conversazionale per assistere gli utenti. Il parere esamina anche tre scenari sulle conseguenze di un trattamento illecito nello sviluppo di un modello sul funzionamento successivo; non li riassumo, perché la risposta dipende dal caso e dall'autorità di controllo.

Domande frequenti

Posso addestrare un modello con dati pubblici da Internet senza preoccuparmi del GDPR?

No: se i dati riguardano persone identificate o identificabili sono dati personali, anche se accessibili al pubblico, e serve una base giuridica. Il legittimo interesse è una possibile base, da valutare con il test in tre passi, non un automatismo.

La pseudonimizzazione mi fa uscire dal GDPR?

No. L'articolo 4, punto 5, la definisce come misura, e il considerando 26 dice che i dati pseudonimizzati restano informazioni su una persona identificabile. È una misura di sicurezza e di riduzione del rischio, esplicitamente citata dall'articolo 25.

Ho bisogno di un responsabile della protezione dei dati?

Lo prevede l'articolo 37, paragrafo 1, in tre casi: autorità o organismo pubblico, attività principali che richiedono monitoraggio regolare e sistematico degli interessati su larga scala, attività principali che consistono nel trattamento su larga scala di categorie particolari di dati o di dati su condanne penali e reati.

La cancellazione dei dati (articolo 17) obbliga a cancellare il modello addestrato?

Non c'è una risposta uniforme. Dipende dal motivo di cancellazione e da se il modello contiene dati personali: il parere 28/2024 dice che l'anonimato di un modello si valuta caso per caso. Il parere chiede al titolare di documentare l'anonimato; senza quella documentazione la pretesa è difficile da sostenere.

Il diritto alla spiegazione dell'AI Act è lo stesso dell'articolo 22 del GDPR?

No. L'articolo 86 dell'AI Act dà il diritto di ottenere dal deployer spiegazioni chiare e significative sul ruolo del sistema di IA nella decisione e sui principali elementi della decisione, per sistemi dell'allegato III (escluso il punto 2) e decisioni con effetti giuridici o significativi. L'articolo 22 del GDPR riguarda il diritto di non essere sottoposti a decisioni unicamente automatizzate. Si cumulano.

Che cosa sai fare adesso

Sai che cosa chiede l'articolo 25 del GDPR e perché non esiste un elenco di pilastri; sai quali sono i cinque punti in cui GDPR e AI Act si toccano e in quale verso; sai che il punteggio di credito può ricadere nell'articolo 22 anche quando la decisione finale è di un altro; e sai misurare con un k-anonimato che cosa resta identificabile dopo aver tolto i campi diretti. Nell'ultimo articolo metti questi controlli in un kit di audit eseguibile: il compliance toolkit. Il tema dei log come prova, citato nel secondo articolo, si incrocia con la minimizzazione qui descritta.

Fonti

Il listato è stato eseguito con Python 3.14.4, con uscita identica in due esecuzioni; usa otto righe inventate, nessun dato reale. Del parere 28/2024 è stato letto il sommario esecutivo, non l'intero testo; il testo del GDPR è quello pubblicato nel 2016, non una versione consolidata successiva.

Prova Questi Strumenti

Strumenti gratuiti correlati a questo argomento.

Commenti

Caricamento commenti...

Accedi per commentare

Articoli e strumenti nuovi anche su Telegram

Il canale Telegram segnala gli articoli e gli strumenti nuovi del sito.

Ti è piaciuto questo articolo?

Esplora altri contenuti sul blog o scopri i miei progetti