AI Act e GDPR per software AI custom guida
AI Act e GDPR per software AI custom guida
Dal 2 agosto 2026 l'AI Act europeo si applica in pieno a tutti i sistemi AI in produzione, compresi i software custom delle PMI italiane. Le sanzioni arrivano a 35 milioni di euro o 7% del fatturato globale. Un software AI personalizzato compliant richiede classificazione del rischio, DPIA GDPR (art. 35), supervisione umana documentata e registrazione UE per i sistemi ad alto rischio. Guida pratica con checklist, errori da evitare e quando serve davvero un consulente legale.
Sono Davide Cocozza, co-founder di Datazen. Quando consegniamo un software AI personalizzato a una PMI italiana, la prima domanda del cliente non è più "quanto costa" — è "siamo a posto con AI Act e GDPR?". Giusto. Dal 2 agosto 2026 la conformità non è più un cost center opzionale ma una pre-condizione per restare in produzione.
Questa guida riassume cosa cambia davvero per chi sta sviluppando o usando un software AI custom in Italia, quali sono i tre livelli di rischio dell'AI Act, come si sovrappone con il GDPR, una checklist pre-deploy di 12 punti, e — soprattutto — quando l'audit interno basta e quando serve uno studio legale specializzato. Senza allarmismo, senza minimizzazione.
Cosa cambia con AI Act nel 2026 per software AI custom
Il Regolamento UE 2024/1689, comunemente "AI Act", è entrato in vigore il 1 agosto 2024 con applicazione scaglionata. Le date che contano per chi gestisce un software AI custom oggi:
Il 2 febbraio 2025 sono già scattati i divieti per le pratiche AI inaccettabili (social scoring, manipolazione subliminale, riconoscimento biometrico real-time in spazi pubblici salvo eccezioni). Il 2 agosto 2025 sono entrati in vigore gli obblighi per i modelli di general-purpose AI come GPT-5 o Claude Opus 4.8. La scadenza che blocca le PMI italiane è quella del 2 agosto 2026: da quella data ogni sistema AI classificato ad alto rischio già in produzione deve essere completamente conforme, pena sanzioni amministrative pesanti.
Le sanzioni sono strutturate su tre livelli, come riporta il testo ufficiale su EUR-Lex: fino a 35 milioni di euro o 7% del fatturato annuo globale per le pratiche vietate (art. 5), fino a 15 milioni o 3% per violazioni degli obblighi sui sistemi ad alto rischio, fino a 7,5 milioni o 1,5% per informazioni false alle autorità. Per le PMI il regolamento prevede tetti proporzionati, ma il rischio reputazionale e la sospensione del sistema sono identici a quelli delle grandi imprese.
Il dato preoccupante è di pubblico dominio: secondo l'analisi di Reuters sulle imprese europee, oltre il 60% delle PMI europee non ha ancora completato la valutazione di conformità. In Italia il Consorzio CINI stima nel 2026 circa 61% di PMI non pronte. Il problema non è la complessità tecnica — è che molte aziende non sanno nemmeno di rientrare nello scope.
I 3 livelli di classificazione rischio AI Act
L'AI Act classifica i sistemi in quattro categorie, ma per i software AI custom delle PMI italiane le categorie operative sono tre: rischio limitato, rischio alto, rischio vietato. Il rischio minimo (filtri spam, AI nei videogiochi) non impone obblighi specifici.
| Livello | Definizione | Esempi software custom | Obblighi principali | Sanzione max |
|---|---|---|---|---|
| Rischio limitato | Sistemi che interagiscono con persone fisiche o generano contenuti senza decidere su diritti | Chatbot customer support, generatori contenuti marketing, raccomandazioni prodotti e-commerce | Trasparenza: dichiarare che si sta interagendo con un'AI, marcare i contenuti sintetici | 7,5M€ o 1,5% fatturato |
| Rischio alto | Sistemi che decidono o influenzano significativamente persone fisiche in ambiti sensibili (Allegato III) | Scoring credito, screening CV, profilazione HR, software diagnostico sanitario, AI per insurance pricing | Risk management system, documentazione tecnica, log automatici, supervisione umana, registrazione DB UE, valutazione conformità | 15M€ o 3% fatturato |
| Rischio vietato | Pratiche AI inaccettabili (art. 5) | Social scoring, riconoscimento emozioni sul lavoro/scuola, manipolazione comportamento, scraping massivo facce | Vietato sviluppare, vendere, usare | 35M€ o 7% fatturato |
La maggior parte dei software AI custom che consegniamo a PMI italiane ricade in rischio limitato. Un chatbot per il customer support, un assistente che redige bozze di email commerciali, un sistema di raccomandazione prodotti su e-commerce sono tutti rischio limitato. Gli obblighi sono leggeri: trasparenza esplicita ("stai parlando con un'AI") e marcatura dei contenuti generati sinteticamente.
Il salto a rischio alto avviene quando il software prende decisioni che hanno effetti giuridici o significativi sulla persona. L'Allegato III dell'AI Act elenca 8 aree: identificazione biometrica, infrastrutture critiche, istruzione, occupazione e lavoratori, accesso a servizi essenziali pubblici e privati (incluso credit scoring), law enforcement, immigrazione, amministrazione della giustizia. Se il tuo software custom fa screening CV per il dipartimento HR, scoring credito per una finanziaria, triage paziente per uno studio medico, sei rischio alto. Punto.
I sistemi vietati (rischio inaccettabile) sono pochi ma assoluti. Il Garante Privacy italiano ha già aperto procedimenti su pratiche borderline, in particolare su sistemi di riconoscimento emozioni in contesti lavorativi.
Come GDPR si combina con AI Act per software custom
L'AI Act non sostituisce il GDPR — si aggiunge. Ogni software AI che processa dati personali deve essere conforme a entrambi i regolamenti. Il punto di contatto più rilevante è l'art. 22 GDPR sulle decisioni automatizzate, che diventa il nervo scoperto della maggior parte dei progetti AI custom.
- Consenso esplicito ex art. 22 GDPR per profilazione e decisioni automatizzate con effetti significativi
- Data minimization: l'LLM riceve solo i dati strettamente necessari al task, mai dump completi
- Diritto alla spiegazione: l'utente deve poter sapere perché il sistema ha preso una certa decisione
- DPO obbligatorio se il software fa profilazione sistematica su larga scala o processa categorie speciali (art. 37 GDPR)
- Registro dei trattamenti aggiornato con il software AI come trattamento autonomo (art. 30 GDPR)
- DPIA ex art. 35 GDPR obbligatoria prima del deploy per qualsiasi profilazione automatizzata
- Data residency: per dati sensibili (sanitari, giudiziari) hosting EU dimostrabile
- Audit trail completo: ogni decisione AI loggata con input, modello, output, timestamp
L'art. 22 GDPR vieta decisioni interamente automatizzate che producono effetti giuridici o significativi sulla persona, salvo tre eccezioni: consenso esplicito, contratto, autorizzazione di legge. Per un software AI custom questo significa che il design deve sempre prevedere o l'opt-in documentato dell'utente o l'intervento umano significativo nel ciclo decisionale. Il Comitato Europeo per la Protezione dei Dati (EDPB) nelle sue linee guida del 2025 chiarisce che "significativo" non vuol dire "presente": il revisore umano deve avere autorità e tempo reali per modificare la decisione, non firmare un timbro.
La DPIA (Data Protection Impact Assessment) ex art. 35 GDPR è obbligatoria per qualsiasi software AI che fa profilazione sistematica, processa categorie speciali (dati sanitari, biometrici, opinioni politiche), o monitora persone su larga scala. Durata standard per una DPIA seria su software AI custom: tra 15 e 30 giorni di lavoro effettivo, con coinvolgimento di DPO, sviluppo, business owner. Saltarla è il singolo errore che causa più sanzioni Garante in Italia dal 2023.
Il DPO (Data Protection Officer) è obbligatorio ex art. 37 GDPR in tre casi: ente pubblico, profilazione sistematica su larga scala, processing di categorie speciali su larga scala. Una PMI con un software custom che fa scoring di 50.000 clienti al mese rientra. Una piccola società che usa l'AI solo per generare email marketing su 2.000 contatti probabilmente no.
Quando il tuo software entra nel rischio alto e cosa fare
Se hai identificato il tuo software come rischio alto, la macchina di compliance si attiva. Ecco i 5 step pratici, in ordine, per arrivare in produzione conforme.
Mappatura uso e identificazione Allegato III
Documenta tutti i casi d'uso effettivi del software, non solo quello dichiarato. Un sistema progettato per "customer support" che de facto fa scoring del cliente per prioritizzare le risposte ricade nell'Allegato III. Output: documento di "intended use" firmato dal business owner. Coinvolgi DPO e legale qui, non dopo.
Valutazione conformità e risk management system
Implementa un sistema di gestione del rischio per tutto il ciclo di vita (art. 9 AI Act): identificazione rischi noti e prevedibili, stima impatto, misure di mitigazione, test residual risk. Per la maggior parte dei sistemi ad alto rischio basta una valutazione interna; per i sistemi biometrici serve un organismo notificato terzo.
Documentazione tecnica completa (Allegato IV)
Redigi la documentazione tecnica richiesta dall'Allegato IV AI Act: descrizione generale del sistema, design dettagliato, monitoring e controllo, gestione dati di training, capacità e limitazioni, metriche di accuracy. Senza questa documentazione il sistema non può essere immesso sul mercato europeo. Conserva 10 anni post-immissione.
Supervisione umana documentata
L'art. 14 AI Act richiede misure di human oversight progettate prima del deploy. Non basta dire "c'è un operatore". Devi documentare: chi è l'umano nel ciclo, quale formazione ha ricevuto, quanto tempo ha per ogni decisione, quale autorità ha di sovrascrivere l'AI, come è monitorato. Il design "approva tutto in batch" non passa l'audit.
Registrazione nel database UE e dichiarazione conformità
I sistemi ad alto rischio devono essere registrati nel database pubblico dell'UE prima dell'immissione sul mercato. Il provider firma la dichiarazione di conformità UE, appone il marchio CE quando applicabile. Dal 2 agosto 2026 questa registrazione è precondizione per operare legalmente in UE.
Lo step più sottovalutato è il 4: la supervisione umana. Vedo regolarmente design dove "human in the loop" significa che una persona riceve un'email con 200 decisioni AI da approvare e clicca "approva tutto". Questo non è oversight, è teatro di compliance. Il digital-strategy.ec.europa.eu chiarisce che la supervisione deve essere "effective and meaningful".
Custom vs SaaS chi vince in compliance
Una domanda frequente: "se uso un SaaS USA tipo HubSpot o Salesforce Einstein, la compliance è del fornitore, no?". Risposta breve: no. La compliance è sempre del deployer — chi usa il sistema nel proprio business — non solo del provider che lo fa. Sia AI Act sia GDPR allocano responsabilità precise al deployer.
| Aspetto | SaaS USA con AI | Software custom EU-hosted | |---|---|---| | Classificazione rischio | Dichiarata dal vendor, spesso generica | Documentabile sul tuo caso d'uso reale | | Data residency | Spesso US-based con SCCs | EU-hosted dimostrabile (Hetzner, OVH, Azure Italy) | | DPIA fattibile | Difficile (opacity vendor) | Completa e auditable | | Audit trail decisioni | Limitato a quello che il vendor espone | Totale, log strutturati ogni call LLM | | Modificabilità per compliance | Quasi zero | Codice è tuo, modifichi quello che serve | | Rischio transfer extra-UE | Sì (Schrems II vivente) | Eliminabile by design |
Il custom non è automaticamente compliant — devi progettarlo per esserlo. Ma il SaaS USA spesso non lo è e non puoi farlo diventare. Per una PMI in settore regolato (sanità, finanza, legale), un software custom hostato EU con modelli accessibili via AWS Bedrock Frankfurt o Azure OpenAI Italy elimina alla radice il problema del transfer extra-UE che la Corte di Giustizia UE ha demolito con la sentenza Schrems II.
Per approfondire il trade-off economico-strategico vedi la guida completa su software AI personalizzato per aziende 2026 e l'analisi build vs buy per agenti AI di lead generation. Sui costi puri trovi numeri concreti in quanto costa un software AI personalizzato nel 2026.
Quando consegniamo un software AI custom includiamo nello scope la valutazione di rischio AI Act, la mappatura GDPR, e la DPIA quando applicabile. Se hai già un software in produzione e vuoi capire dove sei rispetto al 2 agosto 2026, il punto di partenza è una sessione di consulenza AI per PMI — audit gap analysis in 48 ore. Per chi parte da zero, lo sviluppo software AI include compliance by design dal giorno 1.
Limiti dell'audit interno quando serve consulente legale
Voglio essere diretto: la maggior parte di questa guida ti permette di fare audit interno e prendere decisioni informate. Ma ci sono settori e situazioni dove andare avanti senza uno studio legale specializzato è negligenza, non risparmio.
Serve studio legale specializzato in AI/data protection se:
- Sanità: il tuo software processa dati sanitari, fa supporto diagnostico, gestisce triage. Sei in territorio di art. 9 GDPR (categorie speciali) + AI Act alto rischio + Codice Privacy italiano + normativa MDR per dispositivi medici software. La sovrapposizione regolatoria è densa e gli errori costano sanzioni Garante a 6 cifre.
- Finanza e credit scoring: scoring del credito, valutazione affidabilità clienti, anti-frode automatizzata. AI Act alto rischio + GDPR art. 22 + normativa Banca d'Italia + EBA guidelines su credit risk modeling. Settore con audit fitti e sanzioni elevate.
- HR profiling e screening CV: l'AI per gestione del personale è esplicitamente nell'Allegato III. Sovrapposizione con Statuto dei Lavoratori (art. 4 controlli a distanza), GDPR profilazione, e contrattazione collettiva. Vedi le linee guida del Garante Privacy su algoritmi e lavoro del 2024-2025.
- Pubblica amministrazione e legal: software AI per enti pubblici o studi legali su cause attive. Vincoli di segreto, accountability amministrativa, normativa anticorruzione, accesso agli atti.
- Trasferimenti extra-UE complessi: se per ragioni tecniche devi usare modelli ospitati fuori UE, le clausole contrattuali standard post-Schrems II richiedono Transfer Impact Assessment che non sono materiale DIY.
Per le altre situazioni — chatbot, generazione contenuti marketing, raccomandazioni e-commerce, assistenti interni produttività — l'audit interno guidato da un DPO competente e dalla documentazione UE basta. La differenza la fa il Garante Privacy stesso che ha pubblicato linee guida operative usabili senza intermediari.
Checklist conformità pre-deploy 12 punti
Questa checklist ti permette in 1-2 ore di capire dove sei prima di andare in produzione con un software AI custom. Ogni item è un Sì/No verificabile.
- 1. Classificazione AI Act effettuata e documentata (limitato/alto/proibito) con riferimento esplicito all'Allegato III
- 2. Registro dei trattamenti GDPR aggiornato con il software AI come trattamento autonomo (art. 30)
- 3. DPIA ex art. 35 GDPR completata e firmata se applicabile (profilazione, categorie speciali, larga scala)
- 4. DPO nominato e formalmente coinvolto nel design del sistema (art. 37-39 GDPR)
- 5. Trasparenza implementata: il sistema dichiara di essere AI a ogni interazione utente (art. 50 AI Act)
- 6. Contenuti generati artificialmente marcati come tali (watermark, disclaimer, metadata)
- 7. Consenso esplicito raccolto per profilazione e decisioni automatizzate ex art. 22 GDPR, opt-in non pre-flaggato
- 8. Supervisione umana progettata e documentata: chi, come, con quanto tempo, con quale autorità
- 9. Log strutturati di ogni decisione AI (input, modello usato, output, timestamp, user ID) per audit trail
- 10. Data residency EU dimostrabile per dati personali (Hetzner Helsinki, OVH, AWS Frankfurt, Azure Italy)
- 11. Documentazione tecnica AI Act Allegato IV pronta se sistema ad alto rischio (conserva 10 anni)
- 12. Piano di incident response: cosa fare se il sistema produce un output dannoso o discriminatorio
Se hai più di 3 "No" su questi 12, fermati prima del deploy e sistema la compliance. Andare in produzione con gap noti è la peggior posizione possibile in caso di ispezione ENISA o Garante: ignoranza è attenuante, conoscenza non documentata è aggravante.
Per chi sta valutando lo stack tecnologico in ottica compliance, lo stack tecnologico per software AI custom nel 2026 approfondisce hosting EU, scelta modelli con data residency garantita, e LLMOps con audit trail. Anche la guida agli agenti AI per aziende italiane 2026 tratta il design degli agenti in ottica conforme.
Domande frequenti
L'AI Act è in vigore dal 1 agosto 2024 con applicazione scaglionata. Il 2 febbraio 2025 sono scattati i divieti per pratiche inaccettabili (social scoring, manipolazione subliminale, riconoscimento emozioni in contesti lavorativi). Il 2 agosto 2025 sono entrati in vigore gli obblighi per modelli general-purpose come GPT-5 e Claude Opus. Il 2 agosto 2026 è la deadline che blocca tutti: da quella data ogni sistema AI ad alto rischio in produzione deve essere completamente conforme. Per i sistemi a rischio limitato gli obblighi di trasparenza si applicano anch'essi dal 2 agosto 2026.
L'AI Act prevede tre livelli sanzionatori. Pratiche vietate (art. 5): fino a 35 milioni di euro o 7% del fatturato annuo globale. Violazioni obblighi sistemi ad alto rischio: fino a 15 milioni o 3% del fatturato. Informazioni false alle autorità: fino a 7,5 milioni o 1,5% del fatturato. Per le PMI il regolamento prevede tetti proporzionati alla dimensione, applicando il minore tra valore assoluto e percentuale. In Italia AGCOM e Garante Privacy condividono il ruolo di autorità di vigilanza. Il rischio aggiuntivo è la sospensione operativa del sistema, che per molte PMI è più costosa della sanzione.
Dipende. L'art. 37 GDPR rende il DPO obbligatorio in tre casi: ente pubblico, attività principale che richiede monitoraggio sistematico su larga scala di interessati, attività principale che processa categorie speciali (dati sanitari, biometrici, giudiziari) su larga scala. Una PMI che usa il software AI custom per fare scoring su 50.000 clienti al mese rientra. Una piccola società che usa AI solo per generazione contenuti marketing su 2.000 contatti probabilmente no. Quando il DPO non è obbligatorio per legge, resta comunque buona pratica nominare un referente privacy interno con competenze AI-specifiche. Il costo di un DPO esterno parte da circa 300-800 euro al mese in Italia.
Tre rischi concreti. Primo: se utenti del tool inseriscono dati personali di clienti o dipendenti nel prompt, stai facendo un trasferimento extra-UE non documentato verso OpenAI o Anthropic, in violazione di GDPR. Secondo: se il tool prende decisioni che impattano persone (es. screening CV), sei in violazione di art. 22 GDPR senza consenso e potenzialmente in violazione AI Act. Terzo: assenza di DPIA per quello che è di fatto un trattamento sistematico è già sanzionabile autonomamente dal Garante. Soluzione minima: policy interna scritta, formazione obbligatoria, uso di versioni business con data processing agreement firmato (ChatGPT Enterprise, Claude for Business), DPIA dell'uso.
Non automaticamente, ma vicino. Dopo Schrems II il trasferimento di dati personali verso gli USA richiede Standard Contractual Clauses + Transfer Impact Assessment + misure tecniche aggiuntive (cifratura, pseudonimizzazione). Il Data Privacy Framework UE-USA del 2023 ha riaperto la strada ma resta sotto contestazione legale. La via più sicura per software AI custom EU-deployed: hosting infrastrutturale EU (Hetzner Helsinki, OVH Roubaix, Aruba Italia), accesso ai modelli LLM via region EU (AWS Bedrock Frankfurt, Google Vertex Belgio, Azure OpenAI Italy Milano), oppure modelli open-source self-hosted come Llama, Mistral o Gemma in EU. Questo elimina alla radice il problema del trasferimento extra-UE.
Una Data Protection Impact Assessment fatta correttamente su un software AI custom richiede tra 15 e 30 giorni di lavoro effettivo, distribuiti su 4-6 settimane di calendario. Il processo include: mappatura dei trattamenti e flussi dati (3-5 giorni), valutazione di necessità e proporzionalità (2-3 giorni), identificazione e valutazione rischi specifici AI (5-7 giorni), definizione misure di mitigazione (3-5 giorni), consultazione DPO e stakeholder (2-3 giorni), redazione finale e firma (2 giorni). La consultazione preventiva del Garante ex art. 36 GDPR scatta solo se i rischi residuali restano alti dopo le mitigazioni — in quel caso aggiungi altre 4-8 settimane per la risposta dell'autorità.
Entrambi, con responsabilità distinte. Il provider del SaaS è responsabile della conformità del sistema in sé (classificazione rischio, documentazione tecnica, conformità by design). Tu come deployer sei responsabile dell'uso che ne fai: scelta del fornitore basata su due diligence privacy, configurazione corretta del sistema nel tuo contesto, DPIA per il tuo specifico use case, raccolta consensi quando necessari, supervisione umana effettiva, e gestione degli incidenti. AI Act art. 26 e GDPR art. 28 allocano queste responsabilità separatamente. Tradotto: non puoi nasconderti dietro "ho comprato HubSpot, la compliance è loro". Il Garante ti sanziona comunque se non hai fatto la tua parte.
Audit compliance gratuito per il tuo software AI
In 48 ore ti consegno una gap analysis su AI Act + GDPR del tuo software AI custom: classificazione rischio, punti critici, priorità interventi entro il 2 agosto 2026. Senza pitch commerciale forzato.
Richiedi audit compliance
