La classificazione del rischio nell'AI Act

L'AI Act non tratta tutti i sistemi di intelligenza artificiale allo stesso modo: la quantità degli obblighi dipende dal livello di rischio. Ecco come si distinguono.

Una piramide a quattro livelli

Il Regolamento (UE) 2024/1689 adotta un approccio basato sul rischio. Anziché imporre gli stessi obblighi a tutti i sistemi di IA — il che sarebbe stato sproporzionato per quelli innocui e insufficiente per quelli più pericolosi — il legislatore europeo ha costruito una piramide a quattro livelli. Alla base, dove sta la maggior parte dei sistemi usati quotidianamente, troviamo il rischio minimo, con pochi o nessun obbligo. Salendo, incontriamo il rischio limitato, l'alto rischio, e infine il rischio inaccettabile, dove l'uso del sistema è semplicemente vietato.

Questo approccio piramidale ha una conseguenza pratica importante per le aziende: la maggior parte dei sistemi di IA usati ogni giorno ricade nei due livelli inferiori. Gli obblighi pesanti — documentazione tecnica, valutazione di conformità, registrazione, sistema di gestione qualità — si applicano solo ai sistemi ad alto rischio. Identificare correttamente il livello del proprio sistema è quindi cruciale: una classificazione sbagliata in eccesso comporta costi inutili, una classificazione sbagliata in difetto espone a sanzioni gravi.

Rischio inaccettabile: cosa è semplicemente vietato

Al vertice della piramide stanno le pratiche di intelligenza artificiale che l'Unione Europea considera incompatibili con i valori fondamentali. L'articolo 5 dell'AI Act elenca tassativamente queste pratiche vietate. Sono vietati, in sintesi, i sistemi che usano tecniche subliminali o manipolative per distorcere il comportamento delle persone causandone un danno significativo, i sistemi che sfruttano vulnerabilità di gruppi specifici (per età, disabilità, condizione socio-economica), i sistemi di social scoring che valutano l'affidabilità delle persone sulla base del loro comportamento sociale, i sistemi di polizia predittiva basati solo sul profilo della persona, i sistemi di riconoscimento facciale costruiti con scraping massivo di immagini dal web, i sistemi di riconoscimento delle emozioni in ambiente lavorativo e scolastico, alcuni sistemi di categorizzazione biometrica basati su caratteristiche sensibili, e i sistemi di identificazione biometrica remota in tempo reale in spazi pubblici per finalità di polizia (salvo eccezioni rigorose).

Per la stragrande maggioranza delle aziende italiane, le pratiche vietate non sono un problema operativo, perché nessuna le adotta. Il rischio reale è quello del riconoscimento emozioni sul posto di lavoro, una pratica che alcuni fornitori di software HR stanno proponendo e che è vietata salvo eccezioni mediche o di sicurezza.

Alto rischio: il cuore della regolamentazione

Subito sotto, il livello più impegnativo: i sistemi ad alto rischio. L'articolo 6 dell'AI Act individua due grandi categorie. Da un lato, i sistemi di IA che sono componenti di sicurezza di prodotti già regolati dal diritto europeo (giocattoli, dispositivi medici, ascensori, macchinari, veicoli, eccetera) e che richiedono una valutazione di conformità da parte di un organismo terzo. Dall'altro, i sistemi elencati nell'Allegato III del Regolamento.

L'Allegato III copre otto aree sensibili: la biometria, le infrastrutture critiche, l'istruzione e formazione professionale, l'occupazione e gestione dei lavoratori (qui rientrano i sistemi di screening dei CV, di valutazione delle performance, di assegnazione dei compiti), l'accesso a servizi privati essenziali e servizi pubblici (credit scoring, valutazione per assicurazioni sanitarie e vita), le attività di polizia, la gestione di migrazione e asilo, l'amministrazione della giustizia e i processi democratici. Per ciascuna area, il Regolamento individua i sistemi specificamente considerati ad alto rischio.

Per molte aziende italiane, l'area più rilevante è quella del lavoro: chi usa software di selezione automatica dei candidati, valutazione delle performance del personale, allocazione dei turni o monitoraggio della produttività individuale, sta operando con sistemi potenzialmente ad alto rischio. Gli obblighi che ne derivano sono significativi: sistema di gestione del rischio, governance dei dati di addestramento, documentazione tecnica completa, registrazione automatica degli eventi, trasparenza verso gli utilizzatori, supervisione umana effettiva, livello adeguato di accuratezza e cybersicurezza.

Rischio limitato: gli obblighi di trasparenza

Il terzo livello riguarda sistemi che, pur non rientrando tra quelli ad alto rischio, possono ingannare le persone se queste non sanno di avere a che fare con un'IA. Per questi sistemi l'articolo 50 del Regolamento impone obblighi specifici di trasparenza. I chatbot devono comunicare chiaramente di essere chatbot. I sistemi di generazione di contenuti sintetici (testi, immagini, audio, video) devono marcare l'output come prodotto da IA. I deepfake devono essere etichettati. I sistemi di riconoscimento delle emozioni e di categorizzazione biometrica devono informare le persone interessate.

Per le aziende italiane, questo livello tocca soprattutto chi usa chatbot di customer care, chi pubblica contenuti generati con strumenti di IA generativa (illustrazioni, video, post), chi adotta sistemi vocali automatizzati. L'adempimento è semplice ma va organizzato: serve aggiornare informative, etichette, condizioni d'uso.

Rischio minimo: la base della piramide

Alla base, infine, troviamo tutti i sistemi che non rientrano nelle categorie precedenti. È qui che si colloca la grande maggioranza dei sistemi di IA usati nelle aziende: filtri antispam, suggerimenti di completamento automatico, motori di raccomandazione di prodotti, sistemi di ottimizzazione logistica. Per questi sistemi l'AI Act non impone obblighi specifici, fermo restando che si applicano sempre, se rilevanti, le norme sulla protezione dei dati personali (GDPR), sui consumatori, sulla concorrenza.

L'AI Act incoraggia tuttavia l'adozione volontaria di codici di condotta anche per i sistemi a rischio minimo, soprattutto per quanto riguarda la sostenibilità ambientale, l'accessibilità, la diversità nei team di sviluppo, l'inclusione.

Come iusprivacy classifica i tuoi sistemi

La classificazione corretta del livello di rischio è il passo più delicato dell'intero percorso di compliance. Una classificazione errata può comportare investimenti enormi su sistemi che non ne avrebbero bisogno, oppure — e questo è il rischio peggiore — l'omissione di adempimenti obbligatori con il conseguente rischio di sanzioni fino a 35 milioni di euro o al 7% del fatturato globale.

Lo staff di iusprivacy.eu opera la classificazione attraverso un metodo strutturato che combina analisi documentale, interviste tecniche con i fornitori, ricostruzione del caso d'uso effettivo del sistema in azienda, e applicazione puntuale dei criteri previsti dagli articoli 5, 6 e 50 del Regolamento e dall'Allegato III. Il risultato è un documento di classificazione motivato, opponibile in caso di controlli, che indica chiaramente per ciascun sistema il livello di rischio e gli obblighi conseguenti.