AI Act compliance: Come determinare il livello di rischio
Determinare il livello di rischio di un sistema di intelligenza artificiale (AI) è il primo passo per la conformità normativa all’AI Act. Il Regolamento europeo distingue tre categorie di rischio – sistemi AI proibiti, sistemi AI ad alto rischio e sistemi AI a rischio limitato – ognuna con obblighi specifici di compliance.
1. Sistemi di AI proibiti
L’articolo 5 dell’AI Act definisce le pratiche di AI vietate. Per stabilire se un sistema di AI può essere categorizzato come sistema “proibito” è necessario rispondere alle seguenti domande:
Il sistema di AI utilizza tecniche subliminali che agiscono senza che una persona ne sia consapevole o tecniche volutamente manipolative o ingannevoli aventi lo scopo o l’effetto di distorcere materialmente il comportamento di una persona o di un gruppo di persone?
Il sistema di AI sfrutta le vulnerabilità di una persona fisica o di uno specifico gruppo di persone?
Il sistema di AI è utilizzato per la valutazione o la classificazione delle persone fisiche o di gruppi di persone?
Il sistema di AI è utilizzato per “social scoring”?
Il sistema di AI è utilizzato per effettuare valutazioni del rischio relative a persone fisiche al fine di valutare o prevedere il rischio che una persona fisica commetta un reato?
Il sistema di AI che crea o amplia le banche dati di riconoscimento facciale mediante scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso?
Il sistema di AI riconosce le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione?
Il sistema di AI è un sistema di categorizzazione biometrica?
Qualora si dovesse rispondere affermativamente ad una delle precedenti domande, il sistema di AI verrebbe categorizzato come “proibito” sarà vietato renderlo disponibile nell’Unione europea a partire dal 2 febbraio 2025.
Qualora invece la risposta a tutte queste domande dovesse essere negativa sarà possibile proseguire con la determinazione del livello di rischio.
2. Sistemi di AI ad alto rischio
Per determinare se un sistema di AI è da classificare “ad alto rischio” è necessario rispondere alle due domande contenute nell’articolo 6 del dell’AI Act.
-
Il sistema di AI è destinato ad essere utilizzato come componente di un prodotto o è esso stesso un prodotto elencato nell’allegato I dell’AI Act?
L’allegato I dell’AI Act elenca una serie di direttive che concernono i seguenti prodotti per i quali il diritto dell’UE prevede particolari norme di sicurezza e che possono essere riassunte come di seguito:
macchine; attrezzature intercambiabili, componenti di sicurezza, accessori di sollevamento, catene, funi e cinghie, dispositivi amovibili di trasmissione meccanica, quasi-macchine, giocattoli, imbarcazioni da diporto, moto d’acqua, motori di propulsione installati o specificamente destinati a essere installati su o in unità da diporto, unità da diporto, ascensori, apparecchi di sollevamento, treni a cremagliera, scale mobili, apparecchi e sistemi di protezione destinati a essere utilizzati in atmosfera potenzialmente esplosiva, dispositivi di sicurezza, di controllo e di regolazione destinati a essere utilizzati al di fuori di atmosfere potenzialmente esplosive ma necessari o utili per il funzionamento sicuro degli apparecchi e sistemi di protezione, rispetto ai rischi di esplosione, componenti destinati ad essere inseriti nei predetti apparecchi e sistemi di protezione, apparecchiature radio, attrezzature a pressione, impianti a fune e componenti per impianti a fune, dispositivi di protezione individuale (DPI), apparecchi che bruciano carburanti gassosi usati per cuocere, refrigerare, climatizzare, riscaldare ambienti, produrre acqua calda, illuminare o lavare, nonché apparecchi come bruciatori ad aria soffiata e caloriferi che devono essere muniti di tali bruciatori; ei dispositivi medici per uso umano e degli accessori per tali dispositivi; dispositivi medico-diagnostici per uso umano e accessori per tali dispositivi; aeroporti; vettori aerei; veicoli a due, tre o quattro ruote; sistemi, componenti ed entità tecniche indipendenti, nonché parti e equipaggiamenti, progettati e fabbricati per tali veicoli; veicoli agricoli e forestali; componenti ed entità tecniche indipendenti nonché a parti ed equipaggiamenti progettati e costruiti per tali veicoli; equipaggiamento marittimo; sistemi e veicoli ferroviari; veicoli a motore e rimorchi; sistemi, componenti ed entità tecniche destinati a tali veicoli; aeromobili e componenti per aeromobili.
-
Il sistema di AI rientra in uno dei seguenti settori: elencati nell’allegato III dell’AI Act?
L’allegato III dell’AI Act riguarda invece alcuni settori specifici che possono essere sintetizzati come di seguito:
biometria; infrastrutture critiche (digitali, traffico, fornitura di acqua, gas, riscaldamento, elettricità); istruzione e formazione professionale; occupazione e accesso al lavoro; servizi privati e pubblici essenziali (assistenza pubblica, assistenza sanitaria, merito creditizio, valutazione dei rischi e determinazione dei prezzi in relazione a persone fisiche nel caso di assicurazioni sulla vita e assicurazioni sanitarie; valutazione e classificazione di chiamate di emergenza effettuate da persone fisiche o per inviare servizi di emergenza di primo soccorso o per stabilire priorità in merito all’invio di tali servizi, compresi polizia, vigili del fuoco e assistenza medica, nonché per i sistemi di selezione dei pazienti per quanto concerne l’assistenza sanitaria di emergenza), attività di contrasto alla criminalità; migrazione, asilo e gestione del controllo delle frontiere; amministrazione della giustizia e processi democratici.
Per ognuno dei già menzionati settori, l’Allegato III dell’AI Act prevede dei requisiti specifici affinché il sistema di AI venga classificato ad alto rischio, oltre a particolari eccezioni. Per non appesantire il presente articolo, non verranno riportati i requisiti specifici per ogni settore ma solamente alcuni esempi.
A titolo esemplificativo:
- Se il sistema di AI riguarda le infrastrutture critiche, affinché venga considerato ad alto rischio è necessario che sia destinato ad essere utilizzato come componente di sicurezza nella gestione e nel funzionamento di infrastrutture digitali critiche, del traffico stradale o nella fornitura di acqua, gas, riscaldamento o elettricità.
N.B. La nozione di “componente di sicurezza” è definita all’art. 3, 14) come “un componente di un prodotto o di un sistema di IA che svolge una funzione di sicurezza per tale prodotto o sistema di IA o il cui guasto o malfunzionamento mette in pericolo la salute e la sicurezza di persone o beni;”
- Se il sistema di AI riguarda il merito creditizio, affinché venga considerato ad alto rischio, è necessario che sia destinato ad essere utilizzati per valutare l’affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito. Sono però esclusi i sistemi di IA utilizzati allo scopo di individuare frodi finanziarie.
Qualora il sistema di AI dovesse rientrare in una delle precedenti categorie, verrebbe categorizzato “ad alto rischio”.
In tal caso, entro il 2 agosto 2026 il sistema di AI dovrà sottostare ad obblighi specifici quali ad esempio:
- L’indicazione del fornitore nella documentazione che accompagna il sistema di IA (art. 16).
- La registrazione del sistema presso la banca dati dell’UE (art. 49).
- La valutazione di conformità che riguarderà tra le altre cose: qualità dei dati (art. 10), documentazione (art. 11) e tracciabilità (art. 12), trasparenza (art. 13), supervisione umana (art. 14), accuratezza, sicurezza informatica e robustezza (art. 15).
- L’implementazione di sistemi di gestione della qualità e del rischio per garantire la conformità ai requisiti e ridurre al minimo i rischi per gli utenti e le persone interessate (artt. 9 e 17).
- La conservazione della documentazione secondo i requisiti dell’articolo 18.
- La conservazione dei log secondo i requisiti dell’articolo 19.
- L’adozione del marchio CE in conformità con l’articolo 48.
Qualora invece il sistema di AI non dovesse rientrare in una delle precedenti categorie bisognerà verificare che esso non ricada tra i c.d. “sistemi di AI a rischio limitato”.
3. Eccezioni alla classificazione “ad alto rischio”
L’articolo 6 dell’AI Act prevede anche delle deroghe ma solamente per i sistemi di AI che rientrano dell’Allegato III.
Infatti, un sistema di AI di cui all’allegato III non è considerato ad alto rischio se:
- Non effettua profilazione di persone fisiche e
- Non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di non influenzare materialmente il risultato del processo decisionale, ovvero se è soddisfatta almeno una delle seguenti condizioni:
- il sistema di AI è destinato a eseguire un compito procedurale limitato;
- il sistema di AI è destinato a migliorare il risultato di un’attività umana precedentemente completata;
- il sistema di AI è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è finalizzato a sostituire o influenzare la valutazione umana precedentemente completata senza un’adeguata revisione umana; o
- il sistema di AI è destinato a eseguire un compito preparatorio per una valutazione pertinente ai fini dei casi d’uso elencati nell’allegato III.
4. Sistemi di AI a rischio limitato
Pur non definendo esplicitamente i sistemi di AI “a rischio limitato”, l’AI Act prevede degli obblighi specifici di trasparenza per i sistemi di AI che rispondono ai requisiti dell’articolo 50 del Regolamento.
Per determinare se il sistema di AI è sottoposto a questi obblighi specifici, è necessario rispondere alle seguenti domande:
- Il sistema di AI è destinato ad interagire direttamente con persone fisiche (es. chatbot)?
- Il sistema di AI è in grado di generare contenuti audio, immagine, video o testuali?
- Il sistema di AI è in grado di riconoscere le emozioni o di effettuare una categorizzazione biometrica delle persone?
- Il sistema di AI è in grado di generare “deepfake”?
Qualora si dovesse rispondere in modo affermativo ad una delle precedenti domande, sarà necessario soddisfare gli specifici obblighi di trasparenza previsti dall’articolo 50 entro il 2 agosto 2026.
In conclusione, la valutazione del rischio AI (AI risk assessment) non è solo un obbligo di legge, ma anche uno strumento di governance. Una roadmap di conformità all’AI Act consente alle imprese di ridurre i rischi e migliorare la fiducia degli utenti.
