L’articolo 3(1) dell’AI Act definisce un “Sistema di IA” come:
(a) un sistema automatizzato
(b) progettato per funzionare con livelli di autonomia variabili
(c) che può presentare adattabilità dopo la diffusione
(d) che deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni
(e) che possono influenzare ambienti fisici o virtuali.
Vediamo di seguito nel dettaglio ognuno di questi requisiti.
(a) Sistema automatizzato o “machine-based system”
Secondo le Guidelines della Commissione europea, il termine «automatizzato» si riferisce al fatto che il funzionamento dei sistemi di IA prevede l’uso di macchine, ovvero un sistema progettato da e fatto funzionare su delle “macchine” che vanno intese come “hardware” e “software”.
(b) Autonomia
Il considerando n. 12 dell’AI Act chiarisce che l’espressione “livelli di autonomia variabili” significa che il sistema di IA è stato progettato per operare con un certo grado di indipendenza rispetto al coinvolgimento dell’uomo e al suo intervento.
Ciò significa che resterebbero esclusi solamente i sistemi che possono operare solamente con un pieno coinvolgimento e intervento umano in quanto, il solo fatto che un sistema di IA sia in grado di generare dell’output che non è controllato dall’uomo lo rende “autonomo” ai sensi del regolamento.
Il requisito è dunque molto facile da soddisfare ed è soddisfatto anche da programmi per computer che utilizziamo da anni come, ad esempio, quelli per classificare le e-mail.
(c) Adattabilità
Il concetto di adattabilità è legato a quello dell’autonomia e si riferisce alla capacità del sistema di IA di modificare il suo comportamento durante l’uso.
Tuttavia, l’utilizzo dell’espressione “può” indica chiaramente che questa caratteristica non è decisiva per la classificazione del sistema in un sistema di IA.
Pertanto, concretamente, l’adattabilità non è un requisito discriminante.
(d) Inferenza
La capacità inferenziale si riferisce al processo di ottenimento degli output, quali previsioni, contenuti, raccomandazioni o decisioni.
Il considerando 12 dell’AI Act chiarisce che la capacità inferenziale di un sistema di IA trascende l’elaborazione di base dei dati consentendo l’apprendimento, il ragionamento o la modellizzazione.
Pertanto, i sistemi di intelligenza artificiale si distinguono dai sistemi software tradizionali in quanto i primi non sono sistemi basati esclusivamente su regole definite da persone fisiche per eseguire automaticamente operazioni. A titolo esemplificativo, i “considerando” del regolamento includono espressamente i software di “machine learning” tra quelli che hanno capacità inferenziali.
Questa definizione di “inferenza” sarebbe estremamente ampia se non fosse che la Commissione, nelle sue Guidelines ha escluso quei sistemi che hanno una limitata inferenza a causa della loro capacità limitata di analizzare schemi e adattare autonomamente i propri risultati quali ad esempio:
– sistemi per ottimizzare metodi matematici o per accelerare e approssimare metodi di ottimizzazione tradizionali quali regressioni lineari o logiche;
– sistemi per elaborazione dati che escludano “apprendimento, ragionamento o modellazione” o sistemi per la sola “descrizione di dati”;
– sistemi i cui output possono essere raggiunti tramite l’applicazione di regole statistiche di base come ad esempio programmi di previsione finanziaria utilizzati per prevedere i futuri prezzi delle azioni tramite, ad esempio, la previsione del prezzo medio storico) oppure sistemi meteorologici che utilizzano la temperatura media della scorsa settimana per prevedere la temperatura di domani.
(e) Capacità di influenzare ambienti fisici o virtuali
Secondo le Guidelines della Commissione è sufficiente che il sistema abbia un impatto, sull’ambiente in senso lato (fisico o virtuale) che lo circonda.
Quest’ultimo requisito è ancora una volta estremamente largo: è sufficiente che un sistema sia inserito in un processo (es. un processo decisionale del management) perché abbia un impatto sull’ambiente circostante e ricada nella definizione di sistema di IA.
In conclusione, la definizione di sistema di intelligenza artificiale adottata dall’AI Act è estremamente ampia ed è quindi probabile che, se stiamo utilizzando il termine “AI” per definire il nostro sistema o prodotto, quest’ultimo ricada nella definizione e di conseguenza nell’ambito di applicazione materiale del regolamento.
