L'AI Act definisce i sistemi di IA come sistemi automatizzati progettati per funzionare con livelli di autonomia variabili e che possono presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deducono dall'input che ricevono come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali.
Ciò detto, l'AI Act, tra le altre:
- distingue tra livelli di rischio, valutati in base all'incidenza del sistema sui diritti fondamentali. Le pratiche di IA il cui livello di rischio è considerato inaccettabile sono vietate, mentre sono previsti obblighi e requisiti specifici per i sistemi di IA c.d. "ad alto rischio";
- impone degli obblighi di trasparenza, che si articolano in maniera diversa a seconda del livello di rischio del singolo sistema, al fine di consentire un'adeguata tracciabilità e spiegabilità (e.g., dare informazione tempestiva, chiara e comprensibile alla persona fisica esposta a un sistema di IA, agevolare il monitoraggio del sistema dopo averlo immesso sul mercato);
- traccia dei limiti all'utilizzo di sistemi di identificazione biometrica;
- istituisce spazi di sperimentazione normativa, che promuovono e agevolano un ecosistema di IA a livello europeo;
- mira a diffondere consapevolezza sull’IA, mediante la creazione di centri che forniscano servizi di supporto, formazione, consulenza e orientamento agli sviluppatori e agli utilizzatori di sistemi di IA, in particolare alle piccole e medie imprese e alle amministrazioni pubbliche;
- stabilisce le soglie delle sanzioni in caso di violazioni, che, per le imprese, sono fissate in percentuale al fatturato annuo globale dell'anno precedente.
In sintesi, l'AI Act rappresenta, a livello europeo, il primo passo verso la creazione di un ecosistema di IA, regolato in modo da promuoverne l'utilizzo senza compromettere i diritti fondamentali degli utenti.
Le aziende, pubbliche e private, o qualsiasi altro organismo che sviluppa e mette sul mercato un sistema di IA, dovranno adeguarsi agli obblighi e ai divieti stabiliti dal'IA Act.
