IA ACT, sistemi di IA vietati e sistemi ad alto rischio

Inizia con questo articolo una serie di approfondimenti sull’IA Act, in cui esploreremo il contenuto del regolamento, le pratiche consentite e i requisiti che le aziende devono rispettare per implementare tecnologie di IA in modo sicuro e responsabile.

Nei nostri primi articoli introduttivi al mondo dell’IA, abbiamo già introdotto l’ambito di applicazione dell’IA Act e i soggetti coinvolti*.

In questo articolo, ci concentriamo sui sistemi di intelligenza artificiale vietati dal regolamento e sui sistemi di IA classificati come ad alto rischio.

I. Sistemi di intelligenza artificiale vietati

È importante chiarire che l’IA Act adotta una regolamentazione basata su livelli di rischio, per cui non è la tecnologia in sé a essere regolamentata, ma i suoi usi concreti.

Partendo da questa premessa, l’IA Act vieta l’uso di sistemi di intelligenza artificiale per determinati scopi considerati minacce per la sicurezza, la vita e i diritti delle persone. I sistemi vietati includono:

• a) Sistemi che utilizzano tecniche subliminali o manipolative, in grado di influenzare significativamente il comportamento di una persona, compromettendone la capacità di prendere decisioni informate e causando potenziale danno a sé stessa o a terzi.
• b) Sistemi che sfruttano le vulnerabilità di una persona per influenzare il suo comportamento, con il rischio di provocare danno a sé stessa o a terzi.
• c) Sistemi di valutazione o classificazione sociale, come il social scoring, che possono comportare trattamenti discriminatori o sfavorevoli per alcune persone o gruppi.
• d) Sistemi di valutazione del rischio di criminalità, basati sulla profilazione o su caratteristiche personali.
• e) Raccolta massiva di immagini facciali online o tramite CCTV per il riconoscimento facciale.
• f) Sistemi di riconoscimento delle emozioni da usare in ambito lavorativo o educativo.
• g) Sistemi di categorizzazione biometrica basati su caratteristiche sensibili come razza, opinioni politiche, religione o orientamento sessuale.
• h) Sistemi di identificazione biometrica in tempo reale in luoghi pubblici, eccetto per scopi di ricerca selettiva, prevenzione di minacce imminenti o identificazione di sospetti di reati penali.

II. Sistemi ad alto rischio

Dopo aver elencato i sistemi vietati, il regolamento identifica una serie di categorie di IA considerate ad alto rischio, poiché possono comportare effetti pregiudizievoli per la salute, la sicurezza o i diritti fondamentali delle persone. Questi sistemi devono soddisfare specifici requisiti per poter essere introdotti nel mercato europeo.

A) Categorie di sistemi ad alto rischio

I sistemi di IA ad alto rischio comprendono quelli impiegati nei seguenti ambiti:

• a) Componenti di sicurezza di un prodotto regolamentato come macchinari, giocattoli, veicoli, dispositivi sanitari, apparecchi radio, attrezzature di protezione e altri prodotti con specifiche regolamentazioni europee.
• b) Sistemi di identificazione biometrica remota per identificare persone (esclusi i sistemi di autenticazione biometrica che verificano l’identità dichiarata).
• c) Componenti di infrastrutture critiche (es. traffico, gestione di acqua, gas, elettricità).
• d) Sistemi per istruzione e formazione professionale che possono influenzare l’accesso all’istruzione e le carriere.
• e) Sistemi per il reclutamento e gestione delle risorse umane, come la selezione di candidati e la valutazione delle performance lavorative.
• f) Sistemi per l’accesso a servizi pubblici e privati essenziali, come il credito e i servizi di assistenza.
• g) Sistemi per forze di sicurezza, come poligrafi e strumenti di analisi forense.
• h) Sistemi per l’amministrazione della giustizia e i processi democratici.
• i) Sistemi per la gestione della migrazione, dell’asilo e del controllo delle frontiere.

B) Eccezioni

Un sistema di IA non è considerato ad alto rischio se non comporta rischi significativi per la salute, la sicurezza o i diritti fondamentali. Nel caso dei settori elencati nell’Allegato III del regolamento, un sistema di IA non sarà considerato ad alto rischio se soddisfa almeno una delle seguenti condizioni:

1. Svolge un compito procedurale ristretto (ad es., classificazione di documenti in categorie).
2. Supporta attività già completate (ad es., miglioramento della chiarezza linguistica di documenti redatti).
3. Rileva pattern decisionali o deviazioni senza influenzare la valutazione umana originale.
4. Svolge un compito preparatorio per un’attività ad alto rischio.

Se un fornitore ritiene che un sistema di IA non sia ad alto rischio, dovrà:

a) Redigere una valutazione di conformità documentata prima della sua immissione sul mercato, per dimostrare la conformità ai requisiti dell’UE. b) Registrare il sistema nella banca dati dell’UE come previsto dall’art. 71 del regolamento.

C) Requisiti per i sistemi di IA ad alto rischio

Se un sistema viene classificato come ad alto rischio, il fornitore deve rispettare i requisiti indicati negli articoli 8-15 dell’IA Act, adattandosi alla finalità d’uso e allo stato dell’arte.

*Per continuare la nostra analisi, nel prossimo articolo approfondiremo i requisiti specifici per i sistemi di IA ad alto rischio, esplorando come questi sistemi possano garantire conformità, sicurezza e affidabilità.