Standard europei per l’IA

Lo scorso 24 ottobre, sono stati presentati i dieci requisiti chiave che gli standard tecnici europei dovranno soddisfare per i sistemi di intelligenza artificiale (IA) ad alto rischio, in conformità con l’AI Act.

A partire da agosto 2026, tutti i sistemi IA classificati come ad alto rischio dovranno adeguarsi a requisiti specifici riguardanti la gestione del rischio, la qualità e governance dei dati, la registrazione e la tracciabilità, la documentazione tecnica, la trasparenza, la supervisione umana, l’accuratezza, la robustezza e la sicurezza informatica.

La conformità a questi requisiti sarà garantita attraverso l’introduzione di un sistema di gestione della qualità (QMS) e una valutazione della conformità che avverrà prima dell’immissione sul mercato. Gli standard tecnici, sviluppati dalle Organizzazioni di Standardizzazione Europee su incarico della Commissione Europea, forniranno approcci concreti e misurabili per garantire il rispetto di questi requisiti.

I Requisiti Fondamentali degli Standard Tecnici

Di seguito vengono analizzati i dieci requisiti chiave previsti dagli standard tecnici europei:

I. Gestione del Rischio

Gli standard dovranno fornire linee guida chiare sui processi di gestione del rischio, inclusi i criteri e le priorità che i fornitori di sistemi IA devono seguire, ad esempio durante i test di mitigazione del rischio. Gli standard dovranno stabilire anche i risultati da raggiungere e i processi da attuare per monitorare i rischi durante tutto il ciclo di vita del sistema IA.

II. Governance dei Dati e Qualità

Gli standard dovranno coprire sia gli aspetti di governance dei dati che quelli relativi alla qualità dei dataset, in conformità con l’AI Act, durante tutte le fasi del ciclo di vita del sistema IA. Ciò comporterà l’integrazione di requisiti aggiuntivi rispetto agli standard ISO/IEC esistenti.

III. Registrazione e Tracciabilità

La standardizzazione della registrazione e della tracciabilità deve definire requisiti chiari per garantire il rispetto degli obblighi legali relativi alla registrazione di eventi e informazioni, in modo da consentire il monitoraggio continuo della conformità, anche dopo l’immissione sul mercato e durante l’operatività del sistema.

IV. Trasparenza

Gli standard devono specificare le informazioni necessarie per soddisfare le disposizioni dell’Articolo 13 del Regolamento, riguardanti il funzionamento, le caratteristiche, i rischi e i risultati dei sistemi IA. Tali informazioni devono essere complete, accessibili e comprensibili, per consentire decisioni informate e un monitoraggio operativo efficace. Il lavoro di standardizzazione internazionale esistente può servire come base per ulteriori requisiti concreti.

V. Supervisione Umana

Gli standard dovranno stabilire i requisiti per l’implementazione di misure di supervisione umana, definendo come selezionarle, testarle e monitorarne l’efficacia nel ridurre i rischi associati all’uso dei sistemi IA. È fondamentale che questi requisiti garantiscano risultati verificabili e misurabili.

VI. Accuratezza

Gli standard armonizzati dovranno definire requisiti per garantire che le metriche e le soglie di accuratezza siano adeguate ed efficaci. Sarà necessario stabilire criteri chiari per la selezione e la misurazione dell’accuratezza dei sistemi IA, tenendo conto dei rischi e delle specifiche caratteristiche applicative.

VII. Robustezza

Gli standard dovranno includere requisiti per garantire la robustezza dei sistemi IA ad alto rischio. Ciò comprende la definizione di metriche di robustezza adeguate, la selezione di misure di protezione e la creazione di protocolli di test per garantire che i sistemi possano resistere a eventi imprevisti e garantire prestazioni costanti anche in condizioni avverse.

VIII. Cybersecurity

Gli standard dovranno definire misure tecniche e organizzative per garantire un livello di sicurezza adeguato ai rischi specifici dei sistemi IA. Queste misure includeranno la protezione contro vulnerabilità come il data poisoning e l’evasione dei modelli, e dovranno stabilire metodi di valutazione e mitigazione dei rischi di sicurezza. La cybersecurity dovrà essere coordinata con altri requisiti, come la qualità dei dati e la robustezza.

IX. Gestione della Qualità (QMS)

I nuovi standard sul QMS dovranno concentrarsi sui rischi specifici previsti dall’AI Act, adottando un approccio che copra l’intero ciclo di vita del sistema IA. Questi standard devono essere complementari ai requisiti legali e garantire che i rischi siano gestiti in modo appropriato attraverso tutta la durata del ciclo di vita del prodotto. Standard internazionali come ISO/IEC 42001 potrebbero essere utilizzati come riferimento, assicurando che il focus rimanga sui rischi e sugli obiettivi specifici del testo legale.

X. Valutazione della Conformità

Gli standard per la valutazione della conformità dovranno definire in modo preciso come applicare e adattare le procedure di conformità ai sistemi IA ad alto rischio. È essenziale che gli standard siano in linea con le disposizioni dell’AI Act, per garantire che le valutazioni della conformità siano efficaci e rispondano alle necessità legali. La toolbox ISO CASCO, che fornisce principi generali e linee guida per la valutazione della conformità, rappresenta una base utile per sviluppare questi standard.

Conclusioni

Il panorama normativo europeo per l’intelligenza artificiale è in continua evoluzione, e gli standard tecnici rappresentano un elemento chiave per l’implementazione dell’AI Act. Questi standard non solo stabiliranno le linee guida per garantire la conformità, ma forniranno anche strumenti concreti per migliorare la sicurezza, la trasparenza e la qualità dei sistemi IA ad alto rischio. Le Organizzazioni di Standardizzazione Europee, attraverso il loro lavoro, avranno un ruolo fondamentale nel definire un quadro normativo che promuova l’affidabilità e la fiducia nei sistemi di IA, in un contesto di crescita e innovazione continua.