AI Act: come capire in quale categoria di rischio ricade il tuo sistema AI

Un ristorante che usa un sistema AI per prevedere quanti coperti servire il sabato sera e un ospedale che usa un sistema AI per decidere l'ordine di priorità in pronto soccorso non sono nella stessa categoria di rischio. Sembra ovvio detto così. Eppure la confusione più comune che vediamo nelle aziende italiane è pensare che "usare l'intelligenza artificiale" sia di per sé un fattore di rischio, e trattare quindi ogni strumento allo stesso modo — o, all'opposto, non classificare niente perché "tanto è solo un chatbot".

L'AI Act valuta cosa fa un sistema e a chi lo fa, non l'etichetta "intelligenza artificiale" che porta. Ed è un errore di classificazione, più che l'assenza di conformità in sé, la causa più frequente di problemi con i regolatori.

Rischio inaccettabile: vietato punto e basta

Qui non c'è margine di conformità, perché l'uso è proibito. Rientrano il social scoring pubblico (valutare le persone in base al comportamento sociale per limitarne diritti), la manipolazione subliminale o ingannevole che altera il comportamento causando un danno, lo sfruttamento delle vulnerabilità di gruppi specifici (età, disabilità, condizione economica), e il riconoscimento biometrico in tempo reale in spazi pubblici da parte delle forze dell'ordine, salvo eccezioni molto circoscritte come la ricerca di persone scomparse.

Se stai pensando "questo non mi riguarda", probabilmente hai ragione: sono usi che quasi nessuna azienda normale implementerebbe consapevolmente. Il rischio reale è indiretto: un fornitore di marketing automation che promette targeting "emotivo" troppo aggressivo su categorie vulnerabili può avvicinarsi a questo confine senza dichiararlo.

Alto rischio: qui serve un lavoro vero

Sono i sistemi elencati nell'Allegato III del regolamento, che toccano ambiti dove un errore ha conseguenze serie sulla vita delle persone: selezione e gestione del personale (screening CV, valutazione delle performance, decisioni di licenziamento), accesso al credito e assicurazioni, sistemi di sicurezza per prodotti già regolamentati (dispositivi medici, macchinari industriali, veicoli), gestione di infrastrutture critiche (energia, acqua, trasporti), giustizia e processi democratici, controllo delle frontiere.

Un esempio concreto: un software che ordina automaticamente i CV in ingresso e scarta quelli sotto una certa soglia di punteggio è, quasi sempre, alto rischio. Lo è perché quella specifica decisione — chi viene anche solo considerato per un colloquio — ha un impatto diretto sul diritto di una persona ad accedere al lavoro in modo equo, non per il fatto astratto che "usa l'AI per le persone". Per questi sistemi servono: una valutazione di conformità prima della messa in servizio, un sistema di gestione del rischio documentato, dati di addestramento verificati per qualità e assenza di bias, supervisione umana effettiva (non simbolica), e — dal 2 dicembre 2027, data slittata rispetto agli iniziali agosto 2026 — piena conformità a tutti questi requisiti.

Rischio limitato: l'obbligo è dirlo, non evitarlo

Qui l'AI Act non vieta né impone controlli tecnici pesanti. Impone trasparenza. Se il tuo sito ha un chatbot che risponde ai clienti, l'utente deve poter capire che sta parlando con un sistema automatico, a meno che non sia già ovvio dal contesto. Se generi immagini, audio o video sintetici che potrebbero essere scambiati per reali (i cosiddetti deepfake), devi etichettarli come generati da AI. Se usi il riconoscimento delle emozioni sul posto di lavoro o in ambito scolastico, devi informare le persone coinvolte — con un'eccezione per usi medici o di sicurezza.

Questa è la categoria in cui rientra la maggior parte delle aziende italiane che stanno "sperimentando con l'AI". La buona notizia è che l'obbligo è quasi sempre risolvibile con una riga di disclosure ben fatta, non con un progetto di compliance.

Rischio minimo: la maggioranza dei casi, ma non un porto sicuro permanente

Filtri anti-spam, suggerimenti di prodotto in un e-commerce, strumenti interni di produttività: la grande maggioranza dei sistemi AI oggi in uso ricade qui, senza obblighi specifici oltre a quelli generali di buona pratica. L'AI Act incoraggia comunque l'adozione volontaria di codici di condotta.

L'errore da evitare è trattare questa categoria come definitiva. Un sistema che oggi fa solo raccomandazioni di prodotto può diventare alto rischio se domani la stessa azienda lo estende a decisioni di pricing personalizzato che incidono in modo significativo sull'accesso a beni essenziali. La classificazione non è un'etichetta che metti una volta: è qualcosa da rivedere ogni volta che cambi l'uso di uno strumento.

I modelli come quelli alla base di ChatGPT, Claude o Gemini seguono una logica diversa, basata sulla potenza computazionale usata per addestrarli piuttosto che sull'uso finale. Dal 2 agosto 2025, i fornitori di questi modelli hanno obblighi di documentazione tecnica e trasparenza sul materiale di addestramento protetto da copyright. I modelli classificati a "rischio sistemico" (soglia fissata a 10^25 FLOP di calcolo per l'addestramento — praticamente solo i modelli più grandi al mondo) hanno obblighi aggiuntivi di valutazione dei rischi e reporting di incidenti.

Per chi costruisce un prodotto sopra a uno di questi modelli, tramite API, la classificazione di rischio riguarda comunque l'applicazione finale, non il modello sottostante. Se costruisci un assistente virtuale per il servizio clienti usando un modello di terze parti, sei tu a dover classificare quell'applicazione — probabilmente rischio limitato — indipendentemente dal fatto che il modello sotto sia GPAI a rischio sistemico o meno.

Invece di partire dalla tecnologia, parti da tre domande, in ordine:

Primo: cosa decide, o influenza, questo sistema? Se la risposta tocca lavoro, credito, salute, sicurezza fisica, giustizia o accesso a servizi essenziali, sei probabilmente nell'alto rischio e serve un'analisi approfondita, meglio con supporto legale specializzato.

Secondo: la persona coinvolta sa che sta interagendo con un'AI, o che il contenuto è generato da un'AI? Se la risposta è no e dovrebbe saperlo, hai un problema di rischio limitato da risolvere con la disclosure, indipendentemente da cos'altro emerga dall'analisi.

Terzo: cosa succederebbe se il sistema sbagliasse? Un errore di raccomandazione prodotto costa una vendita mancata. Un errore di screening CV costa a una persona reale un'opportunità di lavoro che non saprà mai di aver perso. L'AI Act misura la gravità di quella conseguenza, non la sofisticazione tecnica dello strumento che l'ha causata. Questa terza domanda, più delle prime due, è quella che la maggior parte delle aziende salta. Ed è quella che conta di più.