Guida AI Act

Sistemi di AI ad alto rischio:
come capire se ne usi uno

Un sistema di AI è ad alto rischio se è un componente di sicurezza di un prodotto regolato oppure se viene usato in uno degli ambiti dell'Allegato III, come selezione del personale, valutazione del merito creditizio, assicurazioni vita e salute o istruzione. Gli obblighi scattano il 2 dicembre 2027, e il 2 agosto 2028 per l'AI integrata in prodotti regolati.

Sul lavoro però l'Italia è già più avanti: dal 23 ottobre 2026 le decisioni finali sul personale devono essere prese da una persona.

Di Cesare D'Adamo//3 minuti di lettura

Gli ambiti dell'Allegato III

  • Biometria: identificazione a distanza, categorizzazione biometrica, riconoscimento delle emozioni dove consentito.
  • Infrastrutture critiche: componenti di sicurezza per traffico, acqua, gas, elettricità, riscaldamento e infrastrutture digitali.
  • Istruzione e formazione: ammissione, valutazione dei risultati, sorveglianza durante gli esami.
  • Occupazione e gestione dei lavoratori: annunci mirati, selezione e valutazione dei candidati, promozioni, licenziamenti, assegnazione dei compiti, monitoraggio delle prestazioni.
  • Servizi essenziali: prestazioni pubbliche, merito creditizio delle persone, valutazione del rischio e prezzi delle assicurazioni vita e salute, gestione delle chiamate di emergenza.
  • Attività di contrasto, migrazione e frontiere, giustizia e processi democratici: ambiti che riguardano soprattutto la pubblica amministrazione.

L'eccezione da conoscere

Un sistema usato in questi ambiti non è ad alto rischio se non incide in modo significativo sulle decisioni, per esempio quando svolge un compito procedurale limitato, migliora il risultato di un lavoro umano già completato, rileva schemi decisionali senza sostituire la valutazione umana o svolge un compito preparatorio.

Obblighi per chi usa un sistema ad alto rischio

  • usarlo secondo le istruzioni del fornitore;
  • affidare la sorveglianza umana a persone competenti e con autorità;
  • assicurarsi che i dati di input sotto il proprio controllo siano pertinenti;
  • monitorarne il funzionamento e segnalare rischi e incidenti;
  • conservare i log generati automaticamente per almeno sei mesi;
  • informare lavoratori e loro rappresentanti prima di usarlo sul posto di lavoro;
  • informare le persone su cui contribuisce a prendere decisioni.

Enti pubblici, privati che erogano servizi pubblici e chi usa l'AI per il merito creditizio o per le polizze vita e salute devono anche fare una valutazione d'impatto sui diritti fondamentali prima di usare il sistema.

Obblighi per chi lo sviluppa

Il fornitore deve avere un sistema di gestione dei rischi e della qualità, curare la qualità dei dati, preparare la documentazione tecnica, prevedere la registrazione automatica degli eventi, dare istruzioni chiare a chi usa il sistema, garantire sorveglianza umana, accuratezza, robustezza e cybersicurezza, completare la valutazione di conformità, apporre la marcatura CE e registrare il sistema nella banca dati europea.

In Italia: decisioni sul personale

Con il decreto legislativo 179/2026 (articolo 41), in vigore dal 23 ottobre 2026, le decisioni su assunzione, modifica e cessazione del rapporto di lavoro, compresi provvedimenti disciplinari e valutazioni delle prestazioni, non possono basarsi solo su un trattamento automatizzato. Le prende una persona con potere effettivo e autonomo. Le decisioni prese solo da un algoritmo sono nulle, anche con il consenso del lavoratore.

La ricerca e la selezione dei candidati non sono considerate decisioni finali. Il lavoratore può chiedere, tramite una persona, una motivazione comprensibile della decisione, compreso il peso avuto dall'AI.

Consulenza gratuita

Cosa vale per la tua azienda?

In una prima chiamata gratuita guardiamo gli strumenti di AI che usate e ti dico quali obblighi vi riguardano davvero e da dove partire.

Domande frequenti

Un software che filtra i CV è ad alto rischio?

Sì, rientra nell'ambito occupazione dell'Allegato III, con obblighi dal 2 dicembre 2027. In Italia già oggi la decisione di assumere deve restare a una persona, anche se il software ordina o filtra i candidati.

Il chatbot di assistenza clienti è ad alto rischio?

Di norma no. È un sistema con obblighi di trasparenza: le persone devono sapere che parlano con un'AI.

Uso un software con AI per il credito ai clienti: cosa devo fare?

Se valuta il merito creditizio di persone fisiche è ad alto rischio. Dal 2 dicembre 2027 servono gli obblighi da utilizzatore e una valutazione d'impatto sui diritti fondamentali. Il sistema antifrode, invece, è escluso da questa voce.

Cesare D'Adamo
Chi ha scritto questa guida

Cesare D'Adamo

Consulente di prodotto e intelligenza artificiale

Oltre 15 anni tra prodotto, growth e AI, più di 20 prodotti basati su AI costruiti e team dirigenziali formati sulla conformità all'AI Act. Lavora da Berlino con aziende in Italia e in Europa, in italiano e in inglese.

Mettiamo l'AI in regola, e al lavoro

Strategia, prodotti e automazioni con l'AI che portano risultati misurabili, nel rispetto delle regole. Partiamo da una chiamata gratuita.

Prenota una consulenza gratuita

Prima chiamata gratuita e senza impegno