Nessun prodotto nel carrello.
Ripetiamo come un mantra che l’intelligenza artificiale può produrre risposte impeccabili nella forma ed errate nella sostanza. Una persona a valle del processo cui chiedere di approvare il risultato, non garantisce l’esercizio di un controllo effettivo. L’AI Act individua competenze, formazione e autorità come condizioni essenziali della sorveglianza umana. Chi, però, controlla realmente quello che la macchina produce?
Affrontato il tema della capacità di aziende e studi professionali di documentare il proprio utilizzo dell’IA, emerge una questione ulteriore: la persona incaricata della supervisione è in grado di riconoscere gli errori del sistema?
La presenza di un controllo umano non basta. Occorre capire se chi legge un risultato sappia individuare un riferimento errato, un’interpretazione fuori contesto o una conclusione costruita su premesse deboli.
Che dice l’AI Act?
L’articolo 14 dell’AI Act stabilisce che, per i sistemi di IA ad alto rischio la sorveglianza umana debba poter essere esercitata efficacemente da persone fisiche. Chi supervisiona deve comprendere capacità e limiti del sistema, monitorarne il funzionamento, riconoscere anomalie e interpretare correttamente gli output. Deve anche poter ignorare, annullare o ribaltare un risultato e, quando necessario, interrompere il funzionamento del sistema.
L’articolo 26 aggiunge quattro elementi fondamentali: competenza, formazione, autorità e sostegno necessari.
Non basta, quindi, assegnare formalmente a qualcuno il compito di verificare un risultato ma va messo nelle condizioni di farlo.
Controllo umano, prima competenza poi approvazione
Immaginiamo un professionista che utilizzi l’IA per analizzare un documento complesso. Riceve una risposta ordinata, ben scritta, corredata da riferimenti normativi e la approva dopo una rapida lettura. Il passaggio umano è avvenuto. Il controllo è stato effettivo?
Rispondere comporta verificare se quel professionista possieda le conoscenze necessarie per individuare un riferimento sbagliato, una norma applicata fuori contesto o un elemento decisivo trascurato.
Un consulente del lavoro deve riconoscere gli errori nella propria disciplina; chi opera in ambito fiscale deve verificare i riferimenti e la loro applicabilità al caso concreto; chi lavora nelle risorse umane deve comprendere le conseguenze dei criteri utilizzati per valutare le persone.
La conoscenza dello strumento non sostituisce quella della materia. Senza entrambe, la supervisione rischia di diventare un passaggio formale, rassicurante sulla carta ma fragile nella realtà.
Automation bias: quando l’IA sbaglia bene
L’errore più insidioso non è necessariamente quello evidente. L’intelligenza artificiale generativa può restituire risposte sbagliate con un linguaggio tecnico appropriato, una struttura convincente e riferimenti apparentemente attendibili. In diversi Paesi sono già arrivati in tribunale atti contenenti citazioni di sentenze inesistenti, generate dall’IA e non intercettate da chi li aveva sottoscritti.
L’AI Act richiama questo rischio attraverso il concetto di automation bias: la tendenza ad affidarsi automaticamente o eccessivamente agli output di un sistema di IA, soprattutto quando forniscono informazioni o raccomandazioni a supporto delle decisioni umane. Per questo il supervisore deve mantenere capacità critica: verificare le fonti, chiedere una seconda valutazione e fermare un risultato quando non convince. Il dubbio diventa una competenza professionale.
Autorità: il supervisore deve poter dire no
L’articolo 26 sopraccitato richiama un elemento spesso sottovalutato: l’autorità. Chi controlla il sistema deve poter contestare il risultato senza essere costretto ad approvarlo perché prodotto dal software. Per i sistemi ad alto rischio, il Regolamento prevede espressamente la possibilità di non utilizzare il sistema in una determinata situazione, ignorarne o ribaltarne l’output e interromperne il funzionamento.
La responsabilità della supervisione deve quindi essere accompagnata da un’effettiva possibilità di intervento.
AI Act e professionisti: quali regole si applicano
È importante precisare che gli obblighi specifici degli articoli 14 e 26 riguardano i sistemi di IA ad alto rischio. Non ogni utilizzo di ChatGPT, Copilot, Gemini o altri assistenti generativi comporta automaticamente l’applicazione di queste prescrizioni. Esistono tuttavia disposizioni che interessano più ampiamente chi utilizza l’IA.
L’articolo 4 disciplina l’alfabetizzazione in materia di intelligenza artificiale. Applicabile dal 2 febbraio 2025, è stato riformulato dal Regolamento (UE) 2026/1744, il Digital Omnibus sull’IA, entrato in vigore il 27 luglio 2026. Fornitori e deployer devono adottare misure per sostenere lo sviluppo dell’alfabetizzazione del personale e delle altre persone coinvolte nell’utilizzo dei sistemi per loro conto. La norma non impone un livello specifico di preparazione per ciascun lavoratore.
La Legge 132/2025, in vigore dal 10 ottobre 2025, interviene invece sull’utilizzo dell’IA nelle professioni intellettuali. L’articolo 13 consente l’impiego dei sistemi per attività strumentali e di supporto, mantenendo la prevalenza del lavoro intellettuale. Richiede inoltre che il cliente sia informato sull’utilizzo dell’IA con un linguaggio chiaro, semplice ed esaustivo.
Il Digital Omnibus ha, inoltre, differito al 2 dicembre 2027 l’applicazione delle disposizioni sui sistemi ad alto rischio dell’Allegato III, tra cui determinati utilizzi nell’ambito dell’occupazione, rispetto alla precedente scadenza del 2 agosto 2026.
La supervisione umana si misura dalla capacità di intervenire
Per aziende e studi professionali, la questione non è soltanto individuare chi deve approvare un risultato prodotto dall’IA. Occorre selezionare persone che conoscano lo strumento e la materia, assicurare una formazione adeguata e attribuire loro l’autorità necessaria per contestare o non utilizzare un output.
Servono procedure che stabiliscano quando verificare una fonte, richiedere una seconda valutazione e documentare il controllo. Più l’intelligenza artificiale diventa capace di produrre risposte convincenti, più diventa importante la preparazione di chi deve verificarle. La domanda, allora, non è quante volte una persona intervenga nel processo, ma se sia davvero in grado di esercitare un giudizio autonomo. Perché il controllo umano non si dimostra con una firma in calce a un output. Si dimostra soprattutto quando qualcuno possiede le competenze e l’autorità necessarie per dire all’intelligenza artificiale una parola: no.
Antonio Sinibaldi per redigo.info
