Nessun prodotto nel carrello.
Controllare l’intelligenza artificiale non può significare solo leggere e approvare i suoi risultati. Servono competenze, formazione e la capacità di riconoscere quando una risposta convincente è sbagliata.
Possiamo davvero dimostrare che l’intelligenza artificiale utilizzata in azienda o in uno studio professionale sia sottoposta a un controllo umano efficace? La questione è se si possiedono le competenze necessarie per valutarlo. La supervisione umana dell’IA richiede infatti qualcosa in più di una lettura veloce: occorre riconoscere errori, riferimenti normativi sbagliati, interpretazioni fuori contesto e conclusioni apparentemente coerenti ma fondate su passaggi logici fragili.
Cosa prevede l’AI Act
Per i sistemi di intelligenza artificiale ad alto rischio, l’AI Act disciplina la sorveglianza umana attraverso gli articoli 14 e 26. Il primo dei due richiede che chi supervisiona sia messo nelle condizioni di comprendere capacità e limiti del sistema, monitorarne il funzionamento, riconoscere anomalie e interpretare correttamente gli output. Deve inoltre poter ignorare, annullare o ribaltare un risultato e, quando necessario, interrompere il funzionamento del sistema. L’articolo 26 richiama invece competenza, formazione, autorità e sostegno necessari.
Il punto è concreto: una persona può anche approvare una risposta dell’IA senza essere in grado di riconoscerne gli errori. Per questo, conoscere lo strumento non basta. Un consulente del lavoro deve saper verificare i risultati nella propria materia; chi opera nel settore fiscale deve valutare i riferimenti normativi e la loro applicabilità al caso concreto.
Il rischio dell’automation bias. La risposta convincente ma sbagliata
L’IA generativa può produrre risposte sbagliate con un linguaggio impeccabile, termini tecnici appropriati e riferimenti apparentemente credibili. Proprio la qualità formale può ridurre l’attenzione di chi legge. L’AI Act richiama questo rischio con il termine automation bias: la tendenza ad affidarsi in modo automatico o eccessivo alle informazioni e alle raccomandazioni prodotte da un sistema di IA.
Per evitarlo, serve la capacità di dubitare: verificare le fonti, chiedere una seconda valutazione e fermarsi quando il risultato non convince. Il controllo umano deve consentire di mettere in discussione l’output, non limitarsi a confermarlo.
Competenza e autorità devono viaggiare insieme
Chi supervisiona deve avere anche la possibilità concreta di contestare il sistema. Se individua una criticità ma si sente comunque obbligato ad approvare il risultato perché «lo ha detto il software», il controllo rischia di diventare formale.
Le organizzazioni devono, perciò, individuare persone preparate, formarle e definire procedure che stabiliscano quando verificare una fonte, richiedere una seconda valutazione e documentare il controllo.
AI Act e Legge 132/2025: obblighi per organizzazioni e professionisti
Gli obblighi specifici di sorveglianza umana degli articoli 14 e 26 riguardano i sistemi ad alto rischio: non ogni utilizzo di ChatGPT, Copilot, Gemini o altri assistenti generativi è automaticamente soggetto a queste prescrizioni.
L’articolo 4 dell’AI Act disciplina l’alfabetizzazione in materia di IA e richiama le misure che fornitori e deployer devono adottare per sostenere lo sviluppo delle competenze del personale.
Per le professioni intellettuali, l’articolo 13 della Legge 132/2025 prevede l’utilizzo dell’IA per attività strumentali e di supporto, con prevalenza del lavoro intellettuale, e l’obbligo di informare il cliente sui sistemi utilizzati con un linguaggio chiaro, semplice ed esaustivo.
Informare il cliente, tuttavia, non sostituisce la competenza necessaria per valutare il risultato.
Una supervisione effettiva
La supervisione umana dell’IA diventa concreta quando chi controlla conosce tanto lo strumento quanto la materia; dispone di una formazione adeguata; può intervenire senza essere vincolato all’approvazione dell’output.
L’intelligenza artificiale continuerà a migliorare, ma risultati sempre più convincenti potrebbero rendere più difficile individuare gli errori. Una risposta palesemente sbagliata è facile da contestare; una risposta errata scritta con sicurezza e linguaggio professionale richiede attenzione.
La domanda decisiva, quindi, non è soltanto se una persona abbia controllato il risultato ma se fosse davvero in grado di farlo.
Antonio Sinibaldi per redigo.info
