Riserva di umanità e supervisione umana

Limiti della Intelligenza Artificiale

Prima legge al mondo sulla Intelligenza Artificiale, l‘AI-Act è il Regolamento UE 2024/1689 che ne stabilisce le regole armonizzate. Riguarda tanto chi ne sviluppa o ne commercializza i sistemi, quanto chi utilizza software gestionali con funzionalità AI e chatbot, quali Chat GPT, ad esempio, Gemini, Claud, Copilot, Perplessity, ManyChat, Botpress o Dialogflow, che sono tra i più diffusi delle molte decine in circolazione, sviluppati talvolta per specifiche esigenze. È destinato ad essere pietra miliare nel complesso percorso di comprensione e di assimilazione della Intelligenza Artificiale, protagonista ormai di un nuovo mondo dell’umanità, cui sta dando vita diversa.

I principi ispiratori di questo Regolamento UE sono tutti nel dispositivo della sentenza 2 febbraio 2026 del TAR del Lazio, che si è pronunciato sui limiti dell’automazione e dell’uso di Intelligenza Artificiale o di algoritmi nelle procedure selettive pubbliche. In sintesi: un docente aveva presentato domanda per concorrere a un posto di insegnante ma, pur avendo dimostrato di averne tutti i requisiti, aveva dimenticato, per segnalarli, di barrare la casella prevista dal modulo di iscrizione; escluso per questo dal sistema automatico di valutazione, ha presentato ricorso, accolto dal TAR di competenza, per il quale, in applicazione del principio di Riserva di umanità, la Pubblica Amministrazione doveva – e non lo ha fatto – garantire il controllo umano sulle procedure automatizzata e impedire, quindi, che l’algoritmo potesse danneggiare in modo ingiusto il candidato. L’algoritmo, configurato infatti per rilevare solo le informazioni inserite nei campi prestabiliti, non ha considerato gli altri elementi comunque noti e la decisione amministrativa, per i giudici, non poteva essere delegata integralmente al sistema informatico.

L’AI-Act, entrato in vigore il 1° agosto 2024, prevede norme di applicazioni differite. Gli obblighi relativi ai sistemi di Intelligenza Artificiale ad alto rischio dovevano diventare pienamente operativi dal 2 agosto 2026 ma, con provvedimento dell’ultimo momento, la data è stata prorogata di un anno per alcuni precetti e di due anni per altri, confermando tuttavia che le regole di trasparenza restavano attive. Per il TAR del Lazio, da questo Regolamento UE possono trarsi criteri interpretativi rilevanti, espressivi di principi dell’ordinamento dell’Unione Europea destinati a orientare l’azione degli Stati membri.  Nel contesto, però, gli articoli 3, 24 e 97 della nostra Costituzione possono comunque considerarsi un precedente storico, perché impongono sin dal primo gennaio del 1948, quando entrò in vigore, il rispetto dei principi di uguaglianza, diritto di difesa, imparzialità, ragionevolezza e buon andamento dell’azione amministrativa, di cui si pregia il Regolamento UE, che pone l’IA al servizio dell’uomo e prevede il requisito della supervisione umana sulle proposte decisionali della IA.

L’algoritmo è un atto amministrativo informatico e non può, come tale, tradursi in una delega integrale del potere decisionale. Questo è principio ormai stigmatizzato con la espressione coniata dal giurista spagnolo Juli Ponce Solè: riserva di umanità. Di grande valore etico, essa prevede che le decisioni importanti, in particolare quelle della Pubblica Amministrazione e della Giustizia, non possono essere delegate integralmente a un computer o a un algoritmo, ma richiedono sempre la valutazione, la responsabilità e il controllo finale di una persona umana. L’Intelligenza Artificiale, i sistemi automatici, possono solo aiutare, mai sostituire il giudizio di un essere umano. I diritti delle persone vanno sempre tutelati e le decisioni ingiuste, prive di buonsenso, vanno evitate. Quando la Pubblica Amministrazione usa programmi informatici per pratiche o bandi, occorre che la decisione sia controllata e firmata da un funzionario. L’Intelligenza Artificiale può essere di supporto per la istruzione di ogni processo, ma l’ultima parola, quella decisiva, compete al giudice, persona fisica. La riserva di umanità impone, per ogni decisione finale, un controllo umano attivo, teso ad evitare che le macchine decidano da sole in modo cieco. Scelte cruciali in particolare, senza un controllo umano, non sono delegabili agli automatismi dei sistemi di Intelligenza Artificiale, che possono servire l’uomo, ma non possono sostituirlo nelle decisioni, di cui chi decide deve sempre farsi carico personale.

ll Regolamento AI-Act non contiene il termine riserva di umanità, ma ne incorpora tuttavia le valenze, enfatizzando il requisito della supervisione umana nelle decisioni, in particolare in quelle che incidono significativamente sulla vita delle persone e riguardano ad esempio, lavoro, giustizia, sanità, sicurezza, le quali devono sempre rimanere sotto la responsabilità umana.  Non tutte le decisioni devono essere sempre prese da un essere umano, ma nei sistemi ad alto rischio necessita un controllo umano effettivo, non meramente formale e la supervisione umana deve essere realmente praticabile dagli operatori.

Il Regolamento UE pone l’essere umano al centro della progettazione e dell’uso dei sistemi di Intelligenza Artificiale. Dalla sua impostazione antropocentrica scaturisce l’obbligo della supervisione umana, che è principio ispiratore e di riferimento generale, diverso da quello diffuso come riserva di umanità.  Questo ha basi dottrinali eminentemente giuridiche e riguarda più propriamente il limite da porsi alle decisioni completamente automatizzate, ma è principio che bene si armonizza col precedente e contribuisce non poco a rafforzare il clima di fiducia dei cittadini nei confronti della Intelligenza Artificiale, la quale rischia di fagocitare l’Intelligenza Umana, che l’ha creata per servirsene, non per esserne asservita.  

Si vales, vàleo.

© 2026 CIVICO20NEWS – riproduzione riservata