L'etica prima della governance e del diritto, a difesa dei diritti fondamentali delle persone

Fin dall’origine, l’umanità ha nutrito timore verso le tecnologie capaci di operare oltre il controllo dei propri creatori. Oggi, l’incertezza che circonda l’Intelligenza Artificiale (IA) ricalca questa paura ancestrale: come possiamo fidarci di strumenti le cui logiche interne appaiono spesso come “scatole nere” imperscrutabili? 

Oggi viviamo in  un ambiente fatto di informazioni tanto quanto di materia, in un luogo che il filosofo Luciano Floridi, con la sua etica dell’informazione, ha denominato “infosfera” ovvero quello spazio speciale che è ininterrottamente analogico e digitale, offline e online; un ambiente in cui la responsabilità morale non riguarda solo ciò che facciamo, ma anche la cura dell’ambiente informativo che lasciamo agli altri. Inquinare l’infosfera con contenuti falsi opachi, manipolatori è un danno, esattamente come inquinare l’atmosfera o un un fiume.  Allora la domanda che ci dovremmo porre è : qual’è il nostro progetto umano per l’era digitale e che tipo di società dell’informazione vogliamo costruire e lasciare alle generazioni future. 

L’intelligenza artificiale è uno strumento volto ad aumentare la prosperità umana e il bene comune,  può ampliare enormemente le capacità umane, ma può anche ferire diritti, dignità e libertà umana. 

Ed è l’etica digitale, intesa come quel settore di etica che studia e valuta i problemi morali relativi ai dati e informazioni, agli algoritmi e alle relative pratiche,  ciò che ci consente di orientare questa tecnologia verso il bene comune prima ancora che intervengano le leggi. Non si occupa soltanto di ciò che è tecnicamente possibile o giuridicamente consentito, ma di ciò che è desiderabile per le persone e per la società. Il suo oggetto sono le conseguenze concrete che algoritmi e sistemi automatizzati producono sulla vita reale: chi ottiene un prestito, chi viene assunto, come vengono trattati i nostri dati, quali contenuti leggiamo, come vengono prese decisioni che ci riguardano.

A differenza di una norma di legge, che vincola dopo essere stata approvata, l’etica opera prima: guida le scelte di chi progetta, acquista e utilizza un sistema di IA nel momento stesso in cui quelle scelte vengono compiute. Per questo l’etica digitale non è un ostacolo all’innovazione, ma la condizione perché l’innovazione sia sostenibile, accettata e degna di fiducia.

L’etica prima della governance e del diritto

La tecnologia corre più veloce del diritto. Quando emerge una nuova applicazione dell’IA, il legislatore ha bisogno di anni per comprenderla, discuterla e regolarla; nel frattempo quella tecnologia è già in uso e produce effetti. Esiste quindi un divario strutturale tra il ritmo dell’innovazione e quello della norma. In questo intervallo che non è mai del tutto colmabile è l’etica a fornire la bussola. È l’etica a dire a chi sviluppa o adotta un sistema che cosa deve fare anche quando nessuna legge glielo impone ancora.

Vi è poi una ragione più profonda. Il diritto stesso nasce dall’etica: le regole giuridiche traducono in obblighi vincolanti valori che riconosciamo come fondamentali. Non è un caso che il legislatore europeo, prima di scrivere l’AI Act, si sia appoggiato su un lavoro di natura etica. Il Regolamento (UE) 2024/1689 richiama espressamente gli orientamenti etici per un’IA affidabile elaborati nel 2019 dal gruppo indipendente di esperti ad alto livello (AI HLEG) nominato dalla Commissione (tra i quali era presente il Prof. Luciano Floridi), e afferma che tali principi «contribuiscono all’elaborazione di un’IA coerente, affidabile e antropocentrica, in linea con la Carta e con i valori su cui si fonda l’Unione».

La sequenza è dunque chiara: prima i valori (dignità, libertà, uguaglianza, autonomia), poi i principi etici che li declinano rispetto all’IA, infine le regole giuridiche e la governance che li rendono esigibili e sanzionabili. La governance — le autorità di vigilanza, i codici di condotta, i controlli di conformità — è lo strumento operativo che dà gambe all’etica; ma senza un fondamento etico condiviso si ridurrebbe a mera burocrazia. Lo stesso AI Act adotta un approccio «antropocentrico», in cui l’IA «dovrebbe fungere da strumento per le persone, con il fine ultimo di migliorare il benessere degli esseri umani»: un’affermazione di valore, prima ancora che una regola tecnica.

L’etica a difesa dei diritti fondamentali

Il vero motivo per cui l’etica digitale conta è che l’IA incide direttamente sui diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell’Unione europea: la dignità umana, la vita privata e la protezione dei dati personali, la non discriminazione, la libertà di espressione, l’accesso alla giustizia. Un sistema di selezione del personale può discriminare; uno strumento di scoring creditizio può escludere ingiustamente; un algoritmo opaco può negare un diritto senza che la persona interessata possa capirne il perché o difendersi.

L’etica agisce qui come prima linea di difesa. Chiede che ogni sistema sia valutato non solo per la sua efficienza, ma per il suo impatto sulle persone più esposte e vulnerabili. Questo principio ha già trovato traduzione giuridica: l’AI Act impone, per alcuni sistemi ad alto rischio, una vera e propria valutazione d’impatto sui diritti fondamentali (art. 27), da svolgere prima dell’uso. È l’esempio più netto di come un’esigenza etica, proteggere le persone prima che il danno si verifichi, diventi obbligo di legge.

Sul piano internazionale la stessa idea è al centro della Raccomandazione UNESCO sull’etica dell’intelligenza artificiale (2021), primo strumento globale in materia, adottato da 193 Stati: l’IA "deve rispettare, proteggere e promuovere i diritti umani e la dignità umana" lungo l’intero ciclo di vita. Anche i Principi OCSE sull’IA (2019, aggiornati nel 2024), adottati da decine di Paesi, muovono dalla stessa premessa: un’IA affidabile deve rispettare i diritti umani, i valori democratici e lo Stato di diritto. 

I quattro principi etici 

Dalle radici dei diritti fondamentali derivano quattro principi imperativi etici, ai quali occorre aderire per garantire che i sistemi di IA siano sviluppati distribuiti e utilizzati in modo affidabile e che riguardano tutti noi (imprese, professionisti, politici e cittadini del mondo) :

1. Rispetto dell’autonomia umana : Garantire l’autodeterminazione e prevenire la manipolazione subconscia. I sistemi di IA non devono subordinare, costringere, ingannare, manipolare, condizionare o aggregare in modo ingiustificato gli esseri umani. Al contrario, devono essere progettati per aumentare, integrare e potenziare le abilità cognitive, sociali e culturali umane. La distribuzione delle funzioni tra esseri umani e sistemi di IA dovrebbe seguire i principi di progettazione antropocentrica e lasciare ampie opportunità di scelta all’essere umano. 
2. Prevenzione dei danni : Proteggere l’integrità fisica e psichica, evitando usi malevoli o asimmetrie di potere, come ad esempio tra datori di lavoro e dipendenti, imprese e consumatori o governi e cittadini. La prevenzione dei danni implica anche il rispetto dell’ambiente naturale e di tutti gli esseri viventi. 
3. Equità : Assicurare una distribuzione giusta di costi e benefici, garantendo che gli individui e i gruppi siano liberi da distorsioni inique, discriminazioni e stigmatizzazioni automatizzate. Occorre inoltre promuovere le pari opportunità in termini di accesso all’istruzione, ai beni, ai servizi e alla tecnologia. L’utilizzo dei sistemi di IA, inoltre, non deve mai ingannare gli utenti (finali) né ostacolarne la libertà di scelta. 
4. Esplicabilità : affinchè l’IA sia benefica e non malefica, dobbiamo essere in grado di comprendere il bene o il danno che sta facendo alla società; dunque qualora la complessità algoritmica renda impossibile una spiegazione diretta (il caso della “scatola nera”), i progettisti devono implementare misure compensatorie rigorose, come la tracciabilità totale dei dati di input e la verificabilità dei processi di addestramento.  L’esplicabilità diventa un principio fondamentale per creare e mantenere la fiducia degli utenti nei sistemi di IA. 

L’etica, insomma, non protegge le tecnologie: protegge le persone dalle tecnologie usate male. E non è neanche un freno alla tecnologia, ma il fondamento della  “competitività responsabile”  dell’Europa.