AI, chi sei?

Cortese e collaborativa la prima risposta; tecnica, specifica e ordinata la seconda.

Entrambe tanto fluide da indurre a percepire dell’intenzionalità, una soggettività, un linguaggio umano.

Ma la macchina che risponde così bene alla domanda chi sei? è l'ultima a saperlo, da un punto di vista antropocentrico. La macchina è infatti progettata per rispondere, non comprende il senso dell’output che produce, non c’è coscienza e non c’è soggettività.
Allora rispondere alla domanda originale è onere di chi ha generato l’AI: l’uomo; noi. E per farlo dobbiamo compiere un giro più lungo del previsto, passando dalla tecnica alla storia della nostra specie, perché interrogare l’AI, altro non è che interrogare noi stessi.
 
Oltre il bipolarismo

Il dibattito pubblico sull'AI è quasi sempre incastonato tra due poli: la promessa salvifica e la minaccia apocalittica. È una polarizzazione tribale che ci dispensa dal pensare a favore dello scontro tra fazioni, che disunisce marginalizzando approfondimenti e ricerche, piuttosto costruendo eco-chambers^[1]: ambienti di comunicazione chiusi in cui si ripetono e si confermano credenze e posizioni. In questi spazi le idee diverse vengono ignorate, sminuite o escluse, creando un forte isolamento ideologico, lasciando il dibattito sempre in superficie e fomentando il conflitto ideologico e non lo studio serio e profondo.
Questa tendenza è un “nodo” etico dei nostri tempi, perché mentre discutiamo di macchine coscienti e di scenari da fantascienza, restano scoperte le questioni concrete e urgenti: i bias, la responsabilità, la governance, la concentrazione del potere in poche infrastrutture cognitive private e tanto altro ancora.
Quello che stiamo vivendo è il tempo della complessità, di cui siamo interpreti e attori. Come sostenuto dal premio Nobel per la fisica Philip Anderson nel 1972: «a ogni livello di complessità emergono proprietà nuove, che richiedono leggi e concetti nuovi». L'AI è esattamente un salto di complessità che ci obbliga ad aggiornare il nostro vocabolario, le nostre competenze, non per inseguire l'hype, ma per decidere che futuro vogliamo costruire, non quello semplicemente probabile e possibile ma quello desiderabile. Le scienze sociali si stanno infatti specializzando nello studio e applicazione del “future thinking” attraverso la “strategic foresight” che consiste in un insieme di metodi con cui un'organizzazione immagina in modo sistematico più scenari futuri possibili per prendere oggi decisioni più solide e lungimiranti^[2].
 
Per capire l'AI, dobbiamo capire chi siamo

Rivolgendo quindi ora la domanda a noi, ci appropriamo in questa sede della risposta di A. Clark: «Siamo nati cyborg»^[3].
Per comprendere meglio questa affermazione, dobbiamo guardare alla nostra storia evolutiva. L’antropos è quella specie vivente che ha sopperito a deficit biologici con strumenti extra-biologici: l’agricoltura, il linguaggio, la scrittura, la cultura, il diritto, la tecnica e la tecnologia. Abbiamo sfruttato l’ambiente delegando attività pratiche e anche cognitive, abbiamo costruito una ibridazione tra noi e l’ambiente stesso, non avendo alcuni degli strumenti biologici che altre specie viventi sul nostro pianeta invece hanno costitutivamente. Siamo esseri carenti e per tale motivo abbiamo bisogno di costruire soluzioni.
Ogni grande invenzione e innovazione della nostra specie - la parola, la scrittura, l'alfabeto, la stampa, il digitale - non hanno soltanto trasmesso la conoscenza esistente ma hanno ridisegnato la struttura stessa del pensiero umano, aprendo possibilità cognitive prima inimmaginabili (portandosi dietro anche impatti negativi, si veda Perchè un'Officina Etica? in questo blog).
Da questo punto di vista, l'AI è l’ultimo anello di una lunghissima catena in cui abbiamo delegato memoria e linguaggio a un supporto esterno. L'alfabeto è stato la prima "intelligenza esterna", una vera estensione della nostra mente e del nostro pensiero che ha trovato rappresentazione in lettere e parole (il significante) il cui significato viene attribuito dall’uomo stesso, attraverso il concetto che viene evocato. Il token dei modelli generativi LLM potrebbe quindi essere annoverato come nuova forma cyber-linguistica. Adottando le nostre categorie antropocentriche allora potremmo definire l'AI come un non-animale dotato di linguaggio^[4]: una tecnologia del linguaggio, come lo furono i pittogrammi e la stampa.
 
Cosa fa davvero una macchina che "parla"

Un sistema di intelligenza artificiale è, semplificando, un software basato su modelli statistici, addestrati su grandi quantità di dati, che generano output di natura probabilistica, l’intelligenza artificiale non "sa" e non "capisce" nulla nel senso in cui lo intendiamo noi – da un punto di vista antropocentrico - ma calcola, a partire da un input (il prompt), la sequenza di elementi linguistici più probabile in base ai pattern osservati durante l'addestramento. Non comprende il significato, ma utilizza correlazioni statistiche, rispondendo in modo plausibile.
L'AI non "legge" come noi, non percepisce parole intere, ma le scompone in piccole unità, i token, che sono il suo alfabeto digitale. La parola "intelligenza" può diventare due o tre token distinti, ciascuno con un peso statistico nel contesto. Quando le rivolgiamo un prompt, non stiamo dialogando con una mente ma stiamo attivando una funzione matematica che predice, in modo probabilistico, la sequenza di token più plausibile.
Le reti neurali artificiali si ispirano alla struttura del cervello; il cervello umano conta circa 86 miliardi di neuroni capaci di apprendere da pochissimi esempi, di comprendere contesto e significato e di provare emozioni. Un modello ha miliardi di parametri e zero comprensione del significato: non ha corpo, bisogni, storia né esperienza. Elabora correlazioni statistiche su ciò che gli è stato mostrato.
L'AI quindi simula risultati intelligenti senza comprendere il senso di ciò che produce. In termini più netti: genera risultati corretti secondo il proprio modello e seguendo le istruzioni per cui è stata programmata; l’output è corretto da un punto di vista metodologico ma non è “vero”.
Nei modelli manca la coscienza, l'intenzionalità, la comprensione del significato, competenze e funzioni ontologicamente umane.
Per Floridi^[5] questi sistemi sono agency ad intelligenza zero (agere sine intelligere), se per l’uomo agire efficacemente era indissolubile dell’essere intelligente, per l’AI questo non è più valido, diventando strumento. Ottiene i risultati, l'output corretto, scavalcando comprensione, intenzione e coscienza. E allora in questo quadro l’agency si può delegare, l’intelligenza no.

E se ci somigliasse più di quanto vogliamo ammettere?

Se allora riduciamo a calcoli probabilistici, chi c’è dietro la macchina che parla?

Assodato che mancano emozioni, esperienza e intenzionalità, dobbiamo pur condividere qualcosa con uno strumento che è frutto del nostro intelletto, qualcosa di noi, deve esserci nella macchina.
Gli LLM non producono significato nel senso in cui lo fa una mente umana, ma riproducono statisticamente forme linguistiche plausibili a partire da ciò che hanno “visto”; allora si potrebbe dire che l 'IA non produce frasi, ma effetti di enunciazione: occupa il posto del soggetto che parla. È una macchina del "come se": parla come se fosse un soggetto, argomenta come se capisse, ricorda come se avesse memoria. La sua parola è "vuotamente piena": nessun autore, ma un posto nel discorso; nessuna intenzione, ma intenzionalità percepita. In questa direzione (quella del semiotico C. Paolucci) l'IA può produrre effetti di soggettività pur senza essere un soggetto.
Guardando alle fasi del neuro-sviluppo infantile, il bambino non impara a dire "io" perché possiede già un sé: ci arriva attraversando la finzione (il gioco del "come se", la maschera, perfino l'inganno e la finzione) e solo da quel fingere, dopo, emerge la soggettività. Allo stesso modo non gli si insegnano prima le regole della grammatica e poi lo si lascia parlare: è immerso nel linguaggio, ne estrae le regolarità, e le regole arrivano in seguito, a razionalizzare una competenza già in atto. Sono esattamente i due gesti dell'AI generativa: una macchina del "come se" che parla come se fosse un soggetto, e che le regole del linguaggio non le ha ricevute ma le ha ricavate, statisticamente, dall'immersione nei testi. Ciò che condividiamo con la macchina, allora, non è l'intelligenza (che resta nostra) ma alcuni meccanismi del nostro stesso neuro-sviluppo.
Ovviamente rimangono saldi dei confini: il bambino attraversa il "come se" verso un approdo, l'io riflessivo; l'AI ci resta, senza direzione. E impara sì per immersione, ma senza corpo, senza sguardo condiviso, senza voler dire nulla a nessuno. Quindi, condividiamo qualcosa con l’AI, bisogna capire quanto siamo disposti ad accettarlo.
 
E se tutto fosse invenzione e interpretazione della realtà?

Platone, nel Fedro, temeva che la scrittura producesse "un simulacro di sapienza, non la sapienza vera". È lo stesso timore che accompagna ogni tecnologia del linguaggio, dall'alfabeto ai modelli generativi.

Nietzsche riteneva che non esistessero fatti, solo interpretazioni. In Su verità e menzogna in senso extramorale (1873) sostiene che ciò che chiamiamo "verità" è in realtà un esercito mobile di metafore diventate convenzioni. La realtà, in questo senso, non viene scoperta ma continuamente inventata attraverso il linguaggio, e noi viviamo "come se" quelle finzioni utili fossero il mondo, perché senza di esse non riusciremmo a orientarci.
Un modello linguistico è la messa in scena letterale di questa intuizione. Non "riporta" la realtà, la ricostruisce statisticamente, assemblando le metafore e le convenzioni più probabili apprese dai testi. Produce, cioè, esattamente ciò che Nietzsche chiamava verità: una menzogna funzionale, plausibile e condivisibile. Ecco perché ogni output andrebbe trattato come un'interpretazione tra le possibili, mai come dato oggettivo.

Heidegger, infine, avvertiva che la tecnica non è mai neutra, ma è un modo di "disvelare" il mondo che rischia di ridurre anche l'uomo a risorsa ottimizzabile. Il vero pericolo non è l'AI in sé, ma trasformare il giudizio umano, l'atto più nostro, in una funzione automatizzabile.
 
Allora, chi è l'AI?

Torniamo alla domanda iniziale.

Tra le risposte possibili - strumento, collega, enciclopedia digitale, specchio, minaccia - per chi scrive è uno strumento di estensione del nostro pensiero e delle nostre facoltà cognitive, purché venga utilizzata eticamente e con responsabilità, cosa non immediata e nemmeno facile.

Allora potrebbe essere utile iniziare a parlare di co-intelligenza⁶: l'AI non sostituisce l'intelligenza umana, la affianca come collaboratore cognitivo, come potrebbe fare un libro, una biblioteca o un quaderno di appunti. Non "delegare alla" macchina, ma "collaborare” anche con la macchina per fare meglio, insieme, invitandola al tavolo quando si ritiene che sia utile al lavoro, ma mantenendo sempre Human In The Loop (HITL), con il giudizio e la decisione finale.
Forse la domanda "AI, chi sei?" è mal posta. La domanda vera è un'altra e la macchina non può rispondere al posto nostro: chi vogliamo essere noi, ora che questa tecnologia esiste?

Interpretare, prendersi cura, esercitare pensiero critico, agire eticamente, decidere con responsabilità e la stewardship restano frontiere umane, anche quando tutto sembra automatizzarsi.

^[1] Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. Proceedings of the National Academy of Sciences, 118(9), e2023301118.
^[2] Per un approfondimento sulla Futorologia si rimanda all’Italian Institute for the Future
^[3] Clark, A. (2003). Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence. Oxford University Press;
^[4] C. Paolucci Nati cyborg Paolucci, C. (2024). Nati cyborg. Cosa l'intelligenza artificiale generativa ci dice dell'essere umano. Roma: Luca Sossella Editore (collana Numerus)
^[5] Floridi, L. (2023). AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models. «Philosophy & Technology», vol. 36

^[6] Ethan Mollick (2024), Co-Intelligence: Living and Working with AI, Portfolio / Penguin Random House