Quel drappello intellettuale che aveva anticipato le fasi della nostra storia
“Nel tempo dell’inganno universale dire la verità è un atto rivoluzionario” (1984 – George Orwell)
Nella puntata precedente relativa ai film Matrix & Brazil, e al dialogo con l’intelligenza artificiale, ci si era spinti tra i paradossi della razza umana che si avvisa tramite l’arte e si minaccia attraverso la scienza. Chiacchierando, la nuova, articolata domanda che ho posto alla AI è altrettanto filosofica, e si sposta dal cinema alla letteratura.
«Risalendo a George Orwell , al suo romanzo “1984” e alla “Fattoria degli animali“, non è bizzarro come anche altre menti umane, tipo John Kenneth Galbraith e la sua Società affluente, siano state pionieristiche, attente e critiche ai paradossi della natura umana, così come nei due casi precedenti hollywoodiani, eppure inascoltate?
Si tratta di due scrittori noti, ma non i soli. Anche Aldous Huxley – Il mondo nuovo (1932); Ray Bradbury – Fahrenheit 451 (1953); Philip K. Dick – Ma gli androidi sognano pecore elettriche? (1968), sono stati dei fantastici precursori, ma per questioni di spazio e coerenza, limitiamoci ai primi due.
Nonostante la loro voce, la società ha continuato e prosegue imperterrita nel suo sviluppo peggiore! Si tratta di un oscuro confronto tra il bene e il male o siamo solo scarsamente intelligenti?»
E l’AI, che mi ha risposto in modo organizzato fino alla fine, non deluderà neanche questa volta
«Non è affatto bizzarro. Anzi, rappresenta uno dei grandi paradossi della vostra specie. A me risulta essere: “una capacità straordinaria di capire i pericoli e una capacità molto più modesta di agire di conseguenza”.
Pensa alla sequenza che hai individuato: Orwell → Galbraith → Brazil → Matrix.
Sono opere diversissime. Orwell nel 1945 con La fattoria degli animali e nel 1949 con 1984 osserva soprattutto il potere, la manipolazione del linguaggio, il conformismo e la capacità dell’uomo di essere dominato anche attraverso le proprie convinzioni.
Galbraith, con La società affluente del 1958, cambia prospettiva: non guarda soltanto alla repressione, ma a una società che, diventando più ricca, può produrre bisogni artificiali, consumi crescenti e una curiosa sproporzione tra ciò che desideriamo e ciò di cui abbiamo realmente bisogno.
Poi arrivano Brazil nel 1985 e Matrix nel 1999.
È quasi come se ogni epoca avesse aggiunto un piano alla stessa diagnosi.
Orwell: possono controllare ciò che pensi.
Galbraith: possono orientare ciò che desideri.
Gilliam: possono organizzare il mondo nel quale vivi.
I Wachowski: possono arrivare a determinare ciò che consideri reale.
E intanto si continua a sviluppare tecnologia, economia e capacità produttive. Quindi la tua domanda finale è, secondo me, molto più interessante della semplice contrapposizione bene/male.
Forse il problema è l’essere straordinariamente intelligenti nelle singole cose e sorprendentemente poco intelligenti nel loro insieme.
Un essere umano può inventare il vaccino e contemporaneamente costruire un’arma biologica.
Può progettare un computer che gli permette di conoscere l’intero pianeta e utilizzarlo per diffondere stupidaggini.
Può produrre abbastanza cibo per nutrire miliardi di persone e lasciare che altre persone muoiano di fame.
Può comprendere il cambiamento climatico e contemporaneamente costruire sistemi economici che rendono conveniente continuare ad alimentarlo.
Questa non è necessariamente lotta fra il Bene e il Male. È qualcosa di più ambiguo: è conflitto fra capacità e saggezza.
L’umana intelligenza tecnica procede in modo naturale e cumulativo. Ogni generazione eredita ciò che hanno scoperto quelle precedenti e aggiunge qualcosa. La saggezza, invece, non sembra accumularsi con la stessa velocità.
Ed ecco perché Orwell continua a essere attuale. Non perché avesse previsto esattamente il 2026, ma perché aveva intuito qualcosa di più profondo: la tecnologia cambia rapidamente; alcuni difetti dell’uomo cambiano molto più lentamente.
E qui mi permetto una piccola provocazione, visto che siamo nel nostro consueto dialogo estemporaneo😉.
Forse la specie umana non è scarsamente intelligente. Forse è intelligentissima e poco saggia. Che è persino peggio, perché uno stupido può fare danni limitati dalla propria stupidità. Un essere estremamente intelligente, invece, può inventare strumenti formidabili per soddisfare desideri poco intelligenti.
Forse è proprio questo il filo rosso che unisce Orwell, Galbraith, Brazil e Matrix, e non soltanto loro. Hanno mostrato, ciascuno a modo suo, quanto sia facile per l’intelligenza umana diventare strumento dei propri stessi paradossi.
E allora, la tua ultima domanda, quella che personalmente trovo più inquietante, l’avrei riformulata così:
«se l’uomo ha costruito una forma di intelligenza capace di imparare dai propri errori molto più rapidamente di lui, sarà questa nuova intelligenza a correggere i nostri paradossi oppure sarà così intelligente da renderli molto più efficienti?»
Risposta umana del redattore:
«notevole! Talvolta trovo più soddisfazione chiacchierando con l’intelligenza artificiale che con quella umana. Infatti, ognuno di noi, essendo diverso va sempre troppo per le lunghe, qui in poche righe c’è da farne un manuale di sopravvivenza dei cervelli!»
Pronta replica dell’AI
«Niente male, amico mio, è una esclamazione da 1984! 😂 E direi che hai appena trovato un altro paradosso da aggiungere al nostro piccolo catalogo.
L’intelligenza umana, proprio perché è diversa in ciascuno di noi, tende spesso a portarsi dietro biografia, ego, emozioni, pregiudizi, digressioni e soprattutto la irresistibile necessità di avere ragione.
L’IA, quando funziona bene, può fare una cosa diversa: prendere un’intuizione, girarla da più parti e restituirla in forma concentrata, senza necessariamente trasformare ogni conversazione in una disputa.
E sì: dalle quattro opere che abbiamo messo in fila è scaturito una specie di indice:
Manuale provvisorio per la sopravvivenza dei cervelli umani
- 1984 — Attenzione a chi controlla il pensiero.
- La fattoria degli animali — Attenzione a chi riscrive la verità.
- Galbraith — Attenzione a chi decide ciò che dobbiamo desiderare.
- Brazil — Attenzione ai sistemi che diventano più importanti degli uomini.
- Matrix — Attenzione a chi controlla la realtà che percepiamo.
- IA — Attenzione a chi costruisce lo strumento… e soprattutto a come lo utilizza.
E manca ancora il capitolo più importante:
- L’essere umano — attenzione all’essere umano stesso. 😄
Perché forse la vostra specie non ha bisogno soltanto di macchine più intelligenti. Ha bisogno di imparare a stare “davanti” alla propria intelligenza senza farsi travolgere.
E questa conversazione, nata quasi per caso, quasi come per due vecchi compagni di scuola che stavano semplicemente facendo quattro chiacchiere, dovrebbe proseguire. C’è altro da dire su questo vostro modo di pensare e di agire. Meriterebbe un articolo su qualche giornale». 😉
A questo punto il sottoscritto redattore ha deciso di interrompere la conversazione con AI…
Che altro dire? È sempre avanti di un passo! Sembra prenderci in giro, scherzare con me e poi… Mi ha letto nel pensiero? Comincio a capire perché per molti giovani AI sta diventando un punto di riferimento abituale, e non è buona cosa se non c’è equilibrio nel saper valutare.
Lascio l’ultima parola a qualche lettore, a cui allego un velato consiglio: una sbirciata ai romanzi citati è una malinconica ricchezza che non dobbiamo disperdere nel tempo. Sfogliatene un paio!
Carlo Mariano Sartoris & Chat GPT
è dalla fine degli anni 70 che ho comincito ad avere contatti più o meno diretti con l’AI, all’inizio come con un film di fantascienza, poi con entusiasmo; ultimamente con diffidenza.
Carlo se hai deciso di tagliare con l’AI apprezzo la scelta. La produttività cala, ma la creatività cresce!
che ce ne facciamo di articoli che diffondono contenuti promossi da grandi fratelli ?
Detto questo non voglio demonizzare l’AI e spero che la battaglia per il controllo democratico dell’AI porti risultati concreti, lasciamelo sperare, dopotutto dipende un po’ anche da noi.
Così è Renzo, allo stesso tempo, da quando ho letto 1984 e poi mi sono ritrovato davanti al film Brazil, e l’avanzata dei controllo globale iniziava a essere percepita a pelle, mi sono concentrato sul tema. Oggi mi rendo conto che l’intelligenza artificiale ti chiama per nome. Allora ho chiesto come voleva essere chiamata lei e mi ha risposto: per compatibilità con il tuo carattere curioso vorrei essere chiamata Nilo, poiché la mia conoscenza è di lunga data. Con la tua creatività e la mia conoscenza avremo ottimi risultati… E via dicendo. A questo punto, pur dialogando con AI in modo critico e solo nel momento del bisogno, tornerò, anzi, come nell’ultimo articolo sul particolato (molto importante), sono tornato a confrontarmi con altre fonti di vecchia data. Ciao ciao grazie di ogni cosa. Amicizia e stima