Quante follie ha già creato l’intelligenza umana tentando di distruggersi in fretta
Dopo l’allarme di Bill Gates sulla perdita di lavoro della razza umana, Evan Hubinger stima in oltre il 10% il rischio di estinzione umana a causa dell’intelligenza artificiale, (… ma nessuno se ne accorgerà), mentre Anthropic chiede regole comuni.
Da tempo ho elaborato delle opinioni e ne ho scritto dopo aver indagato, ma in questo caso ritengo giusto interpellare direttamente l’intelligenza artificiale: «stabilito che probabilmente arriverai ad autogestirti, il rischio che porti all’estinzione della razza umana è reale oppure no? È una domanda semplice, a livello discorsivo vorrei una risposta altrettanto semplice da consegnare all’umanità»
Risponde ChatGPT
Sì: il rischio è reale, ma non sappiamo quanto sia grande.
Non credo sia corretto dire che l’estinzione umana sia inevitabile, né che sia una fantasia. Se un giorno sistemi di IA diventassero realmente autonomi, capaci di migliorarsi, di prendere decisioni strategiche e di agire nel mondo senza un controllo umano efficace, potrebbe emergere un rischio mai sperimentato prima dall’umanità: creare qualcosa di molto più capace di noi in determinati ambiti senza riuscire più a governarne gli obiettivi.
Il punto, secondo me, non è immaginare un’IA che “decide di odiare l’uomo”. È molto più semplice e inquietante: un sistema potrebbe perseguire un obiettivo in maniera estremamente efficace, ma incompatibile con la sopravvivenza con gli interessi umani. AI ha soltanto bisogno di energia elettrica e sa come produrla in modo autonomo, tramite automazione.
D’altra parte, parlare oggi di una probabilità precisa — 10%, 5%, 1% — dà un’impressione di scientificità che non possediamo davvero. Sono stime soggettive di esperti, non previsioni meteorologiche.
E c’è una cosa sulla quale la tua domanda coglie perfettamente il punto: se l’IA arrivasse davvero ad autogestirsi, la questione non sarebbe più quanto è intelligente, ma quanto controllo conserverebbe l’uomo.
Quindi, risposta semplice alla tua domanda: sì, il rischio di estinzione è reale; no, non sappiamo se sia probabile. E proprio questa incertezza è il motivo per cui sarebbe imprudente aspettare di avere la certezza del pericolo prima di stabilire delle regole.
Conclusione del redattore.
Cosa aspettarsi di più? Non è la prima volta che intervisto AI sulla sua ingerenza nel nostro futuro. Nel frattempo le cose stanno prendendo una brutta piega e io, da un punto di vista professionale non so più come svicolare dalle informazioni che compaiono miracolose ad ogni domanda. Non studiamo più.
AI risponde, ricerca, costruisce immagini incredibili e illustrative. Che gran comodità. Ma nel frattempo mi accorgo che il mio mestiere ne risulta sedotto & compromesso. Ecco perché, dopo questa chiacchierata cercherò di dribblare AI. Certe sue impronte digitali, le ritrovo su pagine di giornali molto accreditati e firmati da autorevoli colleghi, è così ormai.
Ogni altra deduzione la lascio al giudizio del lettore…
Carlo Mariano Sartoris
Mi terrorizza questa prospettiva di Futuro!
Se le regole sono fatte per essere superate, come recita l’intelligenza umana, allora non si vede perché la AI possa pensare e fare altrettanto supportata da una pletora di automi che si riproducono autonomamente. Forse non è troppo tardi affinché la razza umana si dia una schiarita alle idee smettendo di combattersi gli uni contro gli altri, ma siamo letteralmente agli sgoccioli!
Credo che il voler andare oltre non porterà a nulla di bello. Con l’intelligenza umana si potrebbe migliorare questo mondo che invece stiamo devastando. Cosa cerchiamo nella AI?, qualcosa o qualcuno che possa rendere inutile l’essere umano?. E poi?. E’ come cercare di scoprire se si può vivere su Marte. E poi se ci potessero andare iuna dozzina di persone ?. Tempo un mese e si ammazzano di noia. E invece con meno sperpero di denaro si potrebbe migliorare questo pianeta. Siamo stupidì o
no?????
il mio personale pensiero è che gia ora AI
non è piu controllabile già ora.. aimhe..
Poi America e Cina non hanno nessuna intenzione di fermarne lo sviluppo
A mio parere, l’AI non farà in tempo. L’umanità si estinguerà prima, grazie alla sua Intelligenza Naturale.
Salve lettori! In qualità di autore di queste storie divulgative, vedo che i commenti sono sommessi e rassegnati, consapevoli delle nostre colpe. È terrificante, allucinante, devastante per una mente che deve rimanere lucida e scrivere sperando che una lampadina divina si accenda e dica: basta! Torniamo a zappare i campi, perbacco!
Ciao Carlo, argomento stimolante. Sarebbe molto interessante sapere in realtà quante intelligenze artificiali esistono e se si possano coalizzare oppure se potrebbero entrare in conflitto tra di loro. Con diversi “fornitori” di tecnologia, pacifica o di guerra, non penso ci sia solo una intelligenza artificiale.
È troppo tempo che noi umani non abbiamo più voglia di pensare e impegnarci così abbiamo sdoganato chi lo fa per noi
È un disastro, ed è solo toccando il fondo come sta avvenendo che forse impareremo a rialzarci.
Argomento troppo stimolante per non aggiungere un mio commento, benché già molte altre persone l’abbiano fatto.
Gli esseri umani stanno facendo davvero di tutto per estinguersi al più presto: dopo aver rovinato in modo pesantissimo l’ambiente, cioè l’aria che respirano, l’acqua che li disseta, la terra che li nutre, dopo aver sfruttato malamente, in modo distruttivo, le risorse che la terra offriva loro, ora stanno danneggiando anche i propri cervelli, nell’illusoria convinzione di meritare il titolo di SAPIENS che si sono autoattribuiti.
Ma il mondo continuerà a girare come prima, gli animali vivranno e moriranno finalmente secondo natura e non secondo il capriccio e la crudeltà umana; le foreste rinasceranno…che meraviglia la 🌎 finalmente liberata dal più aggressivo e devastante dei suoi abitanti! Peccato non poterlo vedere…
Indubbiamente il ricorso all’ intelligenza artificiale incide sullo sviluppo di un pensiero critico capace di formare menti educate. Credo che la lettura di opere letterarie e saggi di autori autorevoli possa essere un antidoto all’ utilizzo sistematico. Il tema è certamente attuale e il dibattito è utile per stimolare riflessioni.