Un ricercatore lascia l’azienda e denuncia i rischi della corsa all’intelligenza artificiale
Mercoledì 9 settembre, su queste pagine raccontavo una vicenda difficile da accettare: milioni di libri acquistati da Anthropic, privati della rilegatura, tagliati pagina per pagina, digitalizzati e infine eliminati. Il contenuto veniva conservato per contribuire all’addestramento dell’intelligenza artificiale; il libro come oggetto materiale scompariva.
A distanza di poche ore, il nome di Anthropic torna al centro dell’attenzione. Questa volta l’allarme non riguarda i libri, ma proviene direttamente dall’interno dell’azienda.
Jacob Coxon, ricercatore impegnato nell’addestramento dei modelli prima presso OpenAI e successivamente presso Anthropic, ha annunciato le proprie dimissioni. Le sue parole sono durissime: le due società, a suo giudizio, starebbero correndo verso sistemi di intelligenza artificiale sempre più potenti senza avere prima risolto il problema fondamentale della loro sicurezza.
«Stanno giocando con le nostre vite», ha scritto.
Non si tratta di uno dei fondatori o di un massimo dirigente di Anthropic. Non siamo quindi davanti a una crisi dei vertici aziendali. Coxon, tuttavia, si occupava di pre-training, la fase nella quale enormi quantità di testi e informazioni vengono utilizzate per costruire le capacità fondamentali di un modello. È dunque una persona che ha lavorato direttamente alla realizzazione dei sistemi sui quali oggi richiama l’attenzione. Occorre chiarire subito un punto: Coxon non si è dimesso per la distruzione dei libri descritta nel precedente articolo. Stabilire un rapporto diretto tra le due vicende sarebbe scorretto. Esse pongono, tuttavia, una domanda comune: fino a dove siamo disposti a spingerci in nome della velocità e dell’efficienza tecnologica?
Secondo Coxon, Anthropic e OpenAI sarebbero impegnate in una competizione verso forme di intelligenza artificiale capaci, in futuro, di migliorare sé stesse. Ogni società teme che un concorrente possa raggiungere per primo il prossimo grande risultato. Nessuna vuole rallentare da sola, perché rallentare potrebbe significare perdere investimenti, mercato e influenza. Si crea così un meccanismo pericoloso: tutti conoscono i rischi, ma ciascuno continua a correre perché anche gli altri stanno correndo.
Il ricercatore sostiene che i sistemi futuri potrebbero superare le capacità umane in numerosi campi, compiere sofisticati attacchi informatici e acquisire un crescente potere operativo. Ha inoltre riferito che molti specialisti del settore considererebbero i prossimi anni decisivi per evitare che lo sviluppo diventi incontrollabile.
Queste sono valutazioni e previsioni, non avvenimenti già verificatisi. Non sappiamo se gli scenari più estremi si realizzeranno e sarebbe sbagliato presentarli come certezze. Sarebbe però altrettanto imprudente ignorarli, proprio perché l’allarme proviene da chi conosce direttamente la tecnologia.
Le preoccupazioni di Coxon sono state condivise pubblicamente anche da alcuni ricercatori rimasti in Anthropic. Evan Hubinger, che si occupa del cosiddetto “allineamento” dell’intelligenza artificiale agli interessi umani, ha dichiarato di considerare tutt’altro che trascurabile il rischio di conseguenze catastrofiche nel prossimo decennio.
Anthropic ha risposto ricordando di avere sempre riconosciuto sia gli enormi benefici sia i rischi senza precedenti dell’intelligenza artificiale. L’azienda sostiene inoltre la necessità di accordi comuni e verificabili fra i maggiori laboratori, affinché nessuno sia costretto ad accelerare per paura di essere superato.
Lo stesso Coxon ha riconosciuto, nell’intervista rilasciata a Wired, che Anthropic gli appare più attenta alla sicurezza rispetto ad altre aziende del settore. Non sostiene che essa stia già abbandonando consapevolmente ogni cautela: teme che la competizione possa costringerla a farlo in futuro. È una precisazione importante. La realtà è già abbastanza seria e non occorre deformarla per renderla più impressionante.
Nel caso raccontato mercoledì, il libro era considerato principalmente un contenitore di informazioni. Una volta estratte le parole, la rilegatura e le pagine potevano essere eliminate. Il procedimento era rapido ed efficiente e, per gli esemplari regolarmente acquistati, è stato considerato ammissibile da un tribunale statunitense. Ma ciò che è tecnicamente possibile e legalmente consentito è sempre anche culturalmente e moralmente accettabile?
La stessa domanda ritorna oggi su una scala molto più vasta. Se possiamo costruire un sistema più potente, dobbiamo necessariamente farlo subito? Se la prudenza rallenta la competizione, possiamo permetterci di considerarla un ostacolo?
Nel campo dell’intelligenza artificiale questo principio dovrebbe valere ancora di più. Se persino alcuni degli uomini che costruiscono tali sistemi dichiarano che non esistono garanzie sufficienti per controllarne ogni possibile sviluppo, non possiamo lasciare che siano soltanto le aziende, impegnate in una competizione economica mondiale, a decidere quale rischio sia accettabile.
Le dimissioni di un ricercatore non fermeranno la corsa. Anthropic, OpenAI e gli altri grandi laboratori continueranno il loro lavoro. Gli investimenti sono enormi e nessuno vuole rinunciare a una tecnologia capace di trasformare la ricerca, l’economia, l’informazione e forse la stessa società.
Proprio per questo occorrono regole pubbliche, controlli indipendenti e accordi internazionali. Non si tratta di respingere l’intelligenza artificiale, che può offrire strumenti straordinari alla medicina, alla scienza, all’istruzione e alla conservazione del patrimonio. Si tratta di stabilire chi ne determinerà i limiti e chi risponderà delle conseguenze.
Pochi giorni fa ci chiedevamo se fosse accettabile distruggere libri per istruire una macchina. Oggi uno degli uomini che ha contribuito a istruire quelle macchine lascia il proprio lavoro perché teme la direzione presa dalla corsa tecnologica. Le due vicende non devono essere confuse. Ma il segnale che insieme ci consegnano non può essere ignorato: quando il progresso procede più velocemente della nostra capacità di valutarne le conseguenze, fermarsi a riflettere non significa opporsi al futuro.
Significa evitare che il futuro venga deciso senza di noi.
