L’AI può diventare sovrumana? Lo scontro tra creatori, il rischio di perdere il controllo

Le due persone nella foto sono al cuore del dibattito che deciderà della nostra economia e del nostro posto nel mondo in un futuro prossimo. L’uomo a sinistra, che gesticola mentre parla, si chiama Dario Amodei: è nato 40 anni fa in Italia, ma ora è americano; la sua tesi di dottorato in neuroscienza computazionale a Princeton ha vinto il premio Herzl; per quattro anni e mezzo è stato vicepresidente e capo della ricerca di OpenAI – l’azienda di Sam Altman che ha rivoluzionato l’intelligenza artificiale – e dal 2021 è co-fondatore e ceo di Anthropic, una start-up californiana del settore che ha già raccolto investimenti per alcuni miliardi di dollari da Google e Amazon.
L’uomo che lo ascolta a destra si chiama Joshua Bengio: è nato in Francia 59 anni fa da una famiglia di origine marocchina, ma ora è canadese; Bengio insegna scienza computazionale all’Università di Montreal e nel 2018 ha vinto con due colleghi il premio Turing, considerato il Nobel dell’informatica, per il suo lavoro sul “machine learning” – la capacità di apprendimento delle macchine – che ne fa un fondatore dell’attuale rivoluzione dell’intelligenza artificiale.

Rischiamo di predere il controllo della AI?

Questa foto di Amodei e Bengio è presa il 25 luglio scorso durante un’audizione al Senato degli Stati Uniti. Il loro messaggio era simile: rischiamo di perdere il controllo dell’AI ed essa può produrre profondi danni alla società, ai rapporti fra Paesi e allo stesso genere umano. Nelle parole di Bengio: «Mitigare il rischio di estinzione a causa dell’AI dovrebbe essere una priorità internazionale, al pari di altri rischi collettivi quali le pandemie e la guerra nucleare». Nelle parole di Amodei: «I rischi dell’AI includono quelle che io ritengo siano minacce straordinariamente gravi per la sicurezza nazionale degli Stati Uniti nei prossimi due o tre anni».

La vicenda OpenAI

Questo conflitto attorno alla rivoluzione tecnologica del momento è semi-emerso – non proprio alla luce del sole – con gli eventi straordinari attorno a OpenAI negli ultimi giorni. Come hanno raccontato brillantemente i colleghi Massimo Gaggi e Massimo Sideri, il fondatore e ceo dell’azienda Sam Altman è stato licenziato dieci giorni fa dal consiglio d’amministrazione di OpenAI con l’accusa, non meglio precisata, di non essere stato «trasparente in modo costante»; quindi Altman è rientrato quattro giorni più tardi, facendo cacciare i congiurati, a seguito di una rivolta dei dipendenti e di azionisti come Microsoft; infine l’agenzia Reuters ha scritto, non smentita, che prima della cacciata di Sam Altman (poi fallita) un gruppo di ricercatori di OpenAI aveva scritto al consiglio d’amministrazione informandolo di «una potente scoperta (dell’azienda, ndr) nel campo dell’intelligenza artificiale che – scrivono i ricercatori – potrebbe minacciare l’umanità».

Tra fantascienza e cronaca

Va bene, lo ammetto. Suona, meravigliosamente, come uno di quei romanzi di fantascienza che non ho mai letto. Mi è duro resistere alla tentazione di lavare in un colpo solo tutta la mia ignoranza su Isaac Asimov e colleghi tuffandomi avidamente in questa storia. Ma ci provo. Poiché di intelligenza artificiale sono ancora più ignorante che di fantascienza, mi limiterò a lasciar parlare Amodei e Bengio da quella audizione al Senato Usa e da un articolo per il Journal of Democracy, rivista di riferimento di scienza politica nel mondo. Prima però devo avvertire che sia Amodei che Bengio hanno degli alter ego – figure dall’esistenza parallela e dalle visioni contrapposte – della cui opinione va comunque dato conto. L’alter ego di Amodei è Sam Altman stesso: l’italoamericano lasciò OpenAI nel dicembre del 2020 in polemica con l’accelerazione impressa a fini commerciali da Altman e fondò Anthropic, con la sorella Daniela, proprio perché i due volevano creare un’intelligenza artificiale più sorvegliata.

L’alter ego di Bengio è invece un altro professore di scienza computazionale, della New York University, nato anche lui in Francia: Yann Le Cun, 63 anni, insignito contemporaneamente a Bengio stesso del premio Turing nel 2018, oggi Chief Scientist di Meta (ex Facebook) per l’intelligenza artificiale e in acuta quanto personale polemica con Bengio stesso. Le Cun è convinto che i rischi della nuova frontiera tecnologica vengano esagerati e definisce i timori del collega “assurdi” (Bengio risponde: «Chi parla così non ha fatto i compiti a casa»).

Un potere immenso (e pericoloso)

Dopo questa lunga premessa, è tempo di dare la parola a Amodei e Bengio, per riflettere poi anche la risposta dei loro alter ego. Al Senato Usa quattro mesi fa, Amodei si è dichiarato favorevole a un ulteriore sviluppo dell’AI: «Se riusciamo a mitigarne i rischi, i suoi benefici saranno profondi – ha detto –. Nei prossimi anni l’AI potrebbe grandemente accelerare i trattamenti di malattie come il cancro, ridurre il costo dell’energia, rivoluzionare l’educazione, migliorare l’efficienza delle amministrazioni pubbliche e molto di più».
Poi però lo scienziato-imprenditore di origine italiana ha offerto anche una motivazione più inquietante per andare avanti, che ricorda quelle della corsa all’arma atomica: «Abbandonare questa tecnologia negli Stati Uniti ne consegnerebbe il potere, con i relativi rischi e dilemmi morali, ad avversari che non condividono i nostri valori».

Rischi e dilemmi della AI (e l’incredibile velocità dello sviluppo)

Quali sono questi rischi e dilemmi? Amodei sottolinea come essi siano “prevedibili”, perché lo sviluppo della tecnologia segue un percorso rapido e segnato. Dice: «La cosa più importante da capire dell’AI è quanto velocemente si muova. Non ho mai visto niente di simile a questo ritmo di progresso e molti scienziati con carriere più lunghe della mia concordano». Tale progresso, spiega Amodei, è guidato da fattori precisi: la quantità di chip usati per allenare l’intelligenza artificiale, che si moltiplica fra le due e le cinque volte ogni anno; la velocità di questi chip, che raddoppia ogni anno o due; l’efficienza degli algoritmi usati per allenare l’intelligenza artificiale, che raddoppia ogni anno. Basta proiettare una progressione del genere su tre, dieci o vent’anni per avere un’idea del potere di un’intelligenza che può diventare rapidamente sovrumana.
I fattori di accelerazione esponenziale fanno sì che «ciò che sembrava impossibile due anni fa oggi è diventato routine». Di qui i rischi dell’intelligenza artificiale secondo Amodei: «Nel breve termine riguardano la privacy, la proprietà intellettuale, pregiudizi e correttezza delle risposte (delle macchine, ndr), errori e il potenziale di generare disinformazione e propaganda». Poi però viene il medio termine: «Tra due o tre anni dei sistemi di AI so potrebbe abusare per causare distruzioni su larga scala, soprattutto nel campo della biologia. Questa crescita rapida nelle capacità scientifiche e ingegneristiche potrebbero anche cambiare l’equilibrio di potenza fra nazioni», ha detto Amodei al Senato Usa.
Qui si è rifiutato di fornire dettagli in pubblico, ma ha sottolineato che i risultati della ricerca di Anthropic sono condivisi da altri scienziati e lui stesso si è offerto di illustrarli in privato ai senatori che lo chiedessero. Infine Amodei ha enumerato i rischi di “lungo termine”: «Man mano che i sistemi di AI conquistano più autonomia e capacità di manipolare il mondo esterno, potremmo avere sempre più problemi nel controllarli» e «senza adeguate salvaguardie potrebbero diventare una minaccia per l’umanità, creando un rischio esistenziale perché qualcuno ne abusa o semplicemente a causa di qualche errore catastrofico».

PerchP il ritorno di Altman in OpneAI nasconde dei rischi

Anthropic, la start up miliardaria dei fratelli Amodei, si sta sviluppando attorno all’idea di creare “salvaguardie” attorno ai sistemi intelligenti. Ciò significa anche rallentarne lo sviluppo e ridurne le capacità di guadagno: esattamente l’opzione che sembra aver avuto la peggio con il ritorno di San Altman, sostenuto da Microsoft, alla testa della rivale OpenAI. La posizione di Joshua Bengio è simile a quella di Amodei. Lo scienziato canadese è convinto che l’incertezza e le dimensioni della posta in gioco siano così alte che si debba accelerare la ricerca per capire meglio i rischi. Bengio ammette di soffrire di una “sfida psicologica”: la ricerca di tutta la sua vita nel machine learning, svolta per il bene dell’umanità, potrebbe in realtà causare “gravi danni sociali” quali attacchi cibernetici, disinformazione, manipolazione delle elezioni tramite i social media o frodi su una scala mai vista. E capisce che fermare l’intelligenza artificiale è difficilissimo perché il suo sviluppo è «redditizio, una vera e propria corsa all’oro che potrebbe valere migliaia di migliaia di miliardi di dollari (‘quadrillions’)». Una delle preoccupazioni di Bengio è la «seria possibilità che, in assenza di regolamentazione, il potere e la ricchezza si concentrerà nelle mani di poche persone, poche aziende e pochi Paesi a causa della potenza crescente degli strumenti di AI». Tutto questo «a spese dei lavoratori, dei consumatori, dell’efficienza del mercato, della sicurezza internazionale e implicherebbe che le persone cedano i loro dati senza capirne le implicazioni. All’estremo, poche persone che controllano un’intelligenza artificiale sovrumana accumulerebbero un livello di potere mai visto prima nella storia, in palese contraddizione con il principio stesso di democrazia».

Infine il timore apparentemente più fantascientifico di Bengio: «Un’intelligenza artificiale con un obiettivo di autopreservazione potrebbe essere spinta a replicare se stessa in vari computer, come un virus informatico, e a ricercare le risorse necessarie per la propria autopreservazione, per esempio l’energia elettrica. È concepibile che questa AI ormai fuorilegge potrebbe cercare di controllare o eliminare gli umani per assicurarsi la propria sopravvivenza, soprattutto se sarà in grado di controllare dei robot”. In sostanza c’è la prospettiva di un “disallineamento fra l’AI e la società» che rischia di diventare sempre più radicale.

E il lavoro?

La perdita di posti di lavoro all’automazione sembra a questi scienziati il problema più trascurabile. Non tutti sono d’accordo, naturalmente. Yann Le Cun, l’alter ego di Joshua Bengio, è sarcastico verso il collega con il quale ha vinto il Turing. «La gente si fa condizionare dalla fantascienza e pensa che quando una macchina è più intelligente degli umani, debba per forza competere con loro per prendere il controllo – ha detto di recente al Financial Times –. È un modo completamente sbagliato di pensare». Bengio invece sottolinea che Le Cun è più restio a una pausa o alla regolamentazione nello sviluppo dell’AI e che il collega lavora per Meta (dunque ha un interesse costituito). I
n Italia di questi temi si discute poco. Se ne parlerà in un Forum sull’intelligenza artificiale organizzato il 2-3 dicembre a Camogli dal Festival della Comunicazione e da Frame (partecipa anche Paolo Benanti, membro del Consiglio Onu sull’AI). Per quanto mi riguarda, non sono certo di avere tutti i mezzi per prendere posizione adesso su una rottura culturale profonda che si profila. Ma non ho dubbi che il confronto fra Amodei, Bengio e i loro alter ego definirà il nostro tempo e quello dei nostri nipoti. È tempo di impratichirsene.

— —

Questo articolo è stato pubblicato originariamente sulla newsletter “Whatever it Takes” di Federico Fubini.

Iscriviti alle newsletter di L'Economia

Whatever it Takes di Federico Fubini
Le sfide per l’economia e i mercati in un mondo instabile

Europe Matters di Francesca Basso e Viviana Mazza
L’Europa, gli Stati Uniti e l’Italia che contano, con le innovazioni e le decisioni importanti, ma anche le piccole storie di rilievo

One More Thing di Massimo Sideri
Dal mondo della scienza e dell’innovazione tecnologica le notizie che ci cambiano la vita (più di quanto crediamo)

E non dimenticare le newsletter
L'Economia Opinioni e L'Economia Ore 18

Corriere della Sera è anche su Whatsapp. E' sufficiente cliccare qui per iscriversi al canale ed essere sempre aggiornati.