Nel 1954, anni dopo aver guidato il progetto che creò la bomba atomica, il fisico J. Robert Oppenheimer fu chiamato a testimoniare davanti alla Commissione per l’energia atomica (AEC). L’oggetto apparente delle udienze era la posizione di Oppenheimer sulla bomba all’idrogeno, una versione molto più distruttiva della bomba atomica che gli Stati Uniti avevano sviluppato e testato per la prima volta due anni prima.
Oppenheimer, che negli anni successivi alla guerra era diventato sempre più conflittuale riguardo alle armi atomiche, inizialmente si oppose al lavoro sulla bomba all’idrogeno o termonucleare, in parte per ragioni morali e in parte perché era scettico sul fatto che avrebbe funzionato. Ma in seguito ha cambiato idea e ha sostenuto il lavoro su questo argomento. Gli avvocati dell’AEC volevano sapere perché.
Non è stato perché Oppenheimer avesse cambiato idea sulla moralità delle bombe termonucleari che vaporizzavano le città. Piuttosto, era perché i fisici americani avevano escogitato un nuovo progetto per le bombe all’idrogeno che non era solo realizzabile, ma decisamente elegante, o “tecnicamente dolce”, come lo chiamava lui. Per Oppenheimer questo era sufficiente. Come lui ha detto all’audizione dell’AEC: “Quando vedi qualcosa che è tecnicamente gradevole, vai avanti e lo fai, e discuti su cosa farne solo dopo aver ottenuto il tuo successo tecnico”.
Ciò che Oppenheimer descrisse era una sorta di impotenza morale mascherata da risolutezza: l’attrazione di una risposta scientificamente bella a un brutto problema, e l’abitudine di mantenere la contabilità morale fino a dopo il successo tecnico. È una delle cose più oneste che chiunque abbia costruito la bomba – o qualsiasi altra cosa che altera il mondo – abbia mai detto. E non ha mai smesso di essere rilevante, perché le persone che oggi costruiscono la tecnologia in grado di alterare il mondo continuano a dirne anche versioni.
Jack Clark, co-fondatore e responsabile delle politiche di Anthropic, la società dietro i modelli Claude, è una di queste persone. Quindi valeva la pena prestare attenzione la settimana scorsa, quando Clark si è seduto per un lungo dialogo pubblico con Samuel Kimbriel, direttore fondatore del Philosophy and Society dell’Aspen Institute, appena sei giorni dopo l’entrata in vigore del governo federale aveva bruscamente interrotto l’accesso ai due modelli più potenti di Anthropic, apparentemente per paura di ciò che potrebbero fare.
Gran parte della conversazione ruotava attorno a un’unica idea che sarà familiare a coloro che leggono il lavoro di Clark: una potente intelligenza artificiale sta arrivando e ci presenta una scelta, una scelta che ci stiamo attivamente rifiutando di fare non riuscendo a regolamentare l’IA. (Divulgazione: Future Perfect è finanziato in parte dalla Fondazione BEMC, il cui principale finanziatore è stato anche uno dei primi investitori in Anthropic; non hanno alcun input editoriale sui nostri contenuti.)
Noi regoliamo gli spazzolini da denti, ha sottolineato Clark, le automobili e le armi nucleari. “Ma sembra che abbiamo questo atteggiamento nei confronti della tecnologia che è impossibile regolamentare”, ha detto. “Non è impossibile regolamentare… ci comportiamo come se, vabbè, l’industria tecnologica dovesse inevitabilmente fare delle cose, il che penso sia una scelta.” Il suo esempio più lampante è stato il cambiamento della piattaforma online che ha completamente rimodellato gli ultimi due decenni. “I social media hanno condotto un esperimento incontrollato sul mondo”, ha detto. “Ora pensiamo e parliamo tutti in modo un po’ diverso a causa dei social media. Questa è stata una scelta. Possiamo scegliere che le cose siano diverse.”
Questo è il tipo di discorso che fa ha a lungo differenziato Anthropic dalle altre principali società di intelligenza artificiale: I suoi dirigenti sono disposti a soffermarsi sui gravi rischi dell’IA avanzata, rischi che richiedono una regolamentazione chiara e persino forte. (Circa una settimana prima del dialogo di Aspen – e appena un giorno prima che l’amministrazione Trump si scagliasse duramente contro gli ultimi modelli di Anthropic – il CEO Dario Amodei ha pubblicato un post sul blog chiedendo all’autorità governativa di bloccare legalmente o addirittura invertire l’implementazione di modelli di intelligenza artificiale di frontiera che non falliscono i test di sicurezza su minacce come il cyberhacking e le armi biologiche.)
Anthropic riconosce che l’intelligenza artificiale avanzata è una scommessa esistenziale, ma sostiene che è una scommessa che dobbiamo accettare. Al dialogo di Aspen, Clark ha parlato di un secolo a venire che sarà segnato da sfide brutali – invecchiamento della popolazione, istituzioni tese, un pianeta che si riscalda – che apparentemente possono essere affrontate solo con l’intelligenza artificiale. Non andare avanti con l’intelligenza artificiale significherebbe privarci dei miracoli medici che possiamo solo immaginare e condannare implicitamente coloro che altrimenti potrebbero essere salvati.
Clark ha ragione quando dice che c’è una scelta sepolta in tutto questo. Ma la domanda che la sua formulazione elude è esattamente di chi sia effettivamente la scelta.
Certo, come ha detto Clark, regolamentiamo le automobili, gli spazzolini da denti e le armi nucleari, ma in ogni caso qualcuno ha costruito prima la cosa, e il resto di noi è stato lasciato a decidere cosa fare di un mondo che già la conteneva. Nessuno ha votato sull’esistenza o meno della bomba atomica. Ci sono state consegnate le conseguenze e abbiamo dovuto scrivere le regole in seguito.
Più o meno lo stesso vale per l’intelligenza artificiale. La scelta che Clark vuole che il pubblico faccia riguardo al governo è diventata necessaria solo quando la sua industria ha creato ciò che ha bisogno di essere governato. Ci sta offrendo un voto su cosa fare riguardo all’intelligenza artificiale, non un voto sulla sua realizzazione, perché quel voto è già stato espresso, in privato, da lui e da alcune centinaia di colleghi, e trilioni di dollari. Ma perché non l’ho fatto abbiamo voce in capitolo? Perché siamo bloccati in un mondo in cui, come nella formulazione di Oppenheimer, “si discute su cosa fare al riguardo solo dopo aver ottenuto il successo tecnico”?
Non ero l’unica persona tra il pubblico a chiederselo. Verso la fine del dialogo, una giovane donna ha posto direttamente a Clark una versione più tagliente di questa domanda. Ogni laboratorio di frontiera ora ammette che la tecnologia comporta anche rischi enormi rischio esistenzialeha osservato. “Quindi la mia domanda è: cosa dà a te, Anthropic e al resto dei laboratori di frontiera il diritto di continuare a costruire qualcosa che potrebbe distruggere tutti, quando nessuno di noi può effettivamente rinunciarvi?”
Clark, a suo merito, non ha ignorato la questione. Ma non ha nemmeno risposto in modo esaustivo. Lo ha riformulato, allontanandosi dalla scelta di costruire, verso la necessità che qualcuno si assuma la responsabilità dopo che è stato costruito.
Quel qualcuno non può essere le aziende stesse, ha detto, descrivendo un futuro ideale in cui “sistemi esterni di conformità, regolamentazione, test e verifica” deciderebbero quando a ciascun laboratorio sarà consentito andare oltre. I governi si stavano già muovendo più velocemente di quanto ci si aspettasse: Stati Uniti e Regno Unito, ha detto, aveva creato agenzie di test i cui strumenti a volte erano migliori di quelli delle aziende.
È stata una risposta gentile, anche se in imbarazzo con la realtà che sembra essere ora il presidente Trump regolare l’intelligenza artificiale per capriccio – ma notate cosa ammette. Alla domanda su cosa dà alla sua azienda il diritto di costruire qualcosa che potrebbe distruggere tutti, il responsabile delle politiche di un importante laboratorio di intelligenza artificiale non ha detto abbiamo questo diritto. Ha detto che la decisione non dovrebbe spettare ad aziende come la sua, ma solo descrivere un sistema per toglierglielo dalle mani che non esiste ancora del tutto. Lui e i suoi colleghi stanno ancora costruendo, alla frontiera, alla velocità consentita dalla scienza e dai computer, mentre dicono alla stanza che qualcun altro dovrebbe davvero essere al comando. L’intelligenza artificiale è già diffusa nel mondo. La regolamentazione dell’intelligenza artificiale è ancora principalmente oggetto dei post dei blog.
Allora perché lo stanno facendo davvero? Per riportarlo a Oppenheimer: perché l’intelligenza artificiale è “tecnicamente dolce”. Non è la corsa con la Cina, non le valutazioni da trilioni di dollari, e nemmeno il lodevole desiderio di curare le malattie – sebbene tutti questi siano reali. Sotto c’è qualcosa di più semplice e molto più difficile da governare: siamo costretti a costruire ciò che è bello. Clark lo ha quasi detto, meravigliandosi che l’intelligenza artificiale sia “più facile e semplice da costruire rispetto a molti altri aspetti della scienza”, che il suo capo scienziato scherza sul fatto che avrebbero già l’AGI se solo risolvessero i bug nel loro codice.
Noi esseri umani siamo una specie che utilizza strumenti, ha sostenuto Clark, e l’intelligenza artificiale è lo strumento definitivo. Non è che l’intelligenza artificiale sia esattamente inevitabile, ma che è così stranamente semplice da costruire una volta gettate le basi che “quasi ogni percorso che segui, (l’intelligenza artificiale) appare”.
Ciò che Clark ha descritto è l’attrazione menzionata da Oppenheimer nel 1954: l’attrazione di una soluzione elegante che fa sembrare fuori luogo la questione se sia il caso o meno di costruirla.
Posso sentirlo io stesso e sono solo un utente. Metti un modello capace a portata di mano, chiedigli di fare qualcosa che non potresti fare da solo – scrivi il programma, trova il difetto, districa la cosa su cui eri bloccato – poi guardalo semplicemente Fare quello che hai richiesto, e proverai una piccola emozione elettrica che non ha nulla a che fare con l’invecchiamento della popolazione o con il futuro della democrazia. Quel brivido scorre in una linea ininterrotta dall’utente alla tastiera fino all’ingegnere che ha addestrato il modello fino al dirigente che lo ha spedito.
Ecco perché sospetto che il discorso regolamentare di Clark, per quanto sincero, sia a valle di una decisione che non è mai stata realmente messa in dubbio. Come Oppenheimer con la bomba all’idrogeno, le persone che costruiscono questa tecnologia sentono di non avere altra scelta che andare avanti – e poi sperare che il resto di noi faccia le scelte giuste per governare ciò che non potevano impedirsi di fare.
Finora siamo stati fortunati con l’ultimo dispositivo tecnicamente dolce che potrebbe ancora porre fine al mondo. La bomba all’idrogeno esiste da 70 anni senza essere usata con rabbia, non perché abbiamo risolto la politica da cui Oppenheimer metteva in guardia, ma perché ha vinto la scelta più saggia. E perché siamo stati fortunati.
Clark potrebbe avere ragione nel dire che la scelta spetta ancora a noi: non è stata la bomba a decidere la Guerra Fredda, lo hanno fatto le persone, e le persone possono decidere anche questo. Ma sarebbe d’aiuto se le persone che ci affidano questa scelta rallentassero abbastanza a lungo da permetterci di farcela, invece di costruire il più velocemente possibile e confidare che la nostra fortuna, e la loro, resistano.
Una versione di questa storia è apparsa originariamente nel Futuro perfetto notiziario. Iscriviti qui!
