Come facciamo a sapere quando il mondo è cambiato?
Il 1 giugno, un team di scienziati ha pubblicato a articolo scientifico prestampato sostenendo di aver modificato il DNA embrionale umano con maggiore precisione di qualsiasi tentativo precedente. Come risultato tecnico, il lavoro è senza dubbio impressionante, poiché evita in gran parte gli errori che avevano accompagnato i precedenti tentativi di modificare geneticamente gli embrioni. Con un ulteriore sviluppo, tale editing embrionale potrebbe liberare i futuri bambini da malattie genetiche fatali o debilitanti, ma come afferma il veterano scrittore scientifico Carl Zimmer riportato sul New York Times più tardi quella settimanala vera notizia principale era che il lavoro “potrebbe aprire la strada a bambini progettati con caratteristiche particolari”: bambini su misura, in altre parole.
Lo stesso giorno in cui è stato pubblicato il pezzo del Times, la società di intelligenza artificiale Anthropic ha pubblicato un post affermando che l’intelligenza artificiale stava già accelerando lo sviluppo dell’intelligenza artificiale, che secondo gli autori potrebbe rappresentare un primo passo verso l’auto-miglioramento ricorsivo (RSI): sistemi di intelligenza artificiale che progettano e costruiscono i propri successori, sempre più velocemente. Già la maggior parte del codice che esegue Claude di Anthropic è stato scritto dallo stesso Claude, il che ha aiutato gli ingegneri dell’azienda a spedire una quantità di codice otto volte superiore rispetto a due anni fa. Anche se di più non è automaticamente meglio, e Claude lo è ancora lungi dall’essere in grado di guidarsi da solola possibilità di un’intelligenza artificiale auto-migliorante è all’orizzonte – e “potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata”, come hanno scritto il co-fondatore di Anthropic Jack Clark e la direttrice dell’Anthropic Institute Marina Favaro.
Questi due scritti sono stati pubblicati da biologi accademici e dipendenti di un’azienda di intelligenza artificiale, in due discipline estremamente disparate, ma indicano comunque un possibile futuro prossimo che è fondamentalmente diverso dal mondo in cui viviamo ora.
Entrambi gli eventi sono potenziali passi chiave verso poteri senza precedenti – non tutti sui quali avremmo un fermo controllo: intelligenze di nuova concezione e esseri umani di nuova concezione. Ciò che i due condividono non è solo la conseguenza, ma la bivalenza: la possibilità sia del miracoloso che del catastrofico. La precisione biologica in grado di debellare una malattia ereditaria come quella di Huntington potrebbe anche aprire la strada a un sistema genetico di caste. La capacità dell’intelligenza artificiale, che potrebbe accelerare decenni di progresso scientifico, potrebbe anche indebolire completamente i suoi creatori: noi.
La scorsa settimana il mondo potrebbe aver varcato una porta storica con entrambi questi progressi. Ma non possiamo ancora sapere di che tipo.
Fai prima il passo della biologia. Togliendo i titoli dei giornali – che provengono dai media, non dagli scienziati stessi – l’esperimento risulterà piuttosto ristretto.
Utilizzando i cosiddetti editor di base, che creano una piccola tacca in un filamento genetico anziché tagliare un intero segmento, come fa CRISPR, il genetista della Columbia University Dieter Egli e il suo team hanno modificato due geni: PCSK9 e HBG. Potresti aver sentito parlare del primo; PCSK9 produce una proteina che influenza la capacità del corpo di eliminare il colesterolo dal sangue e alcune mutazioni nel gene possono portare i livelli di colesterolo LDL pericolosamente alti. HBG codifica una forma di emoglobina su cui il corpo fa affidamento prima della nascita e che normalmente si spegne dopo. Essere in grado di controllare questi geni potrebbe prevenire le mutazioni che aumentano il rischio di malattie cardiache (PCSK9) e riattivare l’emoglobina fetale in età adulta, alleviando, anche se non curando, l’anemia falciforme e la beta-talassemia (HBG).
I ricercatori hanno inserito i loro redattori di base in ovociti fecondati e in embrioni umani a due cellule, e in alcuni casi sono riusciti a apportare le modifiche senza il danno cromosomico che era stato causato. associato a tentativi precedenti di modifica utilizzando CRISPR.
Il documento – che deve ancora essere sottoposto a revisione paritaria – rappresenta un impressionante passo avanti nello sforzo di utilizzare la tecnologia di editing genetico sui geni degli embrioni umani con maggiore precisione. Ma un risultato impressionante è ancora lontano dall’essere perfetto, o addirittura sicuro: alcune modifiche sono arrivate nel punto sbagliato del genoma e relativamente pochi embrioni hanno continuato a svilupparsi normalmente. (Gli embrioni, che erano stati donati da pazienti sottoposti a fecondazione in vitro, non erano stati sviluppati oltre gli stadi iniziali e nessuno era stato impiantato.) Egli e i suoi colleghi erano chiari nell’articolo sul fatto che qualsiasi idea di utilizzare la tecnica di editing di base come è ora per il trattamento è “prematura”. Ma lo studio mostra che ora tale modifica può essere effettuata senza distruggere i cromosomi.
Quando lo scienziato cinese He Jiankui utilizzato CRISPR convenzionale per modificare embrioni umani nel 2018, producendo tre figli, il suo lavoro è stato ampiamente rifiutato non solo per ragioni morali, ma anche tecniche, poiché il suo maldestro editing genetico ha causato un reale danno genetico. Se i risultati del nuovo studio dovessero confermarsi, gli ostacoli tecnici all’ingegneria degli embrioni inizierebbero a svanire.
Nessuno sa cosa verrà dopo. Alcuni disturbi genetici come l’anemia falciforme possono essere risolti con una modifica di un singolo gene, ma prevenendo problemi di salute più complessi – o ingegnerizzando i tratti alcune persone potrebbero sognarecome l’altezza o l’intelligenza, richiederebbero la modifica di centinaia o addirittura migliaia di geni in combinazioni che non comprendiamo ancora del tutto. Ma se le barriere tecniche continuano a cadere, tutto questo non potrà che scomparire quelli morali – e quelli morali raramente hanno trattenuto a lungo una tecnologia.
Per quanto rivoluzionaria possa essere la capacità di progettare veramente gli esseri umani, la biologia si muove ancora lentamente. Lo stesso non si può dire per l’oggetto dell’altro documento diffuso la settimana scorsa.
Il post di Anthropic utilizza oltre 5.000 parole e molta grafica (immagino) prodotta da Claude per sottolineare un unico punto: la percentuale di lavoro umano impiegato nella costruzione dell’intelligenza artificiale si sta riducendo in ogni fase. Gli ingegneri che una volta scrivevano il codice ora rivedono principalmente ciò che scrive Claude stesso. Gli esperimenti, una volta progettati manualmente, ora vengono sempre più proposti e gestiti dal modello. Mentre gli esseri umani continuano a esprimere giudizi su ciò che vale la pena costruire, Anthropic sostiene che anche questo ha iniziato a cambiare, poiché i dipendenti si rimettono sempre più a ciò che il modello propone di fare dopo.
Un ciclo di ricerca sempre più dominato dall’intelligenza artificiale stessa potrebbe muoversi sempre più velocemente. La tecnologia è sempre cambiata al ritmo degli esseri umani: quanto velocemente possono pensare, pianificare e agire. Un’intelligenza artificiale in grado di migliorarsi elimina quel limite di velocità, consentendo la reale possibilità che si muova più velocemente di quanto possa seguire qualsiasi essere umano o qualsiasi istituzione gestita da esseri umani incaricata di governarla. L’intelligenza stessa diventa fondamentale: ogni modello più intelligente ne costruisce uno ancora più intelligente, la reazione si sostiene da sola.
Potrebbe sembrare molto da aggiungere a pochi mesi di dati di codifica interna da parte di un’azienda di intelligenza artificiale che ha tutto l’interesse a far sembrare i suoi modelli il più forti e intelligenti possibile. (Soprattutto se quella società di intelligenza artificiale ha un IPO potenzialmente da record all’orizzonte.) Nel post, la stessa Anthropic ammette che il semplice conteggio delle righe di codice non basta e che la velocità è solo nella migliore delle ipotesi una metrica parziale del successo. Ma ricerca indipendente ha dimostrato che i modelli di intelligenza artificiale sono in grado di dedicare sempre più tempo a una singola attività, il che consente loro di lavorare non solo più velocemente ma anche più a fondo. Possiamo cavillare sulla velocità, ma non sull’idea che l’intelligenza artificiale stia andando avanti, e velocemente.
Un’intelligenza artificiale potente e incredibilmente veloce potrebbe portare a rapidi progressi economici, scientifici e medici: tutti i sogni CEO di Anthropic Dario Amodei ha esposto nella sua stessa scrittura.
Ma rischia anche di esserlo esistenzialmente pericoloso oltre ad essere profondamente depotenziante per la maggior parte di noi, non diversamente dal potenziamento genetico umano che potrebbe esserlo per coloro che sono esclusi. E la velocità potenziale di tale cambiamento è così grande che Anthropic avanza l’insolita proposta di invitare le aziende di intelligenza artificiale a considerare di rallentare collettivamente o addirittura sospendere temporaneamente lo sviluppo dell’intelligenza artificiale di frontiera, per consentire alle strutture sociali e alla ricerca sull’allineamento dell’intelligenza artificiale di tenere il passo. Gli autori del post di Anthropic citano specificamente i regimi internazionali costruiti per controllare le tecnologie pericolose del passato come le armi nucleari, che, nonostante tutti i loro problemi, hanno finora impedito al mondo di annientarsi. Ma quelle istituzioni, come l’Agenzia internazionale per l’energia atomica, hanno impiegato decenni di duro lavoro per essere costruite e, come notano i leader di Anthropic, quando si tratta di auto-miglioramento dell’IA: “Non abbiamo tutto questo tempo”.
Come facciamo a sapere quando il mondo è cambiato?
A volte è immediato. Quando Otto Hahn e Fritz Strassmann raggiunto fissione nucleare nel dicembre 1938, gli esperti ne compresero quasi immediatamente le implicazioni: una bomba nucleare sarebbe stata possibile. A volte gli scienziati lo vedono e il resto del mondo no. Quando Jennifer Doudna ed Emmanuelle Charpentier pubblicarono il documento fondamentale che descriveva dettagliatamente CRISPR nel 2012, l’attenzione iniziale della stampa era quasi inesistente e le istituzioni che alla fine avrebbero dovuto governarlo non avevano idea di cosa fosse appena successo.
I casi più difficili in assoluto sono quelli in cui anche gli esperti riescono a vederne solo la metà. La fissione puntava in una direzione, verso un’arma, e le persone che la capivano potevano fare ben poco per fermarla. Ciascuno dei due anticipi della settimana scorsa punta in due direzioni contemporaneamente. La stessa tecnologia di editing che potrebbe risparmiare un bambino da una malattia mortale è quella che potrebbe eventualmente classificare i bambini in caste genetiche. La stessa intelligenza che potrebbe regalarci “un Paese di geni in un data center”, come dice Amodei una volta messopotrebbe anche lasciarci poco più che spettatori al mondo.
Rimaniamo quindi al punto di partenza, su una soglia oltre la quale non possiamo vedere. Il pericolo non è solo quello di aver varcato la porta sbagliata. È che l’abbiamo attraversato senza accorgerci che ce n’era uno.
Una versione di questa storia è apparsa originariamente nel Futuro perfetto notiziario. Iscriviti qui!
