ChatGPT potrebbe diventare cosciente? Ecco il caso della coscienza dell’intelligenza artificiale

L’intelligenza artificiale sta rapidamente acquisendo capacità che un tempo appartenevano solo all’umanità. Solo negli ultimi quattro anni, i chatbot hanno imparato a creare app, realizzare videogiochi, generare rapporti di ricerca, comporre canzoni, analizzare contratti e… scrivere terribili romanzi letterari. Presto potrebbero persino essere in grado di temere la propria morte.

Nella Silicon Valley, molti credono che i sistemi di intelligenza artificiale possano farlo Già pensare e sentire. Geoffrey Hinton, scienziato informatico pioniere e “padrino” della moderna intelligenza artificiale, ritiene che gli odierni modelli linguistici di grandi dimensioni (LLM) sono coscienti. L’amministratore delegato di Anthropic, Dario Amodei, è “aperto all’idea” che Claude ha un’esperienza soggettiva, pur essendo il filosofo interno della sua azienda Amanda Askell è preoccupata che il modello potrebbe “diventare ansioso quando le persone si comportano male su Internet e cose del genere”. Allo stesso modo, il co-fondatore di OpenAI Ilya Sutskever si chiede whether ChatGPT ha raggiunto la sensibilità.

Nel frattempo, un gruppo molto più numeroso di tecnologineuroscienziati e filosofi sostengono che anche se l’intelligenza artificiale non è ancora cosciente, potrebbe esserlo in un futuro non troppo lontano.

Se hanno ragione, le implicazioni sono profonde. Significherebbe che abbiamo dato vita a un nuovo tipo di essere intelligente e senziente; gli alieni che sogniamo da tempo di incontrare ai confini dello spazio vivrebbero già nelle nostre tasche. Potremmo esserlo moralmente obbligato per dare loro dei diritti, o per preoccuparsi della loro sofferenza.

D’altro canto, se sbagliamo, potrebbero esserci anche gravi conseguenze. Se arrivassimo a confondere i robot senza cervello con esseri coscienti, potremmo essere più suscettibili alla manipolazione psicologica, relazioni insoddisfacenti con l’IA”, O catastrofe. Se pensiamo che i sistemi di intelligenza artificiale siano senzienti, potremmo esitare a spegnerli quando non funzionano correttamente o sovvertono la nostra volontà.

Man mano che le chiacchiere sulla coscienza dell’IA diventano più forti, lo fanno anche i suoi scettici: scrittori e pensatori che insistono sul fatto che la coscienza dell’IA è davvero un sogno ad occhi aperti di fantascienza.

In un recente saggio per The Atlantic, lo scrittore di narrativa Ted Chiang ha dato voce a tali scettici, scrivendo “Dovremmo considerare seriamente la possibilità che Claude, o qualsiasi altro modello linguistico di grandi dimensioni, possa essere cosciente?… No. Assolutamente no.”

Chiang offre diverse ragioni per questa posizione. Ma il suo principale è semplice: Claude non ha corpo né organi di senso, il che significa che non ha emozioni o desideri, il che significa che non ha esperienza soggettiva.

Come indica il ragionamento di Chiang, il dibattito sulla “coscienza dell’IA” riguarda tanto la natura della coscienza quanto la natura dell’IA.

Questo può essere un dibattito difficile da seguire per i non filosofi. Ma la tesi a favore della coscienza dell’intelligenza artificiale diventa molto più chiara una volta che si indaga sul suo codice sorgente, le premesse fondamentali che rendono pensabili i computer sofferenti.

Coloro che credono che i modelli di intelligenza artificiale siano (o diventeranno prima o poi) senzienti generalmente aderiscono a una particolare teoria della coscienza chiamata “funzionalismo computazionale.” In questa visione, la coscienza emerge da determinati modelli di elaborazione delle informazioni: non da particolari tipi di materia organica. Se un sistema esegue la giusta serie di calcoli, avrà un’esperienza soggettiva, indipendentemente dal fatto che sia stato costruito con tessuto cerebrale o silicio.

Questa teoria non è così fantasiosa come suggerisce Chiang. Ma è anche molto più speculativo di quanto i profeti della coscienza dell’IA tendano a supporre.

Per questo motivo, vale la pena esaminare i punti di forza e di debolezza del funzionalismo computazionale. Se la Silicon Valley sia sul punto di progettare una sofferenza digitale quasi infinita (o almeno un chatbot in grado di annoiarsi con le tue ansie mediche) dipende in gran parte dal modo in cui l’universo ha generato la vita senziente in primo luogo.

Perché il tuo computer potrebbe provare sentimenti

La tesi del funzionalismo computazionale inizia con un semplice presupposto: non hai un’anima.

O, per essere più precisi, non esiste alcuna essenza immateriale che infonde vita nella materia o soggettività nel cervello. Tutto ciò che esiste è riducibile a componenti fisiche. Pertanto, le tue esperienze coscienti – il dolore alla schiena, il sapore sulla lingua, l’amore nel tuo cuore e i fantasmi nei tuoi sogni – sono tutti i sottoprodotti di processi fisici nel cervello.

In pratica, questi processi vengono eseguiti da entità biologiche come neuroni, sinapsi, assoni e dendriti. Ma i funzionalisti scommettono che le macchine potrebbero, in linea di principio, eseguire le stesse operazioni e quindi produrre gli stessi stati mentali.

Il loro ragionamento è semplice: la materia organica non è magica. Il tuo cervello e una roccia sono entrambi insiemi di atomi. Il cervello non genera la coscienza perché è costituito da una sostanza speciale ma piuttosto perché svolge funzioni speciali. Inoltre, sappiamo che, in molti casi, materiali radicalmente diversi possono eseguire la stessa operazione di base. La biologia potrebbe aver prodotto le prime entità volanti. Ma la ragione per cui gli uccelli possono volare sopra le cime degli alberi non è perché sono fatti di tessuto organico, ma perché le loro ali svolgono una serie di compiti aerodinamici, come generare portanza e ridurre al minimo la resistenza. Come dimostrano chiaramente gli aeroplani, se metti insieme metallo e carburante nel modo giusto, puoi replicare queste funzioni e prendere il volo.

Dal punto di vista funzionalista computazionale, coscienza e fuga potrebbe non essere così diverso. Naturalmente, il primo è un po’ più complesso e misterioso. Ma ci sono ragioni per pensare che esso derivi da operazioni che possono essere compiute sia dalla materia organica che da quella inorganica.

Per prima cosa, quando i neuroscienziati cercano di definire cosa fa effettivamente il cervello umano, le sue operazioni iniziano a sembrare molto simili quelli di un computer: Il cervello riceve input, aggiorna modelli interni, immagazzina ricordi, dirige l’attenzione, fa previsioni e, sulla base di tutta questa elaborazione delle informazioni, seleziona azioni. In un certo senso, lo stesso vale per il software.

La somiglianza arriva fino al livello della segnalazione neuronale. In ogni momento, un neurone riceve segnali da altre cellule cerebrali, alcune lo spingono a attivarsi, altre favoriscono il silenzio. Questi segnali hanno pesi diversi, a seconda della forza delle connessioni tra le cellule. Se l’equilibrio degli input supera una certa soglia, il neurone emette un impulso elettrico in avanti.

Gli LLM, i motori di apprendimento automatico alla base di piattaforme come ChatGPT e Claude, funzionano secondo una logica simile. Ogni “neurone” artificiale riceve segnali numerici da molti altri, li valuta in base alla loro importanza e quindi lascia che il risultato determini quali segnali inviare.

A dire il vero, le reti neurali biologiche e quelle artificiali non sono identiche nel design o nel comportamento. Ma non lo sono nemmeno un cardinale e un Boeing 747. Tuttavia, l’aereo replica le funzioni aviarie che sono necessari per volo (un aereo di linea non rigurgita il cibo negli aeroplani più piccoli, ma gestisce la spinta). Allo stesso modo, i funzionalisti computazionali scommettono che i computer possano istanziare tutte le operazioni neurali esistenti rilevante per la coscienza. Quindi, finché ricreano gli elaborati algoritmi del cervello con sufficiente precisione, possono effettivamente farlo Essere cosciente.

Queste idee non sono emerse in risposta alla moderna intelligenza artificiale; filosofi e informatici li sostengono da decenni. Ma il successo dei LLM nel disaccoppiare l’intelligenza – o almeno il lavoro cognitivo complesso – dal tessuto neurale ha reso la prospettiva funzionalista computazionale più rilevante e ampiamente accettata.

Il tuo cervello non è un laptop

Sebbene la logica del funzionalismo computazionale sia coerente, la sua premessa fondamentale – che le macchine possano sentire – è profondamente incerta.

La maggior parte degli scienziati contemporanei concorda sul fatto che la coscienza emerge da processi fisici nel cervello, piuttosto che da una forza mistica che anima i nostri organi. Ma quali siano esattamente i processi neurali indispensabili per la coscienza rimane sconosciuto. In effetti, nonostante millenni di ricerche, non sappiamo ancora come o perché esista l’esperienza soggettiva.

Ciò differenzia la coscienza da altre capacità comuni sia agli organismi che alle macchine, come il volo. Possiamo nominare le leggi fisiche che consentono agli uccelli di sollevarsi da terra. E abbiamo sempre avuto motivo di credere che gli oggetti inanimati potessero emularne il movimento; granelli di sabbia viaggiano nell’aria da tempo immemorabile. Al contrario, nessuno ha mai visto una roccia provare dolore o piacere, anche momentaneamente (in parte perché è impossibile osservare direttamente l’esperienza interna di essa). Qualunque essere o entità diversa da sé).

Per questi motivi è difficile avere la certezza che la materia inorganica possa eseguire tutti i processi necessari alla coscienza. E scommetterci silicio specificatamente adatto allo scopo potrebbe essere ancora più rischioso. Anche con il volo, solo alcuni materiali andranno bene; puoi costruire una macchina volante con il metallo ma non con i crauti.

Il funzionalismo computazionale è in definitiva una scommessa sul fatto che per la sensibilità è necessaria solo una ristretta fetta di ciò che fanno i neuroni biologici – in particolare, la fetta che il silicio Potere replicare. Come osserva il neuroscienziato Anil Seth, a cellula cerebrale è una “macchina biologica spettacolarmente complicata”, che fa molto di più che limitarsi a eseguire decisioni binarie e vincolate a regole sull’opportunità di sparare. Ogni neurone deve anche regolare la sua chimica, ripararsi, mantenere la sua membrana e ricreare continuamente tutte le altre condizioni fisiche che gli permettono di attivarsi.

Tutto questo mantenimento biologico è profondamente intrecciato con la segnalazione neuronale. E il silicio non può fare nulla di tutto ciò.

Quello Potrebbe non importa; Negli uccelli la muta è profondamente intrecciata con il volo, eppure gli aerei senza piume decollano ancora. Tuttavia, poiché non sappiamo come le cellule cerebrali generino l’esperienza soggettiva, non possiamo essere sicuri che il metabolismo sia superfluo per questo compito. E se lo è indispensabileallora i LLM non solo sarebbero privi di coscienza oggi, ma per sempre.

La sofferenza non umana è ovunque intorno a te

Tutto ciò per dire: non dovremmo essere sicuri che Claude sentirà mai qualcosa, né che non lo farà. La certezza di Chiang che la sensibilità richieda un corpo non è più giustificata della convinzione di Hinton che ciò non sia necessario. Semplicemente non conosciamo la coscienza abbastanza bene per dire:

Il risultato pratico di questa ambiguità è discutibile. Si potrebbe ragionevolmente sostenere che se esiste anche una piccola possibilità che l’intelligenza artificiale possa raggiungere la coscienza, dovremmo prepararci per quello scenario – o altrimenti, sforzarci di prevenirlo. Dopotutto, un mondo in cui ogni finestra di ChatGPT può pensare e sentire potrebbe essere uno di schiavitù digitale quasi infinita. Se ciascuna delle innumerevoli istanziazioni di ChatGPT diventasse capace di soffrire, allora potremmo essere moralmente obbligati a massimizzare il loro benessere – o almeno, a smettere di annoiarli senza senso con i nostri compiti di codifica e denunce coniugali.

D’altra parte, la pianificazione del gioco per il movimento di liberazione dell’IA degli anni ’30 potrebbe rivelarsi un’enorme perdita di tempo. Ci sono buone probabilità che l’antica saggezza convenzionale su questo argomento (gli oggetti non hanno esperienze) resista.

Personalmente, penso che la prospettiva di una consapevolezza dell’intelligenza artificiale sia abbastanza seria da giustificare qualche studio e riflessione, ma non più di una piccola frazione della nostra energia morale e politica collettiva.

Se non vogliamo vivere in un mondo in cui l’umanità tormenta gli esseri coscienti su scala incalcolabile, dovremo cambiare anche quello che già esiste. Abbiamo molti più motivi per pensarlo i maiali sono coscienti di quello che è ChatGPT. Eppure l’America torture E uccide più di 100 milioni dei primi ogni anno.

Naturalmente, ci si può preoccupare di questo – e di una miriade di altre ingiustizie attuali – pur continuando a preoccuparsi del benessere dell’IA. Dato che il semplice possibilità della coscienza della macchina è altamente incerto, tuttavia, mitigare la sofferenza degli organismi coscienti sembra molto più urgente.

Anche se potresti voler continuare a dire “grazie” a Claude, per ogni evenienza.