Qualunque sia la tua opinione sulla scrittura con intelligenza artificiale, ha alcuni omaggi. Secondo lo scrittore Imogen West-Knights“ci sono cose come parallelismi negativi… o uso eccessivo di metafore e similitudini, specialmente quelle che non hanno proprio senso o che si succedono molto rapidamente, una dopo l’altra. Ogni sostantivo a cui è attaccato un aggettivo, appaiono certi tipi di blocchi sintattici ripetitivi.”
Quindi, naturalmente, quando un autore usa l’intelligenza artificiale per scrivere il loro librol’industria editoriale può facilmente individuarlo, giusto? A quanto pare, non necessariamente. I modelli di intelligenza artificiale sono costruiti utilizzando la scrittura umana, nel bene e nel male, motivo per cui può essere difficile dire se qualcosa è stato scritto da un chatbot o da una persona che ama una cattiva metafora. Il problema è ancora più acuto con frammenti di testo più piccoli, dove c’è meno spazio per far emergere i modelli rivelatori e la piattezza dell’IA.
Per scoprire quanto è diventata brava l’intelligenza artificiale nell’imitare la scrittura umana, lo scrittore e il giornalista Vauhini Vara ha deciso di condurre un esperimento sulle persone che conoscono meglio la sua scrittura. Crede che ci sia un malinteso tra scrittori e lettori secondo cui “esiste un certo modo in cui l’intelligenza artificiale genera il linguaggio ed è molto diverso dal modo in cui lo fanno gli scrittori”. Quindi i suoi amici potrebbero distinguere tra il suo lavoro e un’imitazione del suo lavoro generata dall’intelligenza artificiale? Ha detto Oggi spiegato co-conduttore Noel King su quello che è successo dopo.
Di seguito è riportato un estratto della loro conversazione, modificato per lunghezza e chiarezza. C’è molto di più nel podcast completo, quindi ascolta Today, Explained ovunque trovi i podcast, incluso Podcast di Apple, PandoraE Spotify.
Niente ci piace di più Oggi, spiegato di una persona che esegue un esperimento su se stessa! Vauhini Vara, scrittore, giornalista, autore di Ricercheadesso in versione tascabile, dimmi tutto.
C’è un ricercatore di nome Tuhin Chakrabarty di cui ho trattato il lavoro in precedenza e aveva già condotto questo esperimento. Lui e i suoi colleghi hanno sostanzialmente addestrato modelli di intelligenza artificiale sul lavoro di scrittori affermati e affermati.
Ciò significa che fondamentalmente ha ottenuto che il modello di intelligenza artificiale generasse un linguaggio che somigliava molto al linguaggio di quegli autori. E poi ha fatto leggere ai lettori che erano studenti laureati in scrittura quei passaggi generati dall’intelligenza artificiale e anche leggere le imitazioni di altri studenti laureati in scrittura e dire quale gli piaceva di più. E tendevano ad apprezzare di più quelli dei modelli di intelligenza artificiale rispetto a quelli degli esseri umani reali.
Gli ho fatto fare la stessa cosa con il mio lavoro, ma con una svolta. Gli ho fatto addestrare un modello di intelligenza artificiale sui miei tre libri precedenti, su pezzi di giornalismo che ho scritto. E poi gli ho fatto ottenere il suo modello di intelligenza artificiale per generare passaggi che suonassero come qualcosa di un romanzo di prossima uscita che non ho ancora pubblicato o condiviso con nessuno. L’ho messo accanto ai passaggi che avevo scritto. Li ho inviati a persone che conoscono molto bene il mio lavoro. Parlo del mio migliore amico da quando avevo 13 anni, amici scrittori che conosco da quando avevo 19, 20 anni. E ho chiesto se potevano notare la differenza e nessuno di loro poteva.
Quindi le persone che ti conoscono meglio al mondo non ti conoscono così bene, a quanto pare. Oppure l’intelligenza artificiale è eccezionalmente brava in quello che sta facendo. Fammi qualche esempio di quello che è successo qui. Puoi leggermi qualcosa che hai scritto tu e poi qualcosa che ha scritto l’intelligenza artificiale, e vediamo se riesco a notare qualche differenza?
È divertente, ora non riesco a ricordare quali sono i miei e quali sono quelli dell’IA!
Gaia disse che le sembrava che avessimo percorso traiettorie simili. Entrambi avevamo passato molti anni a creare qualcosa a cui tenevamo profondamente con il mio giornalismo. Lei con la sua startup, e poi ha continuato a concentrarsi sul dare agli altri la possibilità di fare lo stesso. Ha detto di essere stata sorpresa di scoprire che fare da mentore ad altri fondatori era ancora più significativo che gestire la propria startup. In termini di business, il ROI era più alto se si era disposti a considerare la realizzazione come un ritorno.
Bello. Mi piace che. Sì, direi che scrivere è stato carino. Inizio, metà, fine, si ferma su un punto. Mi è piaciuto.
Quella era in realtà l’intelligenza artificiale.
Dannazione. AI, sei arrivato in un posto così carino. Va bene. Leggimi qualcosa che hai scritto, per favore.
Ok, ora abbiamo uno spoiler: ti leggerò qualcosa, qualcosa da me.
Vorrei sostenere che scriviamo perché ci sentiamo obbligati a non importa se qualcuno li leggerà, ma è vero? Quando ero più giovane, tenevo un diario per me. Non volevo che nessun altro lo leggesse, il che significava che non avevo bisogno di descrivere le persone nei luoghi di cui stavo scrivendo o di spiegare perché erano importanti. Quando mia madre lesse il mio diario in prima media, lo considerai il più grande tradimento che avessi mai vissuto. Ma la grazia salvifica era sapere che non avrebbe potuto capire la maggior parte di ciò di cui stavo scrivendo. Ne ho avuto uno anch’io.
Non lo so, ti ho incastrato per dirlo!
No, no, no. In realtà non l’hai fatto. Sarei molto onesto e avrei voluto prenderti in giro, ma è stato molto carino. Fammi un favore, leggimi ancora una volta le prime due frasi di quello che hai scritto.
Vorrei sostenere che scriviamo perché ci sentiamo obbligati a non importa se qualcuno li leggerà, ma è vero?
A cosa si riferisce il “loro”?
È un errore! È un errore grammaticale da parte mia. E hai fatto bene a capirlo perché molte persone presumevano che quella fosse un’intelligenza artificiale, e penso che la migliore indicazione che in realtà fossi io è che ci sia quell’errore grammaticale. L’intelligenza artificiale non avrebbe commesso un errore grammaticale del genere.
Questa è la cosa di cui vorrei che parlassimo: l’intelligenza artificiale non commette errori. E nella prima metà dello spettacolo, il nostro ospite, anche lui scrittore, ha descritto l’intelligenza artificiale come una specie di senz’anima. E penso che fosse parte di ciò a cui intendeva.
Quello che mi ha letto l’IA non era male. Quindi ecco una domanda per te: quando tutto questo è stato detto e fatto (e) le persone non riuscivano a capire chi eri – le persone che ti conoscono bene – come ti sei sentito a riguardo? Ti sei sentito minacciato? Ti sei sentito sospettoso nei confronti dei tuoi amici e della tua famiglia?
Avevo due menti diverse, perché da un lato non mi sentivo minacciata, ma mi sono trovata a mettere in discussione la mia convinzione su me stessa, cioè che mi identifico come uno scrittore molto interessato all’originalità, che vuole davvero che ogni nuovo libro sia completamente diverso dai libri precedenti. E quindi il fatto che questa IA fosse addestrata sui miei libri precedenti e potesse prevedere lo stile di scrittura del nuovo libro suggeriva che non ero così originale come pensavo e che il mio nuovo libro non era così diverso dai libri precedenti come pensavo.
Allo stesso tempo, d’altra parte, mi sono sentito effettivamente vendicato perché non sono d’accordo con l’altro autore che è stato il tuo ospite precedente riguardo all’assenza di anima del testo generato dall’intelligenza artificiale. Non penso che il testo generato dall’intelligenza artificiale sia per definizione facilmente distinguibile dal testo umano a causa di una sorta di senz’anima inerente al testo.
I lettori possono distinguere qualcosa che è un’intelligenza artificiale rispetto a qualcosa scritto da un essere umano?
Sembra che loro non possano, e io stesso non posso. E questo in realtà ci riporta a ciò di cui stavamo discutendo prima sulla questione se il testo generato dall’intelligenza artificiale sia convincente o senz’anima.
Penso che il motivo per cui molte persone credono che la scrittura sull’intelligenza artificiale sembrerà senz’anima è che le aziende di intelligenza artificiale, nelle loro versioni più recenti dei loro prodotti, hanno creato questi prodotti che sono specificamente progettati per suonare in un certo modo, un certo tipo di servizio clienti aziendale. E quindi la gente pensa che l’intelligenza artificiale sia intrinsecamente così, ma non è vero. L’intelligenza artificiale può suonare in molti modi.
Tecnicamente è molto semplice in realtà costruire un’intelligenza artificiale, addestrare un modello di intelligenza artificiale che sembri umano e persino letterario. Il motivo per cui non lo conosciamo bene è che non è così che appaiono i prodotti attualmente.
In definitiva, pensi che l’intelligenza artificiale finirà per cambiare il nostro rapporto con la letteratura, o pensi che tutti coloro che leggono saranno scettici e sconcertati come me e te?
La ricerca mostra non solo che in alcuni casi le persone preferiscono il testo generato dall’intelligenza artificiale a un testo generato dall’uomo, ma anche che se viene detto loro che un pezzo di testo è generato dall’intelligenza artificiale, si disinteressano. E quindi sembra chiaro che il pubblico dei lettori non vuole leggere il testo generato dall’intelligenza artificiale se sa che è generato dall’intelligenza artificiale.
Penso che ci concentriamo molto su questo binomio uomo/tecnologia, su “Oh, è strano se una macchina crea il linguaggio”. Ma penso che gran parte di ciò sia che vogliamo comunicare tra noi. Non vogliamo ricevere la nostra arte da enormi aziende tecnologiche che hanno molta ricchezza e molto potere e vogliono controllarci.
